Populaire onderwerpen
#
Bonk Eco continues to show strength amid $USELESS rally
#
Pump.fun to raise $1B token sale, traders speculating on airdrop
#
Boop.Fun leading the way with a new launchpad on Solana.

Tom Davidson
Senior onderzoeker @forethought_org
Inzicht in de intelligentie-explosie en hoe u zich kunt voorbereiden
Een natuurkundige stelt dat het onmogelijk is om een Dyson-sfeer in onze levens te bouwen.
Ik was niet overtuigd - zie mijn antwoord:

Prakash1 nov, 03:04
Dyson Sphere tegen 2040?
> Paul Christiano gaf een kans van 15% op een Dyson Sphere tegen 2040 op @dwarkesh_sp 
> Dus nodigde ik @Astro_Wright uit, astronoom en astrofysicus aan de Penn State, een specialist in het detecteren van buitenaardse technologische handtekeningen om uit te zoeken of het mogelijk zou zijn.
Hoogtepunten:
Over de Fysica van Dyson Sferen
> Over de Ultieme Beperking - Koeling: "Het enige wat je kunt doen is radiatoren plaatsen en de warmte laten uitstralen... je hebt geen rivier in de buurt, je kunt geen waterkoeling doen, je kunt geen ventilatoren eroverheen blazen. Er is geen lucht."
> Over Het Bouwen van Heet, Niet Koud: "Ik verwacht eigenlijk dat de Dyson sferen zo heet mogelijk zullen zijn als ze de berekeningen maximaliseren... Ik denk dat deze dingen kamertemperatuur of warmer zullen zijn."
Over het Bouwen van een Dyson Sphere
> Over het Demontage van Jupiter: "Je zou Jupiter kunnen demonteren en een Dyson sphere bouwen... Hij [Freeman Dyson] werkte de details uit, zoals, het is totaal mogelijk om een planeet te demonteren."
> Over de Onmogelijkheden van een Snelle Dyson Sphere: "Het is letterlijk onmogelijk om zo snel een Dyson sphere rond de zon te bouwen [in 50 jaar]... Het is niet dat ik niet creatief ben. Het is dat er niet genoeg massa is. De massa zit in Jupiter."
> Over de Enorme Energie die Vereist is: "Als je alle energie die de zon in 50 jaar uitstraalt zou nemen en met perfecte efficiëntie zou gebruiken om massa van Jupiter op te tillen, zou je nog steeds niet genoeg tijd hebben."
> Over de Sleuteltechnologie die Vereist is: "Ik denk dat je exponentiële groei moet aanroepen. Je hebt een manier nodig om een runaway-exponentieel te hebben dat zoveel materiaal mijnbouwt, zoveel dingen bouwt... Ik denk dat het zelf-replicerende machines zijn, Von Neumann machines."
Over het Detecteren van Buitenaardse Beschavingen
> Over de Onmogelijkheden van Verbergen: "Het is heel moeilijk om te verbergen dat je energie gebruikt... je kunt het niet vasthouden, je smelt alles. En wanneer je het kwijt raakt, zal het duidelijk zijn."
> Over Hoe Gemakkelijk Ze te Vinden Zijn: "Zoiets zou extreem detecteerbaar zijn... Zelfs als het maar 1 of 2% van het licht van een ster zou vangen, zou dat nog steeds vrij duidelijk zijn. Het zou er behoorlijk anomalisch uitzien."
> Over het Vinden van een Verborgen Beschaving: "Je kunt infraroodgoggles opzetten en je ziet wie de verwarming aan heeft. Zoals de huizen die van binnen warm zijn... je kunt de warmte die van die huizen afkomt zien."
> Over het Uitsluiten van Super-Beschavingen: "We konden aantonen dat er uit de 100.000 dichtstbijzijnde sterrenstelsels bij de Melkweg, er geen van die [Type III beschavingen] zijn."
Over de Ruimte-industrie die de Wetenschap Vernietigt
> Over de Perfecte Plaats voor Buitenaardse Jacht: "Een radiotelescoop aan de andere kant van de maan plaatsen zou geweldig zijn... de maan fungeert als een schild en er is geen radiofrequentie-interferentie."
> Over de Bedreiging voor de Verre Kant van de Maan: "Zodra je zegt: 'Oké, we willen iets bouwen aan de andere kant van de maan,' is iedereen zo van: 'Geweldig, laten we de infrastructuur bouwen'... en ze zetten al deze draadloze communicatie op over de maan. En je denkt: 'Dat ondermijnt het hele doel.'"
> Over de Impact van Starlink op de Wetenschap: "Starlink ging omhoog en heeft al onze plannen voor astronomie volledig verwoest... En nu elke keer dat het een foto maakt, wordt het 'Starlinked.' Dat noemen we het. Grote strepen door elke afbeelding."
> Over de Race om Mars te Bestuderen: "We moeten een beetje opschieten en al onze levensdetectie-experimenten doen voordat de voeten daar de grond raken... Zodra mensen naar Mars gaan, zullen we het besmetten."
Dit was tot nu toe de beste podcast die ik heb gedaan. Links hieronder:
154
Veel mensen denken dat een AI-overname zeer waarschijnlijk zou leiden tot de uitsterving van de mensheid. 
Ik denk dat dat verkeerd is. 
Stel je een schaal voor van "hoeveel AI om mensen geeft" die varieert van 0% tot 100%. 
100% --> geen AI-overname
0% --> AI-overname en menselijke uitsterving
Merk op dat er een GROOT deel van die schaal is waar AI overneemt maar geen mensen doodt:
0,01% tot 50% --> AI-overname maar GEEN menselijke uitsterving
Ik denk dat dit tussenliggende deel van het bereik veel waarschijnlijkheid zou moeten krijgen.
Waarom is 0,01% om uitsterving te vermijden? Omdat het heel goedkoop is voor superintelligentie om mensen in leven te houden en ons geweldige levens te geven.
Er zijn twee redenen waarom AI om mensen zou kunnen geven >0,01%:
1. AI zou intrinsiek om mensen kunnen geven, omdat afstemming een beetje heeft gewerkt. 
- We geven een beetje om koeien en planten, ook al hadden ze geen controle over hoe we zijn geëvolueerd.
- We zullen veel trainingsdata toevoegen om te proberen AIs om ons te laten geven; een deel daarvan kan blijven hangen, zelfs als afstemming in het algemeen faalt.
2. AI zou instrumenteel om mensen kunnen geven, omdat het verwacht dat andere agenten het zullen belonen voor het in leven houden van mensen (via acausale handel, of als de AI in een simulatie is). 
- bijv. de AI doet acausale handel met een nabijgelegen Everett-tak waar mensen de afstemming hebben opgelost.
- bijv. de AI denkt dat het misschien in een simulatie is die door mensen wordt uitgevoerd.
@RyanPGreenblatt heeft een geweldige post over dit onderwerp (link hieronder). Ik ben iets optimistischer dan hij.
4,89K
Boven
Positie
Favorieten

