Trendande ämnen
#
Bonk Eco continues to show strength amid $USELESS rally
#
Pump.fun to raise $1B token sale, traders speculating on airdrop
#
Boop.Fun leading the way with a new launchpad on Solana.

Tom Davidson
Äldre forskare @forethought_org
Förstå intelligensexplosionen och hur man förbereder sig
En fysiker hävdar att det är omöjligt att bygga en Dysonsfär under vår livstid.
Jag var inte övertygad - se mitt svar:

Prakash1 nov. 03:04
Dyson Sphere år 2040?
> Paul Christiano gav en 15% sannolikhet för en Dyson Sphere år 2040 på @dwarkesh_sp 
> Så jag bjöd in @Astro_Wright, astronom och astrofysiker vid Penn State, en specialist på att upptäcka utomjordiska teknologiska signaturer, för att ta reda på om det skulle vara möjligt
Höjdpunkter:
Om fysiken i Dyson Spheres
> Om den ultimata begränsaren - kylning: "Det enda du kan göra är att sätta ut radiatorer och låta värmen stråla bort... Du har ingen flod i närheten, du kan inte kyla vatten, du kan inte blåsa fläktar över den. Det finns ingen luft."
> om att bygga dem varma, inte kalla: "Jag förväntar mig faktiskt att Dyson-sfärerna ska vara så varma som möjligt om de maximerar beräkningen ... Jag tror att de här sakerna kommer att vara rumstempererade eller varmare."
Om att bygga en Dyson Sphere
> Om att demontera Jupiter: "Du skulle kunna plocka isär Jupiter och bygga en Dysonsfär... Han [Freeman Dyson] räknade ut detaljerna som att det är fullt möjligt att demontera en planet."
> om omöjligheten av en snabb Dysonsfär: "Det är bokstavligen omöjligt att bygga en Dysonsfär runt solen så snabbt [på 50 år]... Det är inte så att jag inte är fantasifull. Det är att det inte finns tillräckligt med massa. Massan finns i Jupiter."
> om den rena energi som krävs: "Om du tog all energi som solen avger i 50 år och med perfekt effektivitet använde den för att lyfta massa från Jupiter, skulle du fortfarande inte ha tillräckligt med tid."
> om den viktigaste tekniken som krävs: "Jag tror att man måste åberopa exponentiell tillväxt. Du behöver något sätt att ha en skenande exponentiell som bryter så mycket material, bygger så många saker ... Jag tror att det är självreplikerande maskiner, Von Neumann-maskiner.
Om att upptäcka utomjordiska civilisationer
> om det omöjliga i att gömma sig: "Det är väldigt svårt att dölja det faktum att du använder energi... Du kan inte behålla den, du kommer att smälta allt. Och när du blir av med det kommer det att vara uppenbart."
> om hur lätta de är att hitta: "En sådan sak skulle vara extremt detekterbar... Även om den bara fångade 1 eller 2 % av en stjärnas ljus totalt, skulle det fortfarande vara ganska uppenbart. Det skulle se ganska avvikande ut."
> om att hitta en gömd civilisation: "Du kan ta på dig infraröda glasögon så ser du vem som har värmen på. Gillar husen som är varma på insidan... Du kan se värmen komma från de där husen."
> Om att utesluta supercivilisationer: "Vi kunde visa att av de 100 000 galaxer som ligger närmast Vintergatan finns det inte någon av dessa [civilisationer av typ III]."
Om rymdindustrin: Wrecking Science
> på den perfekta platsen för utomjordisk jakt: "Att placera ett radioteleskop på månens baksida skulle vara fantastiskt... Månen fungerar som en sköld och det finns inga radiofrekvensstörningar."
> om hotet mot månens baksida: "Så fort du säger: 'Okej, vi vill bygga något på månens baksida', säger alla: 'Bra, låt oss bygga infrastrukturen'... Och de satte upp all denna trådlösa kommunikation över månen. Och du tänker: 'Det motverkar hela syftet.'"
> om Starlinks inverkan på vetenskapen: "Starlink gick upp och förstörde helt och hållet alla våra planer för astronomi... Och nu varje gång den tar en bild blir den "Starlinked". Det är vad vi kallar det. Stora gamla streck genom varje bild."
> Om kapplöpningen för att studera Mars: "Vi fick liksom skynda oss och göra alla våra experiment med att upptäcka liv innan stövlarna slog i marken där... Så fort människor åker till Mars kommer vi att förorena den.
Det här var helt klart den bästa podden jag gjort hittills. Länkar nedan:
1,7K
Många tror att AI-övertagandet med stor sannolikhet skulle leda till mänsklig utrotning. 
Jag tycker att det är fel. 
Föreställ dig en skala för "hur mycket AI bryr sig om människor" som sträcker sig från 0 % till 100 %. 
100 % > inget AI-övertagande
0 % – > övertagande av AI och mänsklig utrotning
Lägg märke till att det finns en STOR del av den skalan där AI tar över men inte dödar människor:
0,01 % till 50 % > AI-övertagande men INGEN mänsklig utrotning
Jag tror att denna mellanliggande del av intervallet borde få en hel del sannolikhet massa.
Varför är 0,01% för att undvika utrotning? Det är billigt för superintelligens att hålla människor vid liv och ge oss fantastiska liv.
Det finns två anledningar till att AI kan bry sig om människor >0,01 %:
1. AI kanske bryr sig i sig, bc-anpassning fungerade lite. 
- Vi bryr oss lite om kor och växter även om de inte hade någon kontroll över hur vi utvecklades
- Vi kommer att lägga till massor av träningsdata för att försöka få AI att bry sig om oss; En del av det kan fastna även om anpassningen i stort sett misslyckas
2. AI kan bry sig instrumentellt, eftersom den förväntar sig att andra agenter kommer att belöna den för att hålla människor vid liv (via akausal handel, eller om AI är i en simulering). 
- t.ex. AI:n gör acausal handel med en närliggande Everett-filial där människor löste anpassningen
- t.ex. AI:n tror att den kan vara i en simulering som körs av människor
@RyanPGreenblatt har ett bra inlägg där vi diskuterar detta (länk nedan). Jag är lite mer optimistisk än honom
4,9K
Topp
Rankning
Favoriter

