Subiecte populare
#
Bonk Eco continues to show strength amid $USELESS rally
#
Pump.fun to raise $1B token sale, traders speculating on airdrop
#
Boop.Fun leading the way with a new launchpad on Solana.

Tom Davidson
Cercetător principal @forethought_org
Înțelegerea exploziei de informații și cum să te pregătești
Un fizician susține că este imposibil să construim o sferă Dyson în timpul vieții noastre.
Nu am fost convins - vezi răspunsul meu:

Prakash1 nov., 03:04
Dyson Sphere până în 2040?
> Paul Christiano a dat o probabilitate de 15% pentru o sferă Dyson până în 2040 pe @dwarkesh_sp 
> Așa că l-am invitat pe @Astro_Wright, astronom și astrofizician de la Penn State, specialist în detectarea semnăturilor tehnologice extraterestre pentru a-și da seama dacă ar fi posibil
Evidențiază:
Despre fizica sferelor Dyson
> Despre limitatorul suprem - răcire: "Singurul lucru pe care îl puteți face este să stingeți caloriferele și să lăsați căldura să radieze... Nu ai un râu în apropiere, nu poți răci cu apă, nu poți sufla ventilatoare peste el. Nu există aer."
> Despre construirea lor calde, nu la rece: "De fapt, mă aștept ca sferele Dyson să fie cât mai fierbinți posibil dacă maximizează calculul... Cred că aceste lucruri vor fi la temperatura camerei sau mai calde."
Despre construirea unei sfere Dyson
> Despre dezasamblarea lui Jupiter: "Ai putea dezasambla Jupiter și construi o sferă Dyson... El [Freeman Dyson] a rezolvat detaliile de genul, este total posibil să dezasamblezi o planetă."
> despre imposibilitatea unei sfere Dyson rapide: "Este literalmente imposibil să construiești o sferă Dyson în jurul Soarelui atât de repede [în 50 de ani]... Nu este că nu sunt imaginativă. Este că nu există suficientă masă. Masa este în Jupiter."
> despre energia pură necesară: "Dacă ai lua toată energia pe care soarele o emite timp de 50 de ani și ai folosi-o cu o eficiență perfectă pentru a ridica masa de pe Jupiter, tot nu ai avea suficient timp".
> despre tehnologia cheie necesară: "Cred că trebuie să invoci o creștere exponențială. Ai nevoie de o modalitate de a avea un exponențial scăpat care extrage atât de mult material, construiește atât de multe lucruri... Cred că sunt mașini care se auto-reproduc, mașini Von Neumann."
Despre detectarea civilizațiilor extraterestre
> despre imposibilitatea de a te ascunde: "Este foarte greu să ascunzi faptul că folosești energie... Nu poți să-l păstrezi, vei topi totul. Și când vei scăpa de el, va fi evident."
> despre cât de ușor sunt de găsit: "Așa ceva ar fi extrem de detectabil... Chiar dacă ar capta doar 1 sau 2% din lumina unei stele în total, acest lucru ar fi totuși destul de evident. Ar arăta destul de anormal."
> despre găsirea unei civilizații ascunse: "Poți să-ți pui ochelari cu infraroșu și vei vedea cine are căldura. Ca casele care sunt calde pe dinăuntru... poți vedea căldura ieșind din acele case."
> Despre excluderea super-civilizațiilor: "Am reușit să arătăm că din cele 100.000 de galaxii cele mai apropiate de Calea Lactee, nu există niciuna dintre aceste [civilizații de tip III]."
Despre industria spațială care distruge știința
> Despre locul perfect pentru vânătoarea de extratereștri: "A pune un radiotelescop pe partea îndepărtată a Lunii ar fi uimitor... Luna acționează ca un scut și nu există interferențe de radiofrecvență."
> despre amenințarea la adresa părții îndepărtate a Lunii: "De îndată ce spui: "Bine, vrem să construim ceva pe partea îndepărtată a Lunii", toată lumea spune: "Grozav, hai să construim infrastructura"... și au stabilit toată această comunicare fără fir pe Lună. Și tu spui: 'Asta învinge întregul scop'".
> despre impactul Starlink asupra științei: "Starlink a crescut și a distrus complet toate planurile noastre pentru astronomie... Și acum, de fiecare dată când face o fotografie, devine "Starlinked". Așa o numim noi. Mari dungi vechi prin fiecare imagine."
> despre cursa pentru studierea lui Marte: "Trebuie să ne grăbim și să facem toate experimentele noastre de detectare a vieții înainte ca cizmele să lovească pământul acolo... De îndată ce oamenii merg pe Marte, îl vom contamina."
Acesta a fost de departe cel mai bun pod pe care l-am făcut până acum. Link-uri de mai jos:
1,7K
Mulți oameni cred că preluarea AI ar duce foarte probabil la dispariția umană. 
Cred că este greșit. 
Imaginați-vă o scară de "cât de mult îi pasă AI de oameni" care variază de la 0% la 100%. 
100% --> nicio preluare AI
0% --> Preluarea AI și extincția umană
Observați că există o mare parte a acelei scări în care AI preia controlul, dar nu ucide oamenii:
0,01% până la 50% --> preluare AI, dar FĂRĂ extincție umană
Cred că această parte intermediară a intervalului ar trebui să primească multă masă probabilă.
De ce este 0,01% pentru a evita dispariția? Bc este foarte ieftin pentru superinteligență să mențină oamenii în viață și să ne ofere vieți uimitoare.
Există două motive pentru care AI ar putea să-i pese de oameni >0,01%:
1. AI ar putea să-i pese intrinsec, alinierea bc a funcționat puțin. 
- Ne pasă puțin de vaci și plante, chiar dacă nu aveau control asupra modului în care am evoluat
- Vom adăuga o mulțime de date de antrenament pentru a încerca să facem AI-urile să aibă grijă de noi; unele dintre ele s-ar putea să rămână chiar și de aliniere eșuează în mare măsură
2. AI ar putea avea grijă instrumental, deoarece se așteaptă ca alți agenți să o recompenseze pentru menținerea oamenilor în viață (prin comerț acauzal, sau dacă AI este într-o simulare). 
- de exemplu, AI face comerț acauzal cu o ramură Everett din apropiere, unde oamenii au rezolvat alinierea
- de exemplu, AI crede că ar putea fi într-o simulare condusă de oameni
@RyanPGreenblatt o postare grozavă care discută despre acest lucru (linkul de mai jos). Sunt puțin mai optimist decât el
4,89K
Limită superioară
Clasament
Favorite

