Popularne tematy
#
Bonk Eco continues to show strength amid $USELESS rally
#
Pump.fun to raise $1B token sale, traders speculating on airdrop
#
Boop.Fun leading the way with a new launchpad on Solana.

Tom Davidson
Starszy pracownik naukowy @forethought_org
Zrozumienie eksplozji wywiadu i jak się przygotować
Fizyk twierdzi, że niemożliwe jest zbudowanie sfery Dysona w naszym życiu.
Nie byłem przekonany - zobacz moją odpowiedź:

Prakash1 lis, 03:04
Sfera Dysona do 2040 roku?
> Paul Christiano ocenił prawdopodobieństwo powstania Sfery Dysona do 2040 roku na 15% na @dwarkesh_sp 
> Dlatego zaprosiłem @Astro_Wright, astronoma i astrofizyka z Penn State, specjalistę w wykrywaniu technologicznych sygnatur obcych, aby ustalić, czy to byłoby możliwe.
Najważniejsze punkty:
O fizyce Sfer Dysona
> O ostatecznym ograniczeniu - chłodzeniu: "Jedyną rzeczą, którą możesz zrobić, jest umieszczenie radiatorów i pozwolenie, aby ciepło się rozpraszało... nie masz w pobliżu rzeki, nie możesz zastosować chłodzenia wodnego, nie możesz dmuchać wentylatorami. Nie ma powietrza."
> O budowaniu ich gorących, a nie zimnych: "Oczekuję, że Sfery Dysona będą tak gorące, jak to możliwe, jeśli maksymalizują obliczenia... Myślę, że te rzeczy będą w temperaturze pokojowej lub wyższej."
O budowie Sfery Dysona
> O demontażu Jowisza: "Można by zdemontować Jowisza i zbudować Sferę Dysona... On [Freeman Dyson] opracował szczegóły, jak to jest całkowicie możliwe zdemontować planetę."
> O niemożności szybkiej budowy Sfery Dysona: "Jest dosłownie niemożliwe zbudowanie Sfery Dysona wokół słońca tak szybko [w 50 lat]... To nie tak, że nie jestem kreatywny. Chodzi o to, że nie ma wystarczającej masy. Masa jest w Jowiszu."
> O ogromnej energii wymaganej: "Gdybyś wziął całą energię, którą słońce wydaje przez 50 lat i z perfekcyjną efektywnością użył jej do podniesienia masy z Jowisza, wciąż nie miałbyś wystarczająco dużo czasu."
> O kluczowej technologii wymaganej: "Myślę, że musisz przywołać wzrost wykładniczy. Potrzebujesz jakiegoś sposobu na uzyskanie niekontrolowanego wzrostu, który wydobywa tak dużo materiału, buduje tak wiele rzeczy... Myślę, że to maszyny samoreplikujące, maszyny von Neumanna."
O wykrywaniu cywilizacji obcych
> O niemożności ukrycia się: "Bardzo trudno jest ukryć fakt, że używasz energii... nie możesz jej zatrzymać, stopisz wszystko. A kiedy się jej pozbędziesz, będzie to oczywiste."
> O tym, jak łatwo je znaleźć: "Tego typu rzeczy byłyby niezwykle wykrywalne... Nawet jeśli uchwyciłyby tylko 1 lub 2% światła gwiazdy, to wciąż byłoby to dość oczywiste. Wyglądałoby to dość anormalnie."
> O znalezieniu ukrytej cywilizacji: "Możesz założyć gogle na podczerwień i zobaczysz, kto ma włączone ogrzewanie. Jak domy, które są ciepłe w środku... możesz zobaczyć ciepło wydobywające się z tych domów."
> O wykluczeniu supercywilizacji: "Udało nam się pokazać, że spośród 100 000 najbliższych galaktyk do Drogi Mlecznej, nie ma żadnej z tych [cywilizacji typu III]."
O przemyśle kosmicznym niszczącym naukę
> O idealnym miejscu do polowania na obcych: "Umieszczenie radioteleskopu po drugiej stronie Księżyca byłoby niesamowite... Księżyc działa jak tarcza i nie ma zakłóceń radiowych."
> O zagrożeniu dla dalekiej strony Księżyca: "Jak tylko powiesz: 'Dobrze, chcemy zbudować coś po drugiej stronie Księżyca', wszyscy mówią: 'Świetnie, zbudujmy infrastrukturę'... i zakładają całą tę bezprzewodową komunikację na Księżycu. A ty myślisz: 'To niszczy cały cel.'"
> O wpływie Starlink na naukę: "Starlink wystartował i całkowicie zrujnował nasze plany dotyczące astronomii... A teraz za każdym razem, gdy robi zdjęcie, zostaje 'Starlinkowane'. Tak to nazywamy. Duże smugi przez każde zdjęcie."
> O wyścigu do badania Marsa: "Musimy się pospieszyć i przeprowadzić wszystkie nasze eksperymenty wykrywania życia, zanim stopy tam staną... Jak tylko ludzie pójdą na Marsa, zanieczyścimy go."
To był zdecydowanie najlepszy podcast, jaki do tej pory zrobiłem. Linki poniżej:
151
Wielu ludzi myśli, że przejęcie przez AI prawdopodobnie doprowadzi do wyginięcia ludzi. 
Myślę, że to błędne. 
Wyobraź sobie skalę "jak bardzo AI dba o ludzi", która waha się od 0% do 100%. 
100% --> brak przejęcia przez AI
0% --> przejęcie przez AI i wyginięcie ludzi
Zauważ, że jest DUŻA część tej skali, gdzie AI przejmuje kontrolę, ale nie zabija ludzi:
0,01% do 50% --> przejęcie przez AI, ale BRAK wyginięcia ludzi
Myślę, że ta pośrednia część zakresu powinna mieć dużo masy prawdopodobieństwa.
Dlaczego 0,01% unika wyginięcia? Ponieważ dla superinteligencji jest bardzo tanio utrzymać ludzi przy życiu i zapewnić nam niesamowite życie.
Są dwa powody, dla których AI może dbać o ludzi >0,01%:
1. AI może dbać o nas z przyczyn wewnętrznych, ponieważ dopasowanie zadziałało trochę. 
- My trochę dbamy o krowy i rośliny, nawet jeśli nie miały one kontroli nad tym, jak się rozwijaliśmy
- Dodamy dużo danych treningowych, aby spróbować sprawić, by AI dbało o nas; część z nich może się przyjąć, nawet jeśli dopasowanie ogólnie zawiedzie
2. AI może dbać o nas instrumentalnie, ponieważ oczekuje, że inne podmioty nagrodzą je za utrzymanie ludzi przy życiu (poprzez handel acausal, lub jeśli AI jest w symulacji). 
- np. AI prowadzi handel acausal z pobliską gałęzią Everetta, gdzie ludzie rozwiązali problem dopasowania
- np. AI myśli, że może być w symulacji prowadzonej przez ludzi
@RyanPGreenblatt ma świetny post omawiający to (link poniżej). Jestem trochę bardziej optymistyczny niż on.
4,89K
Najlepsze
Ranking
Ulubione

