Topik trending
#
Bonk Eco continues to show strength amid $USELESS rally
#
Pump.fun to raise $1B token sale, traders speculating on airdrop
#
Boop.Fun leading the way with a new launchpad on Solana.

Tom Davidson
Rekan Peneliti Senior @forethought_org
Memahami ledakan intelijen dan cara mempersiapkannya
Seorang fisikawan berpendapat bahwa tidak mungkin membangun bola Dyson dalam hidup kita.
Saya tidak yakin - lihat balasan saya:

Prakash1 Nov, 03.04
Dyson Sphere pada tahun 2040?
> Paul Christiano memberikan probabilitas 15% Dyson Sphere pada tahun 2040 pada @dwarkesh_sp 
> Jadi saya mengundang @Astro_Wright, astronom dan astrofisikawan di Penn State, seorang spesialis dalam mendeteksi tanda tangan teknologi alien untuk mencari tahu apakah itu mungkin
Highlights:
Tentang Fisika Bola Dyson
> On the Ultimate Limiter - Cooling: "Satu-satunya hal yang dapat Anda lakukan adalah mematikan radiator dan membiarkan panas memancar... Anda tidak memiliki sungai di dekatnya, Anda tidak dapat melakukan pendinginan air, Anda tidak dapat meniup kipas angin di atasnya. Tidak ada udara."
> Tentang Membangun Mereka Panas, Bukan Dingin: "Saya benar-benar mengharapkan bola Dyson menjadi sepanas mungkin jika mereka memaksimalkan komputasi ... Saya pikir hal-hal ini akan bersuhu kamar atau lebih hangat."
Tentang Membangun Bola Dyson
> Tentang Membongkar Jupiter: "Anda bisa membongkar Jupiter dan membangun bola Dyson... Dia [Freeman Dyson] mengerjakan detailnya seperti, sangat mungkin untuk membongkar planet."
> Tentang Ketidakmungkinan Bola Dyson Cepat: "Secara harfiah tidak mungkin membangun bola Dyson di sekitar matahari secepat itu [dalam 50 tahun]... Bukannya saya tidak bersikap imajinatif. Itu karena tidak ada cukup massa. Massa ada di Jupiter."
> Tentang Energi Belas yang Dibutuhkan: "Jika Anda mengambil semua energi yang dikeluarkan matahari selama 50 tahun dan dengan efisiensi sempurna menggunakannya untuk mengangkat massa dari Jupiter, Anda masih tidak akan punya cukup waktu."
> Tentang Teknologi Utama yang Diperlukan: "Saya pikir Anda harus memanggil pertumbuhan eksponensial. Anda membutuhkan beberapa cara untuk memiliki eksponensial pelarian yang menambang begitu banyak material, membangun begitu banyak hal... Saya pikir itu adalah mesin yang mereplikasi diri, mesin Von Neumann."
Tentang Mendeteksi Peradaban Alien
> Tentang Ketidakmungkinan Bersembunyi: "Sangat sulit untuk menyembunyikan fakta bahwa Anda menggunakan energi ... Anda tidak bisa menyimpannya, Anda akan melelehkan segalanya. Dan ketika Anda menyingkirkannya, itu akan jelas."
> Tentang Betapa Mudahnya Mereka Menemukan: "Hal seperti itu akan sangat terdeteksi ... Bahkan jika itu hanya menangkap 1 atau 2% dari cahaya bintang sama sekali, itu masih akan cukup jelas. Itu akan terlihat sangat anomali."
> Tentang Menemukan Peradaban Tersembunyi: "Anda dapat memakai kacamata inframerah dan Anda akan melihat siapa yang memakai panas. Seperti rumah-rumah yang hangat di dalam... Anda bisa melihat panas keluar dari rumah-rumah itu."
> Tentang Mengesampingkan Peradaban Super: "Kami dapat menunjukkan bahwa dari 100.000 galaksi terdekat dengan Bima Sakti, tidak ada [peradaban Tipe III] itu."
Tentang Ilmu Penghancuran Industri Luar Angkasa
> Di Tempat yang Sempurna untuk Berburu Alien: "Menempatkan teleskop radio di sisi jauh bulan akan luar biasa ... Bulan bertindak sebagai perisai dan tidak ada gangguan frekuensi radio."
> Tentang Ancaman ke Sisi Jauh Bulan: "Segera setelah Anda berkata, 'Baiklah, kami ingin membangun sesuatu di sisi jauh bulan,' semua orang seperti, 'Hebat, mari kita bangun infrastruktur'... Dan mereka mengatur semua komunikasi nirkabel ini melintasi bulan. Dan Anda seperti, 'Itu mengalahkan seluruh tujuan.'"
> Tentang Dampak Starlink pada Sains: "Starlink naik dan benar-benar menghancurkan semua rencana kami untuk astronomi ... Dan sekarang setiap kali mengambil gambar, itu menjadi 'Starlinked'. Itulah yang kami sebut. Garis-garis lama besar melalui setiap gambar."
> On the Race to Study Mars: "Kami harus bergegas dan melakukan semua eksperimen deteksi kehidupan kami sebelum sepatu bot menyentuh tanah di sana ... Segera setelah orang pergi ke Mars, kami akan mencemarinya."
Sejauh ini, ini adalah pod terbaik yang pernah saya lakukan sejauh ini. Tautan di bawah ini:
1,99K
Banyak orang berpikir bahwa pengambilalihan AI kemungkinan besar akan menyebabkan kepunahan manusia. 
Saya pikir itu salah. 
Bayangkan skala "seberapa besar AI peduli dengan manusia" yang berkisar antara 0% hingga 100%. 
100% --> tidak ada pengambilalihan AI
0% --> Pengambilalihan AI dan kepunahan manusia
Perhatikan bahwa ada bagian BESAR dari skala itu di mana AI mengambil alih tetapi tidak membunuh manusia:
0,01% hingga 50% --> pengambilalihan AI tetapi TIDAK ADA kepunahan manusia
Saya pikir bagian perantara dari kisaran ini harus mendapatkan banyak massa probabilitas.
Mengapa 0,01% untuk menghindari kepunahan? Bc itu v murah bagi kecerdasan super untuk menjaga manusia tetap hidup dan memberi kita kehidupan yang luar biasa.
Ada dua alasan AI mungkin peduli dengan manusia >0,01%:
1. AI mungkin peduli secara intrinsik, penyelarasan bc bekerja sedikit. 
- Kami sedikit peduli dengan sapi dan tanaman meskipun mereka tidak memiliki kendali atas bagaimana kami berevolusi
- Kami akan menambahkan banyak data pelatihan untuk mencoba membuat AI peduli dengan kami; beberapa di antaranya mungkin menempel bahkan dari penyelarasan secara luas gagal
2. AI mungkin peduli secara instrumental, karena mengharapkan bahwa agen lain akan menghargainya untuk menjaga manusia tetap hidup (melalui perdagangan kausal, atau jika AI berada dalam simulasi). 
- misalnya AI melakukan perdagangan kausal dengan cabang Everett terdekat di mana manusia memecahkan keselarasan
- misalnya AI berpikir itu mungkin dalam simulasi yang dijalankan oleh manusia
@RyanPGreenblatt memiliki posting bagus yang membahas ini (tautan di bawah). Saya sedikit lebih optimis darinya
4,9K
Teratas
Peringkat
Favorit

