Pertumbuhan kemampuan model AI tidak terlihat seperti cara kecerdasan manusia berkembang, tetapi masih ada asumsi luas di antara jenis AI bahwa AGI atau kecerdasan super, tidak dapat dihindari, memiliki distribusi kemampuan yang sama dengan kecerdasan manusia. Tampaknya salah

pengamatan karpathy (yang lain juga) bahwa RL menghasilkan serangkaian kemampuan yang mungkin tidak pernah berkembang menjadi AGI (yaitu bahwa menskalakan data pelatihan dan meningkatkan kualitas data mungkin tidak pernah mengarah pada model yang merupakan agen default atau penghasil wawasan baru atau w / e) mungkin juga menggeneralisasi

yaitu, menurut saya tidak ada hukum alam semesta yang mengatakan bahwa seluruh paket kecerdasan manusia di seluruh populasi akan dapat ditiru menggunakan teknik ML sama sekali, apalagi arah penelitian yang diberikan

tampaknya sangat masuk akal bagi saya (idiot btw) bahwa Anda dapat membangun model AI agen yang terus belajar yang mampu melakukan hampir semua pekerjaan analis hukum tingkat atas di sebuah perusahaan, tetapi hanya 50 atau 60% dari pekerjaan seorang sarjana hukum yang bekerja di bidang baru

Ini jelas bagi pengacara karena mereka tahu bahwa pengacara yang bekerja di bidang atau sub bidang baru pada dasarnya hanya mengarang hukum dengan analogi dll.

bukan orang fisika tetapi yang setara adalah Anda dapat menampung 10.000 mahasiswa pascasarjana yang meningkatkan diri di pusat data tanpa dapat melakukan pekerjaan seorang Einstein (atau apa pun — idk jika "kapan AGI akan menggantikan Einstein" adalah hipotetis yang berguna sama sekali)

Bahkan jika Anda berasumsi bahwa adalah mungkin untuk mereplikasi wawasan manusia secara agregat dengan, katakanlah, kombinasi dari beberapa arsitektur model yang berbeda secara bersamaan - itu bagi saya sangat mirip dengan jenis masalah pengoptimalan yang telah menjadi model Tuning Frontier sekarang.