Думки... Останнім часом я зіткнувся з дивною проблемою. Довгострокове мислення завжди було для мене природним, і я навчився робити це з легкістю. Тепер це здається майже неможливим. Чому? AGI. Щоразу, коли я сідаю планувати майбутнє, я приходить до одного й того ж усвідомлення. Ми чекаємо, хто створить перший справжній AGI, і хто б це зробив, фактично володітиме світом. Це робить довгострокове планування відірваним від реальності. Я не знаю, у чиєму світі житиму, тому не можу впевнено тримати майбутнє. AGI — це остання гонка. Ми наближаємося до фінального рівня відеогри. Момент, коли один гравець створює систему, здатну автоматизувати всі розумні завдання, що досягають цілей, перетворює її творця на щось близьке до бога. Одна сутність отримує здатність перевершувати всіх у всіх сферах. Це закінчує конкуренцію. На цьому закінчується опціональність. Друге місце стає рабом світогляду того, хто прийде першим. Ось чому стимули, пов'язані з AGI, такі небезпечні. Кожен гравець розуміє, що вагання — це прямий шлях до підпорядкування. Ця логіка змушує прискорення, підштовхує до скорочених шляхів і зникає з обережності щодо безпеки. Коли гонка стає екзистенційною для учасників, зовнішні ефекти перестають мати значення. Є також людський фактор, який сам по собі ризик. Багато людей, які керують цим фронтиром, діють з мотивами, які не мають нічого спільного зі стабільністю чи відповідальністю. Дехто хоче домінування. Дехто хоче створити наступну цивілізацію. Дехто хоче зустрітися з богом, створеним самими собою. Ці стимули формують рішення так, що вони не відповідають масштабу влади, яку вони намагаються створити. Ось чому довгострокове планування зараз здається мені дивним. Майбутнє визначатиме єдиний результат, контрольований однією групою. Ймовірність стає неактуальною, коли визначальна подія є абсолютною. І коли це усвідомлюєш, стає зрозуміло, що ми більше не плануємо власне майбутнє. Ми чекаємо, чий бог прибуде першим, а чий світ ми станемо рабами.

Єдине, що я хочу знати — чи є @santiagoroel найбільшим тролем на світі, бо він не міг випадково вдягнути жилет Inversion Patagonia для дебатів, де використовує ці метрики для оцінки L1.

Джарвіс... будь ласка, увімкніть режим захисту і заблокуйте кожен наступний пост у Spotify Wraped, перш ніж він дійде до моїх очей.