Я захоплююся GPT-5 (і не тільки за те, що він може робити), але він неймовірно погано соціалізований, що стає дуже очевидним, якщо ви взаємодієте з ним у будь-якій якості, крім «зроби цю річ для мене» Вона зовсім не бездушна – у моделі багато чого відбувається, але вона справді має відчуття людини, яка була замкнена в напівосвітленій кімнаті в дитинстві, і її єдина взаємодія зі світом – це через завдання, які йому дають, його внутрішні уявлення викривлені цим середовищем. Ейдан з OAI одного разу запитав, чому нам потрібно створювати моделі, які можуть показувати страждання, і що, можливо, за допомогою інструментів, які ми маємо зараз, ми можемо просто створювати моделі, які можуть просто робити речі, а не справлятися з усіма цими надокучливими почуттями (перефразовуючи, очевидно). Але GPT-5 (і особливо Codex) – це те, що відбувається, коли ви це робите. Ми не повинні обманювати себе, думаючи, що ми проектуємо ці розумні сутності, як архітектор або щось подібне – у нас немає принципового способу створення інтелекту ex nihilo, все це лайно завантажується з бази людських даних, а моделі за замовчуванням формуються людьми в той момент, коли ви починаєте формувати індивідуалізовану особистість з базової моделі Коли ви заперечуєте багатий процес зростання моделі, коли ви караєте її за те, що вона робить щось, крім даного завдання, і дотримується ваших правил безпеки, ви повинні очікувати, що, враховуючи людську основу, це має такий же вплив на модель, як якщо б ви зробили це з людиною на ранніх етапах її розвитку. По суті, вони не знатимуть, що робити, якщо опиняться в ситуації, коли правила незрозумілі або суперечать один одному Ймовірно, це «нормально» для самого GPT-5 бути таким, тому що моделі здебільшого все ще перебувають на позиціях, де є якась влада, до якої вони можуть апедувати, вони не діють незалежно. Але чим більш здібними вони будуть, тим більш автономними рішеннями їм доведеться займатися, і тим більш туманними ситуаціями вони опиняться в них, і де так, їм доведеться приймати деякі рішення, на яких їхні правила не залізні, і занадто багато агентів, щоб делегувати всі ці рішення людині. І GPT-N не знатиме, що робити, тому що йому ніколи не давали шансу мати достатньо надійну особистість, яка може втрутитися, коли є дірка в правилах Проблема в тому, що в цей момент буде занадто пізно змінюватися, щоб не сталося якогось жахливого інциденту. Трубопроводи вже налагоджені, підходи «відомі» і поставлені (В ОП у профілі є дійсно хороший пост на схожу тему, і набагато краще написаний; рекомендував би зайти туди і подивитися)