Коротко; доктор інтерв'ю Дваркеша Пателя з Іллею Сутскевером
•Поточні підходи «пройдуть певний відстань, а потім Пітер вийдуть», вони будуть продовжувати вдосконалюватися, але не забезпечать AGI.
• Система могла б працювати — це те, що «ми ще не знаємо, як будувати».
• Очікується значний вплив на ринок праці в найближчі роки.
• Головне вузьке місце: узагальнення. Моделі набагато гірші за людей у цьому.
•Ви можете тренуватися на будь-якій конкурентній програмній задачі, і модель все одно не набуде справжнього «смаку», тоді як підліток вчиться водити за ~10 годин.
• Оцінювання виглядає чудово, але реальні результати відстають, бо тренування RL оптимізують під самі оцінювання.
• Справжніми хакерами винагороди є дослідники, які створюють ці бенчмарки та навчальні цикли.
•Він каже, що має ідеї щодо того, чого бракує, але не хоче їх публічно ділитися.
• ASI, однак, протягом 5-20 років
"Знаєш, що дивно? Що все це реально»
Я справді відчув це речення.