Код виживання найсильніших. Core War (1984) — це гра, в якій програми мають розбити супротивників, щоб вижити. Воїни, написані на асемблері під назвою Redcode, борються за контроль над віртуальною машиною. Наша нова стаття: «Digital Red Queen: Adferarial Program Evolution in Core War with LLMS» досліджує, що відбувається, коли LLM ведуть суперницьку еволюційну гонку озброєнь у цій сфері. Ми доручаємо LLM писати програми Warrior у Redcode, які мають перевершити віртуальний світ, наповнений такими програмами. Core War — це середовище, повне за Тюрінгом, де код і дані мають однаковий адресний простір, що призводить до дуже хаотичної самозмінної динаміки коду. Цей підхід натхненний гіпотезою Червоної Королеви в еволюційній біології: принципом, що види повинні постійно адаптуватися і еволюціонувати, просто щоб вижити проти постійно змінних конкурентів. У нашій роботі програми постійно адаптуються, щоб перемагати зростаючу історію суперників, а не статичний орієнтир. Ми виявляємо, що цей конфліктний процес призводить до появи дедалі загальних стратегій, включно з цільовою самореплікацією, бомбардуванням даних і масовим багатопотоковим процесом. Найцікавіше, що вона виявляє форму конвергентної еволюції. Різні реалізації коду встановлюють схожі високопродуктивні поведінки, віддзеркалюючи те, як біологічні агенти незалежно еволюціонують подібні риси для вирішення тих самих задач. Я вважаю, що ця робота позиціонує Core War як пісочницю для вивчення динаміки Red Queen у штучних системах. Він пропонує безпечне контрольоване середовище для аналізу того, як агенти ШІ можуть еволюціонувати в реальних умовах суперечливості, таких як кібербезпека. Моделюючи ці суперницькі динаміки в ізольованій пісочниці, ми пропонуємо погляд у майбутнє, де впроваджені системи LLM можуть почати конкурувати одна з одною за обмежені ресурси у реальному світі.

У піщаничному середовищі Core War ми можемо симулювати наших еволюціонованих «воїнів» і візуалізувати їхню поведінку. Користувач може інтерактивно візуалізувати мову асемблеру (Redcode) воїнів там, де розташований курсор миші. Репозиторій GitHub:

Digital Red Queen: Еволюція суперницьких програм у Core War with LLM Ця робота є спільною роботою MIT + Sakana AI🐟 Від @AkarshKumar0101 @RyanBoldi @Prafull7 @Phillip_Isola @Risi1979 @Yujin_Tang @hardmaru