Когда агенты конкурируют за ограниченные ресурсы, интеллект реорганизуется вокруг выживания, а не элегантности.

Выживание наиболее приспособленных кодов. Core War (1984) — это игра, в которой программы должны разрушать своих противников, чтобы выжить. Воины, написанные на языке ассемблера под названием Redcode, сражаются за контроль над виртуальной машиной. Наша новая работа: Digital Red Queen: Adversarial Program Evolution in Core War with LLMs, исследует, что происходит, когда LLM управляют противостоящей эволюционной гонкой вооружений в этой области. Мы ставим перед LLM задачу написать программы Воина на Redcode, которые должны превзойти виртуальный мир, полный таких программ. Core War — это среда, полная возможностей Тьюринга, где код и данные разделяют одно и то же адресное пространство, что приводит к очень хаотичной динамике самореформирующегося кода. Этот подход вдохновлен гипотезой Красной Королевы в эволюционной биологии: принципом, согласно которому виды должны постоянно адаптироваться и эволюционировать, чтобы просто выжить против постоянно меняющихся конкурентов. В нашей работе программы постоянно адаптируются, чтобы победить растущую историю противников, а не статический эталон. Мы обнаруживаем, что этот противостоящий процесс приводит к появлению все более общих стратегий, включая целевую саморепликацию, бомбардировку данными и массовую многопоточность. Наиболее интригующе, это раскрывает форму сходственной эволюции. Разные реализации кода приходят к похожим высокоэффективным поведением, отражая то, как биологические агенты независимо развивают схожие черты для решения одних и тех же проблем. Я думаю, что эта работа позиционирует Core War как песочницу для изучения динамики Красной Королевы в искусственных системах. Она предлагает безопасную контролируемую среду для анализа того, как агенты ИИ могут эволюционировать в реальных противостоящих условиях, таких как кибербезопасность. Симулируя эти противостоящие динамики в изолированной песочнице, мы предлагаем взгляд в будущее, где развернутые системы LLM могут начать конкурировать друг с другом за ограниченные ресурсы в реальном мире.

Рад сообщить, что @Lux_Capital запустил свой новый фонд на $1.5B - благодарен за возможность продолжать сотрудничество с основателями, создающими будущее…