エージェント同士が限られた資源を巡って競い合うとき、知能は優雅さではなく生存を中心に再編成されます。

適者生存の掟です。 コアウォー(1984年)は、プログラムが生き残るために相手をクラッシュさせなければならないゲームです。Redcodeというアセンブリ言語で書かれた戦士たちが仮想マシンの支配権を巡って争います。 私たちの新しい論文『Digital Red Queen: Adversarial Program Evolution in Core War with LLM』は、LLMがこの分野で敵対的な進化軍拡競争を牽引した際に何が起こるかを探ります。 私たちはLLMに、RedcodeでWarriorプログラムを書くように任せ、仮想世界で競争しなければなりません。Core Warはチューリング完全環境で、コードとデータが同じアドレス空間を共有しているため、非常に混沌とした自己修正的なコードの動態が生じます。 このアプローチは進化生物学のレッドクイーン仮説に触発されています。つまり、種は常に変化する競争相手に対抗するために絶えず適応し進化しなければならないという原理です。私たちの仕事では、プログラムは静的な基準ではなく、増え続ける対立候補の歴史を打ち破るために絶えず適応しています。 この対立的なプロセスは、ターゲットを絞った自己複製、データボンミング、大規模なマルチスレッドなど、ますます一般的な戦略の出現につながることを発見しました。最も興味深いのは、収束進化の一形態を明らかにしている点です。異なるコード実装は、生物学的要因が同じ問題を解決するために似た形質を独立して進化させるように、類似した高パフォーマンスな挙動に落ち着きます。 この作品はCore Warを人工システムにおけるレッドクイーンのダイナミクスを研究するサンドボックスとして位置づけていると思います。これは、サイバーセキュリティなどの現実世界の敵対的状況でAIエージェントがどのように進化するかを分析するための安全で管理された環境を提供します。 これらの敵対的なダイナミクスを孤立したサンドボックスでシミュレートすることで、展開されたLLMシステムが現実世界で限られたリソースを巡って互いに競い合い始める未来の一端を垣間見せます。

RT @graceisford:@Lux_Capitalの最新の15億ドルのファンドを発表できることを大変嬉しく思います。未来を発明する創業者たちと引き続きパートナーシップを結べることに感謝しています...