Kode bertahan hidup yang terkuat. Core War (1984) adalah game di mana program harus menghancurkan lawannya untuk bertahan hidup. Prajurit yang ditulis dalam bahasa perakitan yang disebut Redcode berjuang untuk mengendalikan mesin virtual. Makalah baru kami: Ratu Merah Digital: Evolusi Program Permusuhan dalam Perang Inti dengan LLM, mengeksplorasi apa yang terjadi ketika LLM mendorong perlombaan senjata evolusioner yang bermusuhan di domain ini. Kami menugaskan LLM untuk menulis program Warrior dalam Redcode yang harus mengalahkan dunia virtual yang penuh dengan program semacam itu. Core War adalah lingkungan lengkap Terring di mana kode dan data berbagi ruang alamat yang sama, yang mengarah pada beberapa dinamika kode modifikasi diri yang sangat kacau. Pendekatan ini terinspirasi oleh hipotesis Ratu Merah dalam biologi evolusi: prinsip bahwa spesies harus terus beradaptasi dan berevolusi hanya untuk bertahan hidup melawan pesaing yang selalu berubah. Dalam pekerjaan kami, program terus beradaptasi untuk mengalahkan sejarah lawan yang berkembang daripada tolok ukur statis. Kami menemukan bahwa proses permusuhan ini mengarah pada munculnya strategi yang semakin umum, termasuk replikasi diri yang ditargetkan, pengeboman data, dan multithreading besar-besaran. Yang paling menarik, ini mengungkapkan bentuk evolusi konvergen. Implementasi kode yang berbeda menetap dalam perilaku berkinerja tinggi yang serupa, mencerminkan bagaimana agen biologis secara independen mengembangkan sifat serupa untuk memecahkan masalah yang sama. Saya pikir karya ini memposisikan Core War sebagai kotak pasir untuk mempelajari dinamika Red Queen dalam sistem buatan. Ini menawarkan lingkungan terkontrol yang aman untuk menganalisis bagaimana agen AI dapat berkembang dalam pengaturan permusuhan dunia nyata seperti keamanan siber. Dengan mensimulasikan dinamika musuh ini dalam kotak pasir yang terisolasi, kami menawarkan gambaran sekilas ke masa depan di mana sistem LLM yang digunakan dapat mulai bersaing satu sama lain untuk mendapatkan sumber daya terbatas di dunia nyata.

Dalam lingkungan Perang Inti kotak pasir, kita dapat mensimulasikan "prajurit" kita yang berevolusi dan memvisualisasikan perilaku mereka. Pengguna dapat secara interaktif memvisualisasikan bahasa perakitan (Redcode) prajurit di mana kursor mouse berada. Repositori GitHub:

Ratu Merah Digital: Evolusi Program Permusuhan dalam Perang Inti dengan LLM Karya ini merupakan kolaborasi antara MIT + Sakana AI🐟 Oleh @AkarshKumar0101 @RyanBoldi @Prafull7 @Phillip_Isola @Risi1979 @Yujin_Tang @hardmaru