Codul supraviețuirii celui mai adaptat. Core War (1984) este un joc în care programele trebuie să-și prăbușească adversarii pentru a supraviețui. Războinicii scriși într-un limbaj de asamblare numit Redcode luptă pentru controlul unei mașini virtuale. Noul nostru articol: Digital Red Queen: Adversarial Program Evolution in Core War with LLM-uri, explorează ce se întâmplă când LLM-urile declanșează o cursă a înarmărilor evolutive adversariale în acest domeniu. Îi însărcinăm pe LLM-uri să scrie programe Warrior în Redcode care trebuie să concureze cu o lume virtuală plină de astfel de programe. Core War este un mediu Turing-complet unde codul și datele împart același spațiu de adrese, ceea ce duce la dinamici foarte haotice ale codului auto-modificat. Această abordare este inspirată de ipoteza Reginei Roșii din biologia evoluționistă: principiul conform căruia speciile trebuie să se adapteze și să evolueze continuu pur și simplu pentru a supraviețui în fața unor competitori mereu schimbători. În munca noastră, programele se adaptează continuu pentru a învinge o istorie tot mai mare a adversarilor, mai degrabă decât un reper static. Constatăm că acest proces adversarial conduce la apariția unor strategii din ce în ce mai generale, inclusiv auto-replicarea țintită, data bombing și multithreading masiv. Cel mai intrigant este că dezvăluie o formă de evoluție convergentă. Diferite implementări de cod adoptă comportamente similare cu performanțe ridicate, oglindind modul în care agenții biologici evoluează independent trăsături similare pentru a rezolva aceleași probleme. Cred că această lucrare poziționează Core War ca un sandbox pentru studiul dinamicii Red Queen în sisteme artificiale. Oferă un mediu sigur și controlat pentru analizarea modului în care agenții AI ar putea evolua în contexte adversariale reale, cum ar fi securitatea cibernetică. Simulând aceste dinamici adversariale într-un sandbox izolat, oferim o privire spre viitor, unde sistemele LLM implementate ar putea începe să concureze între ele pentru resurse limitate în lumea reală.

Într-un mediu sandboxat de tip Core War, putem simula "războinicii" noștri evoluați și le putem vizualiza comportamentele. Utilizatorul poate vizualiza interactiv limbajul de asamblare (Redcode) al războinicilor acolo unde se află cursorul mouse-ului. GitHub Repo:

Digital Red Queen: Evoluția programului adversarial în războiul de bază cu LLM-uri Această lucrare este o colaborare între MIT + Sakana AI🐟 Până la @AkarshKumar0101 @RyanBoldi @Prafull7 @Phillip_Isola @Risi1979 @Yujin_Tang @hardmaru