Când agenții concurează pentru resurse limitate, informațiile se reorganizează în jurul supraviețuirii, nu al eleganței.

Codul supraviețuirii celui mai adaptat. Core War (1984) este un joc în care programele trebuie să-și prăbușească adversarii pentru a supraviețui. Războinicii scriși într-un limbaj de asamblare numit Redcode luptă pentru controlul unei mașini virtuale. Noul nostru articol: Digital Red Queen: Adversarial Program Evolution in Core War with LLM-uri, explorează ce se întâmplă când LLM-urile declanșează o cursă a înarmărilor evolutive adversariale în acest domeniu. Îi însărcinăm pe LLM-uri să scrie programe Warrior în Redcode care trebuie să concureze cu o lume virtuală plină de astfel de programe. Core War este un mediu Turing-complet unde codul și datele împart același spațiu de adrese, ceea ce duce la dinamici foarte haotice ale codului auto-modificat. Această abordare este inspirată de ipoteza Reginei Roșii din biologia evoluționistă: principiul conform căruia speciile trebuie să se adapteze și să evolueze continuu pur și simplu pentru a supraviețui în fața unor competitori mereu schimbători. În munca noastră, programele se adaptează continuu pentru a învinge o istorie tot mai mare a adversarilor, mai degrabă decât un reper static. Constatăm că acest proces adversarial conduce la apariția unor strategii din ce în ce mai generale, inclusiv auto-replicarea țintită, data bombing și multithreading masiv. Cel mai intrigant este că dezvăluie o formă de evoluție convergentă. Diferite implementări de cod adoptă comportamente similare cu performanțe ridicate, oglindind modul în care agenții biologici evoluează independent trăsături similare pentru a rezolva aceleași probleme. Cred că această lucrare poziționează Core War ca un sandbox pentru studiul dinamicii Red Queen în sisteme artificiale. Oferă un mediu sigur și controlat pentru analizarea modului în care agenții AI ar putea evolua în contexte adversariale reale, cum ar fi securitatea cibernetică. Simulând aceste dinamici adversariale într-un sandbox izolat, oferim o privire spre viitor, unde sistemele LLM implementate ar putea începe să concureze între ele pentru resurse limitate în lumea reală.

RT @graceisford: Încântat să anunțăm cel mai recent fond de 1,5 miliarde de dolari al @Lux_Capital - recunoscători să continuăm să colaborăm cu fondatorii care inventează viitorul...