Wanneer agenten concurreren om beperkte middelen, herschikt intelligentie zich rond overleven, niet elegantie.

Overleven van de sterkste code. Core War (1984) is een spel waarin programma's hun tegenstanders moeten laten crashen om te overleven. Krijgers geschreven in een assemblytaal genaamd Redcode strijden om de controle over een virtuele machine. Ons nieuwe paper: Digital Red Queen: Adversarial Program Evolution in Core War with LLMs, verkent wat er gebeurt wanneer LLMs een adversaire evolutionaire wapenwedloop in dit domein aansteken. We geven LLMs de taak om Krijger-programma's in Redcode te schrijven die moeten concurreren met een virtuele wereld vol dergelijke programma's. Core War is een Turing-complete omgeving waar code en data dezelfde adresruimte delen, wat leidt tot zeer chaotische zelf-modificerende code-dynamiek. Deze benadering is geïnspireerd door de Red Queen-hypothese in de evolutionaire biologie: het principe dat soorten zich voortdurend moeten aanpassen en evolueren om simpelweg te overleven tegen steeds veranderende concurrenten. In ons werk passen programma's zich continu aan om een groeiende geschiedenis van tegenstanders te verslaan in plaats van een statische benchmark. We ontdekken dat dit adversaire proces leidt tot de opkomst van steeds algemenere strategieën, waaronder gerichte zelf-replicatie, databombardementen en massale multithreading. Het meest intrigerend is dat het een vorm van convergente evolutie onthult. Verschillende code-implementaties vestigen zich in vergelijkbare hoog presterende gedragingen, wat weerspiegelt hoe biologische agenten onafhankelijk vergelijkbare eigenschappen ontwikkelen om dezelfde problemen op te lossen. Ik denk dat dit werk Core War positioneert als een sandbox voor het bestuderen van Red Queen-dynamiek in kunstmatige systemen. Het biedt een veilige gecontroleerde omgeving voor het analyseren van hoe AI-agenten zich mogelijk ontwikkelen in echte adversaire omgevingen zoals cybersecurity. Door deze adversaire dynamiek te simuleren in een geïsoleerde sandbox, bieden we een glimp van de toekomst waarin uitgerolde LLM-systemen mogelijk tegen elkaar gaan concurreren om beperkte middelen in de echte wereld.

RT @graceisford: Blij om aan te kondigen dat @Lux_Capital's nieuwste fonds van $1,5 miljard - dankbaar om door te gaan met samenwerken met oprichters die de toekomst uitvinden…