Når agenter konkurrerer om begrensede ressurser, omorganiseres etterretningen rundt overlevelse, ikke eleganse.

Survival of the fittest-koden. Core War (1984) er et spill hvor programmer må krasje motstanderne sine for å overleve. Krigere skrevet i et assemblerspråk kalt Redcode kjemper om kontrollen over en virtuell maskin. Vår nye artikkel: Digital Red Queen: Adversarial Program Evolution in Core War with LLMs, utforsker hva som skjer når LLM-er driver et motstanderaktig evolusjonært våpenkappløp på dette området. Vi gir LLM-er i oppgave å skrive Warrior-programmer i Redcode som må konkurrere ut en virtuell verden full av slike programmer. Core War er et Turing-komplett miljø hvor kode og data deler samme adresseområde, noe som fører til svært kaotisk selvmodifiserende kodedynamikk. Denne tilnærmingen er inspirert av Red Queen-hypotesen i evolusjonsbiologien: prinsippet om at arter kontinuerlig må tilpasse seg og utvikle seg bare for å overleve stadig skiftende konkurrenter. I vårt arbeid tilpasser programmer seg kontinuerlig for å beseire en økende historie med motstandere, i stedet for en statisk målestokk. Vi finner at denne motsetningsfulle prosessen fører til fremveksten av stadig mer generelle strategier, inkludert målrettet selvreplikasjon, databombing og massiv multitråding. Det mest interessante er at det avslører en form for konvergent evolusjon. Ulike kodeimplementasjoner ender opp i lignende høytytende atferd, og speiler hvordan biologiske agenter uavhengig utvikler lignende egenskaper for å løse de samme problemene. Jeg mener dette arbeidet posisjonerer Core War som en sandkasse for å studere Red Queen-dynamikk i kunstige systemer. Den tilbyr et trygt kontrollert miljø for å analysere hvordan AI-agenter kan utvikle seg i virkelige, motstridende situasjoner som cybersikkerhet. Ved å simulere disse motsetningsdynamikkene i en isolert sandkasse, gir vi et glimt inn i fremtiden hvor implementerte LLM-systemer kan begynne å konkurrere om begrensede ressurser i den virkelige verden.

RT @graceisford: Begeistret for å kunngjøre @Lux_Capital nyeste fond på 1,5 milliarder dollar – takknemlig for å fortsette å samarbeide med gründere som oppfinner fremtiden...