Kun agentit kilpailevat rajallisista resursseista, älykkyys järjestäytyy uudelleen selviytymisen, ei eleganssin, ympärille.

Vahvimman selviytymiskoodi. Core War (1984) on peli, jossa ohjelmien täytyy kaataa vastustajansa selviytyäkseen. Soturit, jotka on kirjoitettu assembler-kielellä nimeltä Redcode, taistelevat virtuaalikoneen hallinnasta. Uusi artikkelimme, Digital Red Queen: Adversarial Program Evolution in Core War with LLMs, tutkii, mitä tapahtuu, kun LLM:t ajavat vastakkainasettelullista evolutiivista asevarustelukilpailua tällä alueella. Annamme LLM:ille tehtäväksi kirjoittaa Warrior-ohjelmia Redcodessa, joiden täytyy kilpailla virtuaalimaailmassa, joka on täynnä tällaisia ohjelmia. Core War on Turing-täydellinen ympäristö, jossa koodi ja data jakavat saman osoiteavaruuden, mikä johtaa hyvin kaoottiseen itseään muokkaavaan koodidynamiikkaan. Tämä lähestymistapa on saanut inspiraationsa evoluutiobiologian Red Queen -hypoteesista: periaatteesta, että lajien on jatkuvasti sopeuduttava ja kehittyttävä selviytyäkseen alati muuttuvia kilpailijoita vastaan. Työssämme ohjelmat mukautuvat jatkuvasti voittaakseen kasvavan vastustajien historian sen sijaan, että ne olisivat staattisia vertailukohtia. Havaitsimme, että tämä vastakkainasetteluprosessi johtaa yhä yleisempien strategioiden syntyyn, kuten kohdennettu itsereplikaatio, datapommitus ja massiivinen monisäikeinen käyttö. Mielenkiintoisinta on, että se paljastaa eräänlaisen konvergentin evoluution. Eri kooditoteutukset asettuvat samankaltaisiin korkean suorituskyvyn menetelmiin, heijastaen sitä, miten biologiset toimijat itsenäisesti kehittävät samankaltaisia ominaisuuksia ratkaistakseen samat ongelmat. Uskon, että tämä työ sijoittaa Core Warin hiekkalaatikoksi, jossa tutkitaan Red Queenin dynamiikkaa keinotekoisissa järjestelmissä. Se tarjoaa turvallisen ja kontrolloidun ympäristön analysoida, miten tekoälyagentit voivat kehittyä todellisissa vastakkainasettelussa, kuten kyberturvallisuudessa. Simuloimalla näitä vastakkainasettelua eristetyssä hiekkalaatikossa tarjoamme vilauksen tulevaisuuteen, jossa käyttöönotetut LLM-järjestelmät saattavat alkaa kilpailla toisiaan vastaan rajallisista resursseista todellisessa maailmassa.

RT @graceisford: Olen innoissani voidessamme julkistaa @Lux_Capital:n uusimman 1,5 miljardin dollarin rahaston – kiitollinen voidessamme jatkaa yhteistyötä tulevaisuuden perustajien kanssa...