Když agenti soupeří o omezené zdroje, zpravodajství se reorganizuje kolem přežití, nikoli elegance.

Kód přežití nejsilnějších. Core War (1984) je hra, ve které musí programy shazovat své protivníky, aby přežily. Warriors napsaní v assembleru zvaném Redcode bojují o kontrolu nad virtuálním strojem. Náš nový článek: Digital Red Queen: Adversariální vývoj programu v jádrové válce s LLM, zkoumá, co se stane, když LLM vyvolají evoluční závod v nepřátelském evolučním zbrojení v této oblasti. Úkolem LLM je napsat programy Warrior v Redcode, které musí překonat virtuální svět plný takových programů. Core War je Turingově úplné prostředí, kde kód a data sdílejí stejný adresní prostor, což vede k velmi chaotické samomodifikační dynamice kódu. Tento přístup je inspirován hypotézou Rudé královny v evoluční biologii: principem, že druhy se musí neustále přizpůsobovat a vyvíjet jen proto, aby přežily proti neustále se měnícím konkurentům. V naší práci se programy neustále přizpůsobují, aby porazily rostoucí historii protivníků, nikoli jen statický měřítko. Zjistili jsme, že tento adversariální proces vede k vzniku stále obecnějších strategií, včetně cílené samoreplikace, datového bombardování a masivního vícevláknového zpracování. Nejzajímavější je, že odhaluje formu konvergentní evoluce. Různé implementace kódu se usazují k podobnému vysoce výkonnému chování, což odráží, jak biologické látky nezávisle vyvíjejí podobné vlastnosti k řešení stejných problémů. Myslím, že tato práce staví Core War do role pískovište pro studium dynamiky Rudé královny v umělých systémech. Nabízí bezpečné a kontrolované prostředí pro analýzu, jak by se agenti AI mohli vyvíjet v reálných nepřátelských prostředích, jako je kybernetická bezpečnost. Simulací těchto nepřátelských dynamik v izolovaném sandboxu nabízíme pohled do budoucnosti, kde nasazené LLM systémy mohou začít soupeřit o omezené zdroje v reálném světě.

RT @graceisford: S nadšením oznamujeme nejnovější fond @Lux_Capital ve výši 1,5 miliardy dolarů – jsme vděční, že můžeme nadále spolupracovat se zakladateli, kteří vynalézají budoucnost...