Wenn Agenten um begrenzte Ressourcen konkurrieren, reorganisiert sich die Intelligenz um das Überleben, nicht um Eleganz.

Überleben des Stärkeren Codes. Core War (1984) ist ein Spiel, in dem Programme ihre Gegner zum Absturz bringen müssen, um zu überleben. Krieger, die in einer Assemblersprache namens Redcode geschrieben sind, kämpfen um die Kontrolle einer virtuellen Maschine. Unser neues Papier: Digitale Rote Königin: Adversarielle Programmentwicklung in Core War mit LLMs, untersucht, was passiert, wenn LLMs einen adversarischen evolutionären Wettrüsten in diesem Bereich antreiben. Wir beauftragen LLMs, Kriegerprogramme in Redcode zu schreiben, die sich in einer virtuellen Welt voller solcher Programme behaupten müssen. Core War ist eine Turing-vollständige Umgebung, in der Code und Daten denselben Adressraum teilen, was zu sehr chaotischen, selbstmodifizierenden Code-Dynamiken führt. Dieser Ansatz ist inspiriert von der Roten Königin-Hypothese in der Evolutionsbiologie: dem Prinzip, dass Arten sich ständig anpassen und entwickeln müssen, um einfach gegen sich ständig verändernde Konkurrenten zu überleben. In unserer Arbeit passen sich Programme kontinuierlich an, um eine wachsende Geschichte von Gegnern zu besiegen, anstatt sich an einem statischen Maßstab zu orientieren. Wir stellen fest, dass dieser adversarische Prozess zur Entstehung zunehmend allgemeiner Strategien führt, einschließlich gezielter Selbstreplikation, Datenbombardierung und massivem Multithreading. Am interessantesten ist, dass er eine Form der konvergenten Evolution offenbart. Verschiedene Code-Implementierungen entwickeln sich zu ähnlichen leistungsstarken Verhaltensweisen, was widerspiegelt, wie biologische Agenten unabhängig ähnliche Eigenschaften entwickeln, um die gleichen Probleme zu lösen. Ich denke, diese Arbeit positioniert Core War als Sandbox für das Studium der Dynamik der Roten Königin in künstlichen Systemen. Sie bietet eine sichere, kontrollierte Umgebung zur Analyse, wie KI-Agenten sich in realen adversarischen Umgebungen wie der Cybersicherheit entwickeln könnten. Durch die Simulation dieser adversarischen Dynamiken in einer isolierten Sandbox bieten wir einen Einblick in die Zukunft, in der eingesetzte LLM-Systeme möglicherweise beginnen, gegeneinander um begrenzte Ressourcen in der realen Welt zu konkurrieren.

RT @graceisford: Begeistert, den neuesten $1,5B Fonds von @Lux_Capital anzukündigen - dankbar, weiterhin mit Gründern zusammenzuarbeiten, die die Zukunft erfinden…