Código de supervivencia del más apto. Core War (1984) es un juego en el que los programas deben estrellar a sus oponentes para sobrevivir. Guerreros escritos en un lenguaje ensamblador llamado Redcode luchan por el control de una máquina virtual. Nuestro nuevo artículo: Digital Red Queen: Adversarial Program Evolution in Core War with LLMs, explora qué ocurre cuando los LLMs impulsan una carrera armamentística evolutiva adversarial en este ámbito. Encargamos a los LLMs que escriban programas Warrior en Redcode que deben superar a un mundo virtual lleno de estos programas. Core War es un entorno Turing-completo donde el código y los datos comparten el mismo espacio de direcciones, lo que conduce a dinámicas de código automodificables muy caóticas. Este enfoque se inspira en la hipótesis de la Reina Roja en biología evolutiva: el principio de que las especies deben adaptarse y evolucionar continuamente simplemente para sobrevivir frente a competidores en constante cambio. En nuestro trabajo, los programas se adaptan continuamente para derrotar una historia creciente de oponentes en lugar de un referente estático. Comprobamos que este proceso adversarial conduce a la aparición de estrategias cada vez más generales, incluyendo la autorreplicación dirigida, el data bombing y el multihilo masivo. Lo más intrigante es que revela una forma de evolución convergente. Diferentes implementaciones de código se asientan en comportamientos similares de alto rendimiento, reflejando cómo los agentes biológicos evolucionan de forma independiente rasgos similares para resolver los mismos problemas. Creo que este trabajo sitúa a Core War como un sandbox para estudiar la dinámica de la Reina Roja en sistemas artificiales. Ofrece un entorno seguro y controlado para analizar cómo los agentes de IA podrían evolucionar en entornos adversariales reales, como la ciberseguridad. Al simular estas dinámicas adversariales en un sandbox aislado, ofrecemos una visión del futuro donde los sistemas LLM desplegados podrían empezar a competir entre sí por recursos limitados en el mundo real.

En un entorno de Guerra Central, con tipo sandbox, podemos simular a nuestros "guerreros" evolucionados y visualizar sus comportamientos. El usuario puede visualizar interactivamente el lenguaje ensamblador (Redcode) de los guerreros en la ubicación del cursor del ratón. Repositorio de GitHub:

Digital Red Queen: Evolución de programas adversariales en la guerra central con LLMs Este trabajo es una colaboración entre MIT y Sakana AI🐟 Por @AkarshKumar0101 @RyanBoldi @Prafull7 @Phillip_Isola @Risi1979 @Yujin_Tang @hardmaru