Supervivencia del código más apto. Core War (1984) es un juego donde los programas deben hacer que sus oponentes se estrellen para sobrevivir. Los guerreros escritos en un lenguaje ensamblador llamado Redcode luchan por el control de una máquina virtual. Nuestro nuevo artículo: Digital Red Queen: Evolución de Programas Adversariales en Core War con LLMs, explora lo que sucede cuando los LLMs impulsan una carrera armamentista evolutiva adversarial en este dominio. Encargamos a los LLMs que escriban programas de guerreros en Redcode que deben superar a un mundo virtual lleno de tales programas. Core War es un entorno Turing-completo donde el código y los datos comparten el mismo espacio de direcciones, lo que lleva a algunas dinámicas de código auto-modificante muy caóticas. Este enfoque está inspirado en la hipótesis de la Reina Roja en biología evolutiva: el principio de que las especies deben adaptarse y evolucionar continuamente simplemente para sobrevivir contra competidores en constante cambio. En nuestro trabajo, los programas se adaptan continuamente para derrotar a una creciente historia de oponentes en lugar de un punto de referencia estático. Encontramos que este proceso adversarial conduce a la aparición de estrategias cada vez más generales, incluyendo auto-replicación dirigida, bombardeo de datos y multihilo masivo. Lo más intrigante es que revela una forma de evolución convergente. Diferentes implementaciones de código se estabilizan en comportamientos de alto rendimiento similares, reflejando cómo los agentes biológicos evolucionan independientemente rasgos similares para resolver los mismos problemas. Creo que este trabajo posiciona a Core War como un sandbox para estudiar las dinámicas de la Reina Roja en sistemas artificiales. Ofrece un entorno controlado y seguro para analizar cómo los agentes de IA podrían evolucionar en entornos adversariales del mundo real, como la ciberseguridad. Al simular estas dinámicas adversariales en un sandbox aislado, ofrecemos un vistazo al futuro donde los sistemas LLM desplegados pueden comenzar a competir entre sí por recursos limitados en el mundo real.

En un entorno de Core War en sandbox, podemos simular a nuestros "guerreros" evolucionados y visualizar sus comportamientos. El usuario puede visualizar interactivamente el lenguaje ensamblador (Redcode) de los guerreros en la ubicación del cursor del ratón. Repositorio de GitHub:

Reina Roja Digital: Evolución de Programas Adversariales en Core War con LLMs Este trabajo es una colaboración entre MIT + Sakana AI🐟 Por @AkarshKumar0101 @RyanBoldi @Prafull7 @Phillip_Isola @Risi1979 @Yujin_Tang @hardmaru