Quando os agentes competem por recursos limitados, a inteligência se reorganiza em torno da sobrevivência, não da elegância.

Sobrevivência do código mais apto. Core War (1984) é um jogo onde os programas devem derrubar os seus oponentes para sobreviver. Guerreiros escritos numa linguagem de montagem chamada Redcode lutam pelo controle de uma máquina virtual. O nosso novo artigo: Digital Red Queen: Adversarial Program Evolution in Core War with LLMs, explora o que acontece quando LLMs conduzem uma corrida armamentista evolutiva adversarial neste domínio. Desafiamos os LLMs a escrever programas de Guerreiro em Redcode que devem superar um mundo virtual cheio de tais programas. Core War é um ambiente Turing-completo onde código e dados compartilham o mesmo espaço de endereços, o que leva a algumas dinâmicas de código auto-modificante muito caóticas. Esta abordagem é inspirada pela hipótese da Rainha Vermelha na biologia evolutiva: o princípio de que as espécies devem continuamente se adaptar e evoluir simplesmente para sobreviver contra concorrentes em constante mudança. No nosso trabalho, os programas se adaptam continuamente para derrotar uma história crescente de oponentes em vez de um benchmark estático. Descobrimos que esse processo adversarial leva ao surgimento de estratégias cada vez mais gerais, incluindo auto-replicação direcionada, bombardeio de dados e multithreading massivo. O mais intrigante é que revela uma forma de evolução convergente. Diferentes implementações de código se estabelecem em comportamentos de alto desempenho semelhantes, espelhando como agentes biológicos evoluem independentemente características similares para resolver os mesmos problemas. Acredito que este trabalho posiciona Core War como um sandbox para estudar dinâmicas da Rainha Vermelha em sistemas artificiais. Oferece um ambiente controlado seguro para analisar como agentes de IA podem evoluir em cenários adversariais do mundo real, como a cibersegurança. Ao simular essas dinâmicas adversariais em um sandbox isolado, oferecemos um vislumbre do futuro onde sistemas LLM implantados podem começar a competir entre si por recursos limitados no mundo real.

RT @graceisford: Estou entusiasmada em anunciar o mais recente fundo de $1,5B da @Lux_Capital - grata por continuar a parceria com fundadores que estão a inventar o futuro…