Gdy agenci rywalizują o ograniczone zasoby, inteligencja reorganizuje się wokół przetrwania, a nie elegancji.

Przetrwanie najsilniejszych kodów. Core War (1984) to gra, w której programy muszą zniszczyć swoich przeciwników, aby przetrwać. Wojownicy napisani w języku asemblera zwanym Redcode walczą o kontrolę nad wirtualną maszyną. Nasz nowy artykuł: Cyfrowa Czerwona Królowa: Adwersarialna Ewolucja Programów w Core War z LLM, bada, co się dzieje, gdy LLM napędzają adwersarialny wyścig zbrojeń ewolucyjnych w tej dziedzinie. Zadaliśmy LLM napisanie programów Wojowników w Redcode, które muszą przewyższyć wirtualny świat pełen takich programów. Core War to środowisko Turinga, w którym kod i dane dzielą tę samą przestrzeń adresową, co prowadzi do bardzo chaotycznej dynamiki kodu samomodyfikującego się. To podejście jest inspirowane hipotezą Czerwonej Królowej w biologii ewolucyjnej: zasadą, że gatunki muszą nieustannie dostosowywać się i ewoluować, aby przetrwać w obliczu ciągle zmieniających się konkurentów. W naszej pracy programy nieustannie dostosowują się, aby pokonać rosnącą historię przeciwników, a nie statyczny punkt odniesienia. Stwierdzamy, że ten adwersarialny proces prowadzi do pojawienia się coraz bardziej ogólnych strategii, w tym celowanej samoreplikacji, bombardowania danych i masywnego wielowątkowania. Najciekawsze jest to, że ujawnia formę ewolucji zbieżnej. Różne implementacje kodu osiadają w podobnych, wysoko wydajnych zachowaniach, odzwierciedlając, jak agenci biologiczni niezależnie ewoluują podobne cechy, aby rozwiązywać te same problemy. Uważam, że ta praca pozycjonuje Core War jako piaskownicę do badania dynamiki Czerwonej Królowej w systemach sztucznych. Oferuje bezpieczne, kontrolowane środowisko do analizy, jak agenci AI mogą ewoluować w rzeczywistych adwersarialnych warunkach, takich jak cyberbezpieczeństwo. Symulując te adwersarialne dynamiki w izolowanej piaskownicy, oferujemy wgląd w przyszłość, w której wdrożone systemy LLM mogą zacząć konkurować ze sobą o ograniczone zasoby w rzeczywistym świecie.

RT @graceisford: Z radością ogłaszam najnowszy fundusz @Lux_Capital o wartości 1,5 miliarda dolarów - wdzięczna za możliwość dalszej współpracy z założycielami, którzy wynajdują przyszłość…