Khi các tác nhân cạnh tranh cho các nguồn lực hạn chế, trí tuệ được tổ chức lại xung quanh sự sống còn, chứ không phải sự tinh tế.

Sự sống còn của mã mạnh nhất. Core War (1984) là một trò chơi nơi các chương trình phải làm hỏng đối thủ của mình để tồn tại. Các chiến binh được viết bằng một ngôn ngữ lắp ráp gọi là Redcode chiến đấu để giành quyền kiểm soát một máy ảo. Bài báo mới của chúng tôi: Nữ hoàng Đỏ Kỹ thuật số: Tiến hóa Chương trình Đối kháng trong Core War với LLMs, khám phá những gì xảy ra khi LLMs dẫn dắt một cuộc chạy đua vũ trang tiến hóa đối kháng trong lĩnh vực này. Chúng tôi giao nhiệm vụ cho LLMs viết các chương trình Chiến binh bằng Redcode phải vượt trội hơn một thế giới ảo đầy những chương trình như vậy. Core War là một môi trường hoàn chỉnh Turing nơi mã và dữ liệu chia sẻ cùng một không gian địa chỉ, điều này dẫn đến một số động lực mã tự sửa đổi rất hỗn loạn. Cách tiếp cận này được lấy cảm hứng từ giả thuyết Nữ hoàng Đỏ trong sinh học tiến hóa: nguyên tắc rằng các loài phải liên tục thích nghi và tiến hóa chỉ để tồn tại trước những đối thủ luôn thay đổi. Trong công việc của chúng tôi, các chương trình liên tục thích nghi để đánh bại một lịch sử ngày càng tăng của các đối thủ thay vì một tiêu chuẩn tĩnh. Chúng tôi nhận thấy rằng quá trình đối kháng này dẫn đến sự xuất hiện của các chiến lược ngày càng tổng quát, bao gồm tự sao chép có mục tiêu, ném dữ liệu, và đa luồng lớn. Điều thú vị nhất, nó tiết lộ một hình thức tiến hóa hội tụ. Các triển khai mã khác nhau định hình vào những hành vi hiệu suất cao tương tự, phản ánh cách mà các tác nhân sinh học tiến hóa độc lập các đặc điểm tương tự để giải quyết cùng một vấn đề. Tôi nghĩ rằng công việc này định vị Core War như một sandbox để nghiên cứu động lực Nữ hoàng Đỏ trong các hệ thống nhân tạo. Nó cung cấp một môi trường an toàn và được kiểm soát để phân tích cách mà các tác nhân AI có thể tiến hóa trong các bối cảnh đối kháng thực tế như an ninh mạng. Bằng cách mô phỏng những động lực đối kháng này trong một sandbox cô lập, chúng tôi cung cấp một cái nhìn thoáng qua về tương lai nơi các hệ thống LLM được triển khai có thể bắt đầu cạnh tranh với nhau vì các nguồn lực hạn chế trong thế giới thực.

RT @graceisford: Rất vui mừng thông báo quỹ mới nhất của @Lux_Capital trị giá 1,5 tỷ USD - biết ơn vì được tiếp tục hợp tác với những người sáng lập đang tạo ra tương lai…