AGI tek bir model olarak gelmeyebilir. Birçok ajanın birlikte çalışmasından kaynaklanabilir. Google DeepMind'den yeni bir makale, AGI'nin tek bir sistem değil, kolektif zeka olarak görünebileceğini savunuyor. İddia AGI ilk olarak özel yapay zeka ajanlarının ağlarından ortaya çıkabilir. Her ajan dar kalıyor. Birlikte genel davranırlar. Neden bu önemli Çoğu güvenlik çalışması tek güçlü bir yapay zekaya dayanır. Bu makale bu varsayımı reddediyor. Risk, tek bir zihni hizalamaktan etkileşimleri yönetmeye kayıyor. Yamalı AGI nasıl oluşur? • Ajanlar araçlar, bellek, kodlama veya arama konusunda uzmanlaşmıştır • Düzenlemeye göre ajanlar arasında bölünen görevler • Koordinasyon yeni yetenekler yaratır • Hiçbir tek ajan tam yetenekli değildir Temel risk Kolektif davranış bireysel kontrolü aşabilir. Acil zeka fark edilmeyebilir. Önerilen çözüm Güvenlik, modelleri değil, sistemleri hedef almalıdır. ▸ Kontrollü ajan piyasaları ▸ Ajan başına itibar ve kimlik ▸ Denetim kayıtları ve devre kesiciler...