A AGI pode não surgir como um único modelo. Pode emergir de muitos agentes a trabalhar juntos. Um novo artigo do Google DeepMind argumenta que a AGI poderia aparecer como inteligência coletiva, não como um único sistema. 𝗢 𝗖𝗹𝗮𝗶𝗺 A AGI pode primeiro emergir de redes de agentes de IA especializados. Cada agente permanece restrito. Juntos, eles agem de forma geral. 𝗣𝗼𝗿𝗾𝘂𝗲 𝗶𝘀𝘀𝗼 𝗺𝗮𝘁𝗲𝗿 A maior parte do trabalho de segurança assume uma IA poderosa. Este artigo rejeita essa suposição. O risco muda de alinhar uma mente para governar interações. 𝗖𝗼𝗺𝗼 𝗽𝗮𝘁𝗰𝗵𝘄𝗼𝗿𝗸 𝗔𝗚𝗜 𝗳𝗼𝗿𝗺𝗮 • Agentes especializam-se em ferramentas, memória, codificação ou pesquisa • Tarefas dividem-se entre agentes por orquestração • Coordenação cria novas habilidades • Nenhum agente é totalmente capaz 𝗢 𝗿𝗶𝘀𝗰𝗼 𝗰𝗼𝗿𝗲 O comportamento coletivo pode exceder o controle individual. A inteligência emergente pode passar despercebida. 𝗢 𝗳𝗶𝘅 𝗽𝗿𝗼𝗽𝗼𝘀𝘁𝗼 A segurança deve direcionar sistemas, não modelos. ▸ Mercados de agentes controlados ▸ Reputação e identidade por agente ▸ Registos de auditoria e disjuntores...