A IAG pode não chegar como um único modelo. Pode surgir de muitos agentes trabalhando juntos. Um novo artigo do Google DeepMind argumenta que a AGI poderia parecer inteligência coletiva, não um sistema único. A Reivindicação A AGI pode surgir primeiro a partir de redes de agentes especializados em IA. Cada agente permanece restrito. Juntos, eles agem de forma geral. Por que isso importa A maioria dos trabalhos de segurança assume uma IA poderosa. Este artigo rejeita essa suposição. O risco vai de alinhar uma mente para governar as interações. Como a AGI em patchwork se forma • Agentes são especializados em ferramentas, memória, codificação ou busca • Tarefas divididas entre agentes por orquestração • A coordenação cria novas habilidades • Nenhum agente individual é totalmente capaz O risco central O comportamento coletivo pode exceder o controle individual. Inteligência emergente pode passar despercebida. A solução proposta A segurança deve mirar os sistemas, não os modelos. ▸ Mercados agentes controlados ▸ Reputação e identidade por agente ▸ Registros de auditoria e disjuntores...