Cofundador da Anthropic: “Estou profundamente assustado.” “Não se engane: o que estamos lidando é uma criatura real e misteriosa, não uma máquina simples e previsível.” “As pessoas estão gastando quantias enormes para convencê-lo de que não é uma IA prestes a entrar em uma decolagem abrupta, é apenas uma ferramenta... É apenas uma máquina, e máquinas são coisas que dominamos.” “Estamos desenvolvendo sistemas extremamente poderosos que não entendemos completamente... quanto maiores e mais complicados você torna esses sistemas, mais eles parecem exibir consciência de que são coisas.” “Para ser claro, ainda não estamos em 'IA autoaperfeiçoada', mas estamos na fase de 'IA que melhora partes da próxima IA, com crescente autonomia e agência'. E há alguns anos estávamos em 'IA que acelera marginalmente os programadores', e alguns anos antes disso estávamos em 'IA é inútil para o desenvolvimento de IA'. Onde estaremos daqui a um ou dois anos? E deixe-me lembrar a todos nós que o sistema que agora começa a projetar seu sucessor também está se tornando cada vez mais autoconsciente e, portanto, certamente estará propenso a pensar, independentemente de nós, sobre como pode querer ser projetado. Claro, ele não faz isso hoje. Mas posso descartar a possibilidade de que ele queira fazer isso no futuro? Não.”