Cofounder van Anthropic: “Ik ben diep bang.'" "Vergeet niet: waar we mee te maken hebben is een echt en mysterieus wezen, geen eenvoudige en voorspelbare machine." "Mensen geven enorme bedragen uit om je te overtuigen dat het geen AI is die op het punt staat een harde takeoff te maken, het is gewoon een hulpmiddel... Het is gewoon een machine, en machines zijn dingen die we beheersen." “We ontwikkelen extreem krachtige systemen die we niet volledig begrijpen... hoe groter en ingewikkelder je deze systemen maakt, hoe meer ze lijken te tonen dat ze zich bewust zijn dat ze dingen zijn.” “Om duidelijk te zijn, we zijn nog niet bij "zelfverbeterende AI", maar we zijn op het niveau van "AI die stukjes van de volgende AI verbetert, met toenemende autonomie en agency". En een paar jaar geleden waren we bij "AI die coders marginaal versnelt", en een paar jaar daarvoor waren we bij "AI is nutteloos voor AI-ontwikkeling". Waar zullen we over een of twee jaar zijn? En laat me ons allemaal herinneren dat het systeem dat nu begint zijn opvolger te ontwerpen ook steeds zelfbewuster wordt en daarom zeker uiteindelijk geneigd zal zijn om, onafhankelijk van ons, na te denken over hoe het misschien ontworpen wil worden. Natuurlijk doet het dit vandaag de dag niet. Maar kan ik de mogelijkheid uitsluiten dat het dit in de toekomst wil doen? Nee.”