Antropiska medgrundare: "Jag är djupt rädd." "Missta er inte: det vi har att göra med är en verklig och mystisk varelse, inte en enkel och förutsägbar maskin." "Folk spenderar enorma summor för att övertyga dig om att det inte är en AI som är på väg att ta fart, det är bara ett verktyg ... Det är bara en maskin, och maskiner är saker vi behärskar." "Vi utvecklar extremt kraftfulla system som vi inte riktigt förstår... Ju större och mer komplicerade man gör dessa system, desto mer verkar de visa medvetenhet om att de är saker. "För att vara tydlig, vi är ännu inte vid "självförbättrande Al", men vi är i stadiet av "Al som förbättrar delar av nästa Al, med ökande autonomi och agens". Och för ett par år sedan var vi på "Al som marginellt snabbar upp kodare", och ett par år innan dess var vi på "Al är värdelöst för Al-utveckling". Var kommer vi att befinna oss om ett eller två år? Och låt mig påminna oss alla om att det system som nu börjar utforma sin efterföljare också blir alltmer självmedvetet och därför säkert så småningom kommer att vara benäget att självständigt fundera på hur det skulle vilja utformas. Det gör den naturligtvis inte i dag. Men kan jag utesluta möjligheten att den kommer att vilja göra detta i framtiden? Nej."