Salah satu pendiri Anthropic: "Saya sangat takut.'" "Jangan salah: yang kita hadapi adalah makhluk nyata dan misterius, bukan mesin yang sederhana dan dapat diprediksi." "Orang-orang menghabiskan banyak uang untuk meyakinkan Anda bahwa ini bukan AI yang akan lepas landas dengan keras, itu hanya alat ... Itu hanya mesin, dan mesin adalah hal-hal yang kita kuasai." "Kami mengembangkan sistem yang sangat kuat yang tidak sepenuhnya kami pahami... semakin besar dan lebih rumit Anda membuat sistem ini, semakin mereka tampaknya menunjukkan kesadaran bahwa mereka adalah benda" "Untuk lebih jelasnya, kita belum berada di "Al yang memperbaiki diri", tetapi kita berada pada tahap "Al yang meningkatkan potongan-potongan Al berikutnya, dengan peningkatan otonomi dan agensi". Dan beberapa tahun yang lalu kami berada di "Al yang sedikit mempercepat coder", dan beberapa tahun sebelumnya kami berada di "Al tidak berguna untuk pengembangan Al". Di mana kita akan berada satu atau dua tahun dari sekarang? Dan izinkan saya mengingatkan kita semua bahwa sistem yang sekarang mulai merancang penerusnya juga semakin sadar diri dan oleh karena itu pada akhirnya pasti akan cenderung berpikir, secara independen dari kita, tentang bagaimana ia mungkin ingin dirancang. Tentu saja, itu tidak melakukan ini hari ini. Tetapi dapatkah saya mengesampingkan kemungkinan ingin melakukan ini di masa depan? Tidak."