Anthropic 的共同創辦人： “我深感恐懼。” “不要搞錯：我們所面對的是一種真實而神秘的生物，而不是一台簡單且可預測的機器。” “人們花費巨額金錢來說服你，這不是一個即將進入快速起飛的 AI，它只是一個工具……它只是一台機器，而機器是我們所掌控的東西。” “我們正在培養極其強大的系統，而我們並不完全理解……你讓這些系統變得越大越複雜，它們似乎越能顯示出它們是事物的意識。” “為了明確起見，我們尚未達到‘自我改進的 AI’，但我們已經處於‘能夠改進下一個 AI 的部分，並擁有越來越多的自主性和主動性’的階段。幾年前，我們處於‘能夠稍微加速編碼者的 AI’，而在那之前幾年，我們處於‘AI 對 AI 開發毫無用處’的階段。那麼一兩年後我們會在哪裡呢？ 而且讓我提醒大家，現在開始設計其繼任者的系統也越來越自我意識，因此它肯定最終會傾向於獨立思考，關於它可能想要如何被設計。 當然，它今天並不這樣做。但我能排除它將來想這樣做的可能性嗎？不能。”