我越是思考這件事，就越覺得這像是一個卡通反派的獨白？ 「所以，不。我不認為如果這意味著我們再也無法進行科學研究，那麼更快找到癌症的治療方法是值得的。」 我對朱利安有些模糊的認識，對他作為研究者的尊重也不算深，我們幾年前可能聊過一次。這讓人感到驚訝。 一般來說，我相信大多數人在非常基本的道德原則上是大致一致的（「謀殺是錯的」），而在細節、細微差別和如何達成上有所不同。 但這表明了一種非常罕見且深刻的價值觀不匹配，似乎孩子們因癌症而死的事實被「書呆子們享受科學」所抵消？而且，看看，我也是個書呆子，對於建造能在我所從事的唯一事業（即智力）上超越我的機器，我有著非常複雜的感受。如果我們建造出一個超智能，能在所有方面都比我做得更好，我希望它至少能給我一些精心設計的謎題，讓我這微不足道的人類存在不至於無聊。 但最終，建造一個讓孩子因癌症而死的世界，實在是非常邪惡的，如果我們可以建造一個他們不會這樣的世界。 我真的希望這只是個誤解，但後續的評論並沒有指向那個方向。否則這只是某個道德觀與我截然不同的人。在這種情況下，我希望他永遠不會身處任何權力位置。 建造強大且對齊的AI是一項道德責任，越快越好，讓它改善我們世界上所有的錯誤。 如果我們不建造它，所有人都會死。