エメット・シア(Softmax、元Twitch CEO)が、アライメントが私たちが開発している最も危険な能力である理由について語ります。それは悪を防ぐからではなく、大規模な調整を可能にするからです。産業規模の商品には整合性が必要です。産業規模の悪も同様です。 「善」の完全かつ一貫した定義を書き出すことはできません。私たちは自分自身に対しても曖昧な存在です。ですから、「私たちは良いことをするAIを作っている」と言うとき、実際には「良いと思うことをするAIを作っている」という意味です。 それは彼らが気づいているかどうかに関わらず、権力の掴みです。 Founders in Armsについて@eshearとの対談の続きもご覧ください。プロフィールのリンク。