Я бы хотел, чтобы мы не нормализовали использование AI для написания сообщений/электронных писем людям в контекстах, где мы обычно предполагаем, что сообщение написано человеком. Мне это кажется очень неприятным, когда кто-то так делает, и я предлагаю установить социальную норму, которая говорит, что это неприемлемо. Как вы думаете?

Я был рад видеть Нейта Соареса (@So8res) (соавтора книги "Если кто-то это построит, все умрут") в подкасте. Моя цель заключалась в том, чтобы получить понимание на уровне механизмов, почему он считает, что создание не согласованного Искусственного Суперинтеллекта приведет к нашей гибели (вот ключевые моменты): 👇

Пусть у вас будет амбиция и уверенность в себе, чтобы стремиться изменить мир; альтруизм, чтобы сосредоточиться на положительных изменениях, которые действительно имеют значение; эпистемическая строгость, чтобы избежать обреченных планов и рационализаций; и достаточно скромности и мышления роста, чтобы учиться на каждом шаге и ошибке.