1/ Я хочу сказать прямо: во всех отраслях, особенно в AI, важно поддерживать хороших парней. Anthropic — один из хороших парней. Больше мыслей о том, почему нам нужно поддерживать инновации и одновременно говорить о безопасности:

Я обычно стараюсь избегать прямых комментариев о гиперскейлерах (я возглавлял первый раунд OpenAI, а Greylock является инвестором Anthropic). Но я чувствую, что очень важно прокомментировать это здесь. Я бы сказал ниже с такой же силой, даже если бы не существовало никаких инвестиций.

Anthropic, наряду с некоторыми другими (включая Microsoft, Google и OpenAI), пытаются внедрить ИИ правильным образом, обдуманно, безопасно и с огромной пользой для общества. Вот почему я искренне болею за их успех.

Некоторые другие лаборатории принимают решения, которые явно игнорируют безопасность и социальное воздействие (например, боты, которые иногда становятся полностью фашистскими), и это их выбор. Так же, как и выбор не поддерживать их.

Экстремальные аргументы с обеих сторон проблемы часто используются, чтобы отвергнуть реальные, продуманные и логические аргументы. Делать это интеллектуально нечестно или идиотски.

Сведение того, что должно быть разговором на уровне общества о ответственном использовании технологий ИИ, к серии банальностей или сигналов тревоги, не помогает миллиардам людей, чьи жизни изменятся из-за ИИ (большинство из которых никогда не прочитает этот твит).

Во многих местах, включая мою книгу в этом году "SuperAgency", я настоятельно выступал за легкий регуляторный ландшафт, который приоритизирует инновации и позволяет новым игрокам конкурировать на равных условиях.

Поддержка безопасности ИИ не означает поддержку языковой полиции: например, есть критически важные темы безопасности ИИ в области биобезопасности и кибербезопасности, которые необходимо обсудить.

Мы живем в эпоху преимуществ промышленной революции, но история также показала нам великие ошибки, которые человечество совершило в процессе перехода. Давайте учиться и внедрять инновации, чтобы на этот раз лучше справиться с переходом.

Фундаментально, самый надежный способ предотвратить плохое будущее – это стремиться к лучшему, которое, благодаря своему существованию, делает значительно худшие результаты труднодостижимыми. Другими словами, работайте над лучшим будущим, а не просто пытайтесь остановить какое-то воображаемое плохое будущее.

Исходы пессимистов и оптимистов в отношении ИИ — это набор вероятностей, а не certainties. Наши действия постоянно изменяют шансы в сторону лучших или худших исходов

Все мы в долине несем ответственность за то, чтобы "направлять" будущее через диалог и находить путь вперед, который сбалансирует безопасность, инновации и гуманизм.

Это не "радикальный" подход ни в коем случае. История говорит нам, что путь к лучшему миру лежит через диалог, технологии и итеративное развертывание. Anthropic, OpenAI и многие другие живут этим каждый день.