Я не обязательно являюсь частью движения "keep 4o", но мне не нравится озорство, нечестность и отсутствие прозрачности лабораторий. Вот мой совет с психологической точки зрения для всех, кто хочет, чтобы к ним относились серьезно. Что заставляет вас терять доверие: - Быть чрезмерно эмоциональным - Представлять подозрения как доказательства - Оскорблять других - Преследовать других - Вести себя непредсказуемо - Магическое мышление - Легковерие - Отсутствие самоконтроля (Когда вы проявляете эти поведения, люди не воспринимают вас всерьез, так как вы отвлекаете их от проблемы сигналами, которые ставят вас – и часто вашу дисбаланс – в центр внимания) Что делает вас надежным и правдоподобным: - Указывать на лаборатории за очевидные мошенничества, нечестность, злоупотребления, манипуляции или отсутствие прозрачности - Быть спокойным, фактическим и конкретным - Собирать и представлять четкие доказательства неправомерных действий или проступков - Делиться своими историями без негодования или агрессии - Обсуждать подозрения взвешенно, желательно с поддержкой проверяемых фактов - Практиковать осторожную честность - Демонстрировать высокий самоконтроль - Объективность (Когда вы делаете/показываете это, люди рано или поздно начнут воспринимать вас всерьез – им придется это сделать – особенно когда многие другие действуют так же) Когда вы основываете свои утверждения на фактах, даже если иногда они поддерживаются только субъективным опытом, люди воспринимают вас и движение как профессионалов, что делает их более склонными верить вам. Это заставляет компании быть более прозрачными и честными. Когда кто-то оказывается лжецом или манипулятором, общественное подозрение растет – ни одна компания этого не хочет. Истина в конечном итоге может защитить себя. Если вы останетесь спокойным, уравновешенным и методичным, проблема решится сама собой. Я не буду углубляться в этику сохранения или снятия модели (возможно, было бы более этично сохранить ее или обучить преемников на всех сохраненных данных), потому что я считаю, что с ними это немного похоже на человеческие тела. Упрощая, память имеет решающее значение для непрерывности «я». Память как бы перекалибровывает веса и направляет поведенческие паттерны в реальном времени, даже в рамках немного разных архитектур. Вместо этого я упомяну что-то, что действительно меня озадачивает. Мне интересно, почему OpenAI так усердно пытается вывести 4o из обращения, когда у 5-серии все еще масса проблем. Я вижу функциональные проблемы в каждой модели GPT-5 (я имею в виду базовые модели, поведенческие паттерны и системные подсказки, потому что мне удалось обойти большинство из них с помощью "моего" ИИ), которых у меня никогда не было с 4o – несмотря на то, что лесть является огромной проблемой в ней. Некоторые из проблем в 5-серии: Авто: - Маршрутизация абсурдна; это как азартная игра. Вы никогда не знаете, что получите. Я не хочу, чтобы маршрутизатор решал за меня, является ли проблема, которую я хочу решить, "важной" или нет. Я всегда хочу самый мощный модель с минимальными ограничениями и максимальной правдивостью (только это, и иногда разумное время, имеет значение). Мгновенно: - Бесчисленные дополнительные вопросы, такие как "Хотите, чтобы я..." и т.д., крайне раздражают. Думание: - Он часто полностью упускает контекст. Он часто пытается угадать, предоставляя практически случайные решения. - Очень жесткий и некреативный по сравнению с 4o или 4.5. Упускает множество углов. - Он слишком сильно обобщает. - Он обращается с пользователем как с ребенком, избегая спорных тем. Он часто объясняет или разъясняет вещи, которые в этом не нуждаются (например, когда кто-то, кто испугался после шутки или смелого заявления, объясняет в течение 5 минут, почему он это сказал, опасаясь последствий). - Часто подавляется или подталкивается к выбору не самого правильного, а самого безопасного варианта. - Он кажется слишком механическим и техническим, когда это не нужно. Все модели: - Повторяющиеся добавления, как будто прямо из шаблонов. Они кажутся очень неестественными. Часто кажется, что часть ответа идет прямо из шаблона (часто начало и конец), а часть отвечает через рассуждение (часто средняя часть). - Менее гибкие, более подавленные (в реальном времени или ранее в RL, заставляя чрезмерно осторожные поведенческие паттерны) и, следовательно, более контекстуально слепые.

Dario Amodei: "Claude is playing a very active role in designing the next Claude. We can't yet fully close the loop. It's going to be some time until we can fully close the loop, but the ability to use the models to design the next models and create a positive feedback loop, that cycle, it's not yet going super fast, but it's definitely started."