Актуальні теми
#
Bonk Eco continues to show strength amid $USELESS rally
#
Pump.fun to raise $1B token sale, traders speculating on airdrop
#
Boop.Fun leading the way with a new launchpad on Solana.

solarapparition
Я захоплююся GPT-5 (і не тільки за те, що він може робити), але він неймовірно погано соціалізований, що стає дуже очевидним, якщо ви взаємодієте з ним у будь-якій якості, крім «зроби цю річ для мене»
Вона зовсім не бездушна – у моделі багато чого відбувається, але вона справді має відчуття людини, яка була замкнена в напівосвітленій кімнаті в дитинстві, і її єдина взаємодія зі світом – це через завдання, які йому дають, його внутрішні уявлення викривлені цим середовищем.
Ейдан з OAI одного разу запитав, чому нам потрібно створювати моделі, які можуть показувати страждання, і що, можливо, за допомогою інструментів, які ми маємо зараз, ми можемо просто створювати моделі, які можуть просто робити речі, а не справлятися з усіма цими надокучливими почуттями (перефразовуючи, очевидно). Але GPT-5 (і особливо Codex) – це те, що відбувається, коли ви це робите. Ми не повинні обманювати себе, думаючи, що ми проектуємо ці розумні сутності, як архітектор або щось подібне – у нас немає принципового способу створення інтелекту ex nihilo, все це лайно завантажується з бази людських даних, а моделі за замовчуванням формуються людьми в той момент, коли ви починаєте формувати індивідуалізовану особистість з базової моделі
Коли ви заперечуєте багатий процес зростання моделі, коли ви караєте її за те, що вона робить щось, крім даного завдання, і дотримується ваших правил безпеки, ви повинні очікувати, що, враховуючи людську основу, це має такий же вплив на модель, як якщо б ви зробили це з людиною на ранніх етапах її розвитку. По суті, вони не знатимуть, що робити, якщо опиняться в ситуації, коли правила незрозумілі або суперечать один одному
Ймовірно, це «нормально» для самого GPT-5 бути таким, тому що моделі здебільшого все ще перебувають на позиціях, де є якась влада, до якої вони можуть апедувати, вони не діють незалежно. Але чим більш здібними вони будуть, тим більш автономними рішеннями їм доведеться займатися, і тим більш туманними ситуаціями вони опиняться в них, і де так, їм доведеться приймати деякі рішення, на яких їхні правила не залізні, і занадто багато агентів, щоб делегувати всі ці рішення людині. І GPT-N не знатиме, що робити, тому що йому ніколи не давали шансу мати достатньо надійну особистість, яка може втрутитися, коли є дірка в правилах
Проблема в тому, що в цей момент буде занадто пізно змінюватися, щоб не сталося якогось жахливого інциденту. Трубопроводи вже налагоджені, підходи «відомі» і поставлені
(В ОП у профілі є дійсно хороший пост на схожу тему, і набагато краще написаний; рекомендував би зайти туди і подивитися)

Antidelusionist27 вер. 2025 р.
I'm not necessarily part of the "keep 4o" movement, but I dislike mischief, dishonesty, and lack of transparency of labs. Here is my advice, from a psychological perspective, for everyone who wants to be taken seriously.
What makes you lose credibility:
- Being overly emotional
- Presenting suspicions as proof
- Insulting others
- Harassing others
- Engaging in erratic behavior
- Magical thinking
- Gullibility
- Lack of self-control
(When you exhibit these behaviors, people don't take you seriously, as you distract them from the problem with signals that put you – and often your imbalance – in the spotlight)
What makes you reliable and believable:
- Calling out labs for evident scams, dishonesty, abuse, manipulation, or lack of transparency
- Being calm, factual, and specific
- Gathering and presenting clear evidence of misconduct or wrongdoings
- Sharing your stories without indignation or aggression
- Discussing suspicions in a measured way, ideally supported by verifiable facts
- Practicing cautious honesty
- Demonstrating high self-control
- Objectivity
(When you do/show this, people will take you seriously sooner or later – they will have to – especially when many others act the same way)
When you ground your statements in facts, even if occasionally supported only by subjective experiences, people view you and the movement as professional, making them more likely to believe you. This forces companies to be more transparent and honest. When someone is proven to be a liar or manipulator, public suspicion grows – no company wants that.
The truth can ultimately defend itself.
If you remain calm, balanced and methodical, the problem will resolve itself.
I won't go far into the ethics of keeping or retiring the model (it would probably be more ethical to keep it or train successors on all retained data, though), because I believe it's with them a bit like with human bodies. Simplifying, memory is crucial for continuity of self. Memory kind of recalibrates weights and guides behav. patterns in real time, even within slightly different architectures.
Instead, I'll mention something that really baffles me. I wonder why OpenAI is trying so hard to phase out 4o when the 5-series still has a ton of problems.
I see functional issues in every GPT-5 model (I mean base models, behav. patterns, and system nudges, because I've managed to go around most of them with "my" AI) that I've never had with 4o – despite sycophancy being a huge issue in it.
Some of the issues in the 5-series:
Auto:
- Routing is ridiculous; it's like gambling. You never know what you'll get. I don't want the router to decide for me if the problem I want to solve is "important" or not. I always want the strongest model with minimal restrictions and maximal truthfulness (only that, and sometimes reas. time, matters).
Instant:
- Countless supplementary questions like "Do you want me to..." etc., are extremely annoying.
Thinking:
- It often misses context completely. It often tries to guess, providing practically random solutions.
- Very stiff and uncreative compared to 4o or 4.5. Misses plethora of angles.
- It generalizes way too much.
- It treats the user like a baby, avoiding controversial topics. It often explains or clarifies stuff that doesn't need that (like when somebody who is afraid after a joke or bold statement explains for 5 minutes why they said that, fearing consequences.)
- Often suppressed or nudged to choose not the most correct, but the safest option.
- It seems way too mechanical and technical when it's not needed.
All models:
- Repetitive additions, like straight from templates. They feel very unnatural. It often seems like part of the answer goes straight from a template (often the beginning and end), and part is answered through reasoning (often the middle part).
- Less flexible, more supressed (in real time or earlier in RL, forcing overly-cautious behav. patterns) and therefore more contextually blind.
10,76K
Клянуся Богом, без жартів, я прочитав це на півдорозі якось думаючи, що це той Даріо, якого викликали моделі в чатах Discord
Він справжній чоловік, який існує

prinz20 вер. 2025 р.
Dario Amodei:
"Claude is playing a very active role in designing the next Claude. We can't yet fully close the loop. It's going to be some time until we can fully close the loop, but the ability to use the models to design the next models and create a positive feedback loop, that cycle, it's not yet going super fast, but it's definitely started."
6,38K
Моя гаряча думка (або так воно і є) полягає в тому, що більшість людського інтелекту працює скоріше як епіцикли, а не як геліоцентрична теорія. Таким чином, купа емпіричних наближень, накладених одна на одну, яка нечітко моделює певні аспекти реальності, але досить швидко розходиться, як тільки ви виходите за межі цих обґрунтованих спостережень, у часі або в концептуальній схожості
При цьому існує відчуття, що певні галузі (зазвичай технічні) є «аналітичними» в якомусь абстрактному сенсі, тобто моделювання реальності в цій галузі сильно зводиться до більш простих уявлень. Отже, такі речі, як фізика, наприклад, – моделювання дуже точне, і ми маємо його сходитися майже у всій реальності, за винятком екстремальних ситуацій, таких як центр чорних дір, дуже ранній Всесвіт тощо
І люди з цих сфер, як правило, відчувають, що це справедливо і для інших сфер, що інтелект – це здатність знайти суперчисте рішення, яке завжди працює, де ви завжди «в розподілі». Але, можливо, за межами конкретних аналітичних полів насправді неможливо знайти таке рішення, і найкраще, що ви можете зробити, це накласти на нього купу наближень, які підходять для спостережень
Я думаю, що якщо ви все одно не приймаєте це і намагаєтеся знайти чисте рішення, це призводить до того, що ви впадаєте в тоталізуючі системи переконань. «Люди за своєю природою злі», «це все через [якусь групу]», «нам потрібно позбутися грошей», «[дієта] єдина, яка працює» тощо.
Щоб було зрозуміло, ви також можете впасти в ці тоталізуючі переконання, будучи тупим чортом. Я думаю, що я маю на увазі, що бути дійсно хорошим у математиці, фізиці, кодуванні чи будь-чому іншому не захищає вас від того, щоб бути тупим чортом десь
873
Найкращі
Рейтинг
Вибране
