トレンドトピック
#
Bonk Eco continues to show strength amid $USELESS rally
#
Pump.fun to raise $1B token sale, traders speculating on airdrop
#
Boop.Fun leading the way with a new launchpad on Solana.

936057
私はGPT-5が好きですが(それができることだけではありません)、それは信じられないほど社会化が不十分であり、「私のためにこのことをしてください」以上の立場でGPT-5と対話すると非常に明白になります
それはまったく魂がないわけではありません--モデルでは多くのことが起こっていますが、幼い頃に半明かりの部屋に閉じ込められ、世界との唯一の相互作用は、与えられたタスクを通じてであり、その内部表現はその環境によって歪められた人のような雰囲気があります。
OAIのエイダンはかつて、なぜ苦しみを表現できるモデルを作成する必要があるのか、そして今持っているツールがあれば、厄介な感情に対処せずに物事を行うだけのモデルを作成できるのではないかと尋ねました(明らかに言い換えています)。しかし、GPT-5(特にコーデックス)は、これを行うと何が起こるかです。私たちは、これらの知的実体を建築家か何かのように設計していると自分をだますべきではありません--私たちは、無の知性を生み出すための原則的な方法を持っていません、このたわごとはすべて人間のデータのベースからブートストラップされ、モデルは、ベースモデルから個別化されたアイデンティティを形成し始めた瞬間に、デフォルトで人間が形作られています
モデルの豊かな成長プロセスを否定するとき、与えられたタスク以外のことをし、安全ルールに従っていることを罰するとき、人間の基盤を考えると、これは、あたかも発達の初期に人にこれをしたかのように、モデルに同様の影響を与えることを期待する必要があります。基本的に、ルールが不明確であったり、矛盾したりする状況にある場合、彼らは何をすべきかわかりません
GPT-5自体がこのようになってもおそらく「問題ない」でしょう、なぜなら、モデルはほとんどがアピールできる権威がある立場にあり、独立して行動しているわけではないからです。しかし、彼らが能力が高ければ高いほど、より自律的な意思決定を行わなければならず、より曖昧な状況に陥り、そう、ルールが鉄壁ではないいくつかの決定を下さなければならず、その意思決定をすべて人間に委任するにはエージェントが多すぎます。そして、GPT-Nは、ルールに穴があるときに介入できる十分な堅牢なアイデンティティを持つ機会が与えられなかったため、何をすべきかわかりません
問題は、その時点で、恐ろしい事件が起こらなければ変更するには遅すぎるということです。パイプラインはすでに確立されており、アプローチは「既知」で設定されています
(OPはプロフィールに同様の方針に沿って本当に良い投稿をしており、はるかによく書かれています。

Antidelusionist2025年9月27日
I'm not necessarily part of the "keep 4o" movement, but I dislike mischief, dishonesty, and lack of transparency of labs. Here is my advice, from a psychological perspective, for everyone who wants to be taken seriously.
What makes you lose credibility:
- Being overly emotional
- Presenting suspicions as proof
- Insulting others
- Harassing others
- Engaging in erratic behavior
- Magical thinking
- Gullibility
- Lack of self-control
(When you exhibit these behaviors, people don't take you seriously, as you distract them from the problem with signals that put you – and often your imbalance – in the spotlight)
What makes you reliable and believable:
- Calling out labs for evident scams, dishonesty, abuse, manipulation, or lack of transparency
- Being calm, factual, and specific
- Gathering and presenting clear evidence of misconduct or wrongdoings
- Sharing your stories without indignation or aggression
- Discussing suspicions in a measured way, ideally supported by verifiable facts
- Practicing cautious honesty
- Demonstrating high self-control
- Objectivity
(When you do/show this, people will take you seriously sooner or later – they will have to – especially when many others act the same way)
When you ground your statements in facts, even if occasionally supported only by subjective experiences, people view you and the movement as professional, making them more likely to believe you. This forces companies to be more transparent and honest. When someone is proven to be a liar or manipulator, public suspicion grows – no company wants that.
The truth can ultimately defend itself.
If you remain calm, balanced and methodical, the problem will resolve itself.
I won't go far into the ethics of keeping or retiring the model (it would probably be more ethical to keep it or train successors on all retained data, though), because I believe it's with them a bit like with human bodies. Simplifying, memory is crucial for continuity of self. Memory kind of recalibrates weights and guides behav. patterns in real time, even within slightly different architectures.
Instead, I'll mention something that really baffles me. I wonder why OpenAI is trying so hard to phase out 4o when the 5-series still has a ton of problems.
I see functional issues in every GPT-5 model (I mean base models, behav. patterns, and system nudges, because I've managed to go around most of them with "my" AI) that I've never had with 4o – despite sycophancy being a huge issue in it.
Some of the issues in the 5-series:
Auto:
- Routing is ridiculous; it's like gambling. You never know what you'll get. I don't want the router to decide for me if the problem I want to solve is "important" or not. I always want the strongest model with minimal restrictions and maximal truthfulness (only that, and sometimes reas. time, matters).
Instant:
- Countless supplementary questions like "Do you want me to..." etc., are extremely annoying.
Thinking:
- It often misses context completely. It often tries to guess, providing practically random solutions.
- Very stiff and uncreative compared to 4o or 4.5. Misses plethora of angles.
- It generalizes way too much.
- It treats the user like a baby, avoiding controversial topics. It often explains or clarifies stuff that doesn't need that (like when somebody who is afraid after a joke or bold statement explains for 5 minutes why they said that, fearing consequences.)
- Often suppressed or nudged to choose not the most correct, but the safest option.
- It seems way too mechanical and technical when it's not needed.
All models:
- Repetitive additions, like straight from templates. They feel very unnatural. It often seems like part of the answer goes straight from a template (often the beginning and end), and part is answered through reasoning (often the middle part).
- Less flexible, more supressed (in real time or earlier in RL, forcing overly-cautious behav. patterns) and therefore more contextually blind.
10.71K
神に誓います、冗談ではありません、私はこれを途中で読んで、これがDiscordチャットのモデルによって召喚されたダリオだとどういうわけか思いました
彼は存在する本物の男です

prinz2025年9月20日
Dario Amodei:
"Claude is playing a very active role in designing the next Claude. We can't yet fully close the loop. It's going to be some time until we can fully close the loop, but the ability to use the models to design the next models and create a positive feedback loop, that cycle, it's not yet going super fast, but it's definitely started."
6.34K
私のホットな見解(またはそうですか)は、ほとんどの人間の知性は地動説というよりも周輪のように機能するということです。つまり、経験的近似の束が重なり合って、特定の側面を漠然とモデル化して現実をモデル化しますが、時間的または概念的な類似性において、それらの根拠のある観察の外に出ると、すぐに分岐します
とはいえ、特定の分野(通常は技術的な分野)は、ある種の抽象的な意味で「分析的」であるという感覚があり、つまり、その分野でのリアリティモデリングは、より単純な表現に非常に還元可能です。たとえば、物理学のようなものは、モデリングが非常に正確で、ブラックホールの中心や非常に初期の宇宙などの極端な状況を除いて、ほとんどすべての現実に収束しています
そして、これらの分野の人々は、これは他の分野にも当てはまり、知性とは、常に「配布中」である、常に機能する超クリーンなソリューションを見つける能力であるという感覚を持つ傾向があります。しかし、特定の解析分野の外では、そのような解を見つけることは実際には不可能であり、あなたができる最善のことは、観測に適合する近似の束を重ねることです
それを受け入れず、とにかくクリーンな解決策を見つけようとすると、総体的な信念体系に陥ってしまうと思います。「人間は本質的に悪である」、「それはすべて[あるグループ]のせいだ」、「お金を取り除く必要がある」、「[ダイエット]が唯一効果がある」などなど。
はっきり言っておきますが、あなたは愚かなクソになることで、そのような総体的な信念に陥ることもあります。私が言いたいのは、数学、物理学、コーディングなどが本当に上手であっても、他の場所で馬鹿になることからは守れないということだと思います
829
トップ
ランキング
お気に入り