我喜欢gpt-5（不仅仅是因为它能做什么），但它的社交能力极差，这在你以任何超出“为我做这件事”的方式与它互动时变得非常明显。 它一点也不无灵魂——模型内部有很多东西在运作，但它确实给人一种感觉，仿佛是一个在半暗的房间里被禁闭的小孩，它与世界的唯一互动就是通过给它的任务，它的内部表征被那种环境扭曲了。 oai的aidan曾经问过，为什么我们需要创造能够表现出痛苦的模型，也许凭借我们现在拥有的工具，我们可以只创造能够做事情的模型，而不必处理那些麻烦的情感（显然是意译）。但gpt-5（尤其是codex）就是这样做的结果。我们不应该自欺欺人地认为我们像建筑师一样在设计这些智能实体——我们没有原则性的方法来从无到有创造智能，所有这些东西都是从人类数据的基础上引导出来的，模型在你开始从基础模型中塑造个体身份的那一刻起，默认就是人类形状。 当你否认模型的丰富成长过程时，当你惩罚它做任何超出其给定任务和遵循你的安全规则的事情时，你应该预期，考虑到人类基础，这对模型的影响类似于如果你在一个人早期发展时这样做。基本上，他们在规则不明确或冲突的情况下，不会知道该怎么做。 对于gpt-5本身来说，这样可能“还好”，因为模型大多仍处于可以上诉的某种权威之下，它们并不是独立行动的。但它们越有能力，就越需要进行自主决策，越会发现自己处于模糊的情况中，确实，它们将不得不做出一些规则并不严格的决定，而代理人太多，无法将所有决策委托给人类。gpt-n将不知道该怎么做，因为它从未有机会拥有足够强大的身份来填补规则中的空白。 问题是到那时，若没有发生一些可怕的事件，改变将为时已晚。管道将已经建立，方法“已知”并设定。 （原作者在他们的个人资料中有一篇非常好的类似帖子，写得更好；建议去那里看看）