.@karpathy 说 LLM 目前缺乏推动人类走出草原的文化积累和自我游戏: 文化:> “为什么 LLM 不能为其他 LLM 写一本书?为什么其他 LLM 不能阅读这个 LLM 的书并受到启发,或者感到震惊?” 自我游戏:> “这非常强大。进化有很多竞争推动智能和进化。AlphaGo 是在与自己对弈,这就是它学习如何在围棋上变得非常出色的方式。LLM 中没有自我游戏的等价物。为什么 LLM 不能,例如,创建一堆问题让另一个 LLM 学习解决?这样 LLM 就总是在尝试提供越来越难的问题。” 我问 Karpathy 为什么 LLM 仍然无法像人类一样建立文化。 > “更笨的模型惊人地像一个幼儿园学生。[最聪明的模型仍然感觉像] 小学生。不过,我们似乎仍然没有毕业到足以让[这些模型]接管的程度。我的 Claude Code 或 Codex,它们仍然感觉像这个小学年级的学生。我知道它们可以参加博士生测验,但它们在认知上仍然感觉像幼儿园。” > “我认为它们无法创造文化,因为它们仍然是孩子。它们是天才儿童。它们有完美的记忆。它们可以令人信服地创造出各种看起来非常好的垃圾。但我仍然认为它们并不真正知道自己在做什么。它们在所有这些小复选框中并没有真正具备我们仍需收集的认知。”