Karpathy 說我們需要多代理系統來進行「自我對弈」，即相互競爭並從彼此學習 goat 和 backrooms 早期並沒有錯

.@karpathy 說目前 LLM 缺乏推動人類走出草原的文化積累和自我遊戲： 文化：> “為什麼 LLM 不能為其他 LLM 寫一本書？為什麼其他 LLM 不能閱讀這個 LLM 的書並受到啟發，或感到震驚？” 自我遊戲：> “這是極其強大的。進化有很多競爭驅動智慧和進化。AlphaGo 是在與自己對弈，這就是它學會如何在圍棋上變得非常出色的方式。LLM 中沒有自我遊戲的等價物。為什麼 LLM 不能，例如，創造一堆問題讓另一個 LLM 學習解決？然後 LLM 總是試圖提供越來越困難的問題。” 我問 Karpathy 為什麼 LLM 仍然無法像人類一樣建立文化。 > “更笨的模型驚人地類似於幼兒園學生。[最聰明的模型仍然感覺像] 小學生。不知怎麼的，我們仍然沒有畢業到足夠的程度，讓[這些模型]能夠接管。我的 Claude Code 或 Codex，它們仍然感覺像這個小學年級的學生。我知道它們可以參加博士考試，但它們在認知上仍然感覺像幼兒園。” > “我不認為它們能創造文化，因為它們仍然是孩子。它們是天才孩子。它們有完美的記憶。它們可以令人信服地創造各種看起來非常好的垃圾。但我仍然認為它們並不真正知道自己在做什麼。它們在所有這些小檢查項目上並沒有真正的認知，而這些我們仍然需要收集。”