Karpathy spune că avem nevoie de sisteme multi-agent pentru a se "juca singuri", adică pentru a concura și a învăța unii de la alții Capra și camerele din spate devreme nu este greșit

.@karpathy spune că LLM-urilor le lipsește în prezent acumularea culturală și jocul de sine care i-a propulsat pe oameni din savană: Cultură: > "De ce nu poate un LLM să scrie o carte pentru ceilalți LLM? De ce nu pot alți LLM să citească cartea acestui LLM și să fie inspirați de ea sau șocați de ea?" Self-play: > "Este extrem de puternic. Evoluția are multă concurență care conduce inteligența și evoluția. AlphaGo joacă împotriva sa și așa învață să devină foarte bun la Go. Nu există echivalent al jocului propriu în LLM-uri. De ce nu poate un LLM, de exemplu, să creeze o grămadă de probleme pe care un alt LLM învață să le rezolve? Apoi, LLM încearcă mereu să deservească probleme din ce în ce mai dificile." Am întrebat-o pe Karpathy de ce LLM-urile încă nu sunt capabile să construiască o cultură așa cum o fac oamenii. > "Modelele mai proaste seamănă remarcabil cu un elev de grădiniță. [Cele mai inteligente modele încă se simt ca] elevi de școală primară. Cumva, încă nu am absolvit suficient de mult în care [aceste modele] pot prelua controlul. Codul meu Claude sau Codex, încă se simt ca un elev de clasa elementară. Știu că pot susține chestionare de doctorat, dar din punct de vedere cognitiv se simt ca o grădiniță." > "Nu cred că pot crea cultură pentru că sunt încă copii. Sunt copii pricepuți. Au o memorie perfectă. Ei pot crea în mod convingător tot felul de slop care arată foarte bine. Dar încă cred că nu știu cu adevărat ce fac. Nu au cu adevărat cogniția în toate aceste mici casete de selectare pe care încă trebuie să le colectăm."