.@karpathy diz que os LLMs atualmente carecem do acúmulo cultural e do auto-jogo que impulsionaram os humanos para fora da savana: Cultura: > "Por que um LLM não pode escrever um livro para os outros LLMs? Por que outros LLMs não podem ler o livro deste LLM e se inspirar ou ficar chocados com ele?" Auto-jogo: > "É extremamente poderoso. A evolução tem muita competição impulsionando a inteligência e a evolução. O AlphaGo está jogando contra si mesmo e é assim que ele aprende a ficar realmente bom em Go. Não há equivalente a auto-jogo em LLMs. Por que um LLM, por exemplo, não pode criar um monte de problemas que outro LLM está aprendendo a resolver? Então o LLM está sempre tentando atender a problemas cada vez mais difíceis. Perguntei a Karpathy por que os LLMs ainda não são capazes de construir a cultura da maneira que os humanos fazem. > "Os modelos mais burros se assemelham notavelmente a um aluno do jardim de infância. [Os modelos mais inteligentes ainda parecem De alguma forma, ainda não nos formamos o suficiente para que [esses modelos] possam assumir o controle. Meu Claude Code ou Codex, eles ainda se sentem como esse aluno do ensino fundamental. Eu sei que eles podem fazer testes de doutorado, mas ainda se sentem cognitivamente como um jardim de infância. > "Eu não acho que eles possam criar cultura porque ainda são crianças. Eles são crianças savant. Eles têm memória perfeita. Eles podem criar de forma convincente todos os tipos de lixo que parecem muito bons. Mas ainda acho que eles realmente não sabem o que estão fazendo. Eles realmente não têm a cognição em todas essas pequenas caixas de seleção que ainda temos que coletar.