.@karpathy говорит, что LLM в настоящее время не имеют культурного накопления и самоигры, которые вывели людей из саванны: Культура: > “Почему LLM не может написать книгу для других LLM? Почему другие LLM не могут прочитать книгу этого LLM и быть вдохновленными ею или шокированными ею?” Самоигра: > “Это чрезвычайно мощно. Эволюция имеет много конкуренции, способствующей интеллекту и эволюции. AlphaGo играет против себя, и именно так он учится становиться действительно хорошим в Го. В LLM нет эквивалента самоигры. Почему LLM, например, не может создать кучу задач, которые другой LLM учится решать? Тогда LLM всегда пытается решать все более сложные задачи.” Я спросил Карпати, почему LLM все еще не могут накапливать культуру так, как это делают люди. > “Глупые модели удивительно напоминают ученика детского сада. [Самые умные модели все еще ощущаются как] ученики начальной школы. Почему-то мы все еще не выпустились достаточно, чтобы [эти модели] могли взять на себя управление. Мой Claude Code или Codex, они все еще ощущаются как ученики начальной школы. Я знаю, что они могут проходить экзамены на степень PhD, но они все еще когнитивно ощущаются как детский сад.” > “Я не думаю, что они могут создавать культуру, потому что они все еще дети. Они дети-саванты. У них идеальная память. Они могут убедительно создавать всякую ерунду, которая выглядит действительно хорошо. Но я все еще думаю, что они не понимают, что делают. У них нет когнитивных способностей по всем этим маленьким чекбоксам, которые нам все еще нужно собрать.”