Die Bewertungen von AI basieren auf dem Versprechen von Produktivitätsgewinnen, die auf sich kumulierenden AI-Verbesserungen beruhen. Wir bauen jetzt die Produkte auf einem Fundament von Forschung aus vor 5 Jahren auf, als jeder veröffentlichte. Offene Forschung ist der beste Weg, um die AI-Verbesserungen weiter zu kumulieren.
Dies ist eine ausgezeichnete Geschichte der LLMs, die keine grundlegenden Arbeiten auslässt, die ich kenne. Es erinnert daran, dass wir auf den Schultern von Riesen stehen, und Riesen werden auch heute noch geboren.
(🧵) Heute veröffentlichen wir das Meta Code World Model (CWM), ein dichtes LLM mit 32 Milliarden Parametern, das neuartige Forschungen zur Verbesserung der Codegenerierung durch agentisches Denken und Planung mit Weltmodellen ermöglicht.