Vi har precis publicerat Smol Training Playbook: ett destillat av surt förvärvade kunskaper för att dela med oss av exakt vad som krävs för att träna SOTA LLM:er ⚡️ Med vår protagonist SmolLM3 går vi igenom: 🧭 Strategi för om du ska träna din egen LLM och bränna alla dina VC-pengar 🪨 Pretraining, dvs. att förvandla ett berg av text till en snygg automatisk komplettering 🗿Hur man skulpterar basmodeller med alkemi efter träning 🛠️ Den underliggande infraen och hur du felsöker dig ut ur NCCL-skärselden Höjdpunkter från kapitlet efter träningen i tråden 👇