> تكون أنت > تريد أن تتعلم بالفعل كيفية عمل LLMs سئمت > من "فقط ابدأ بالجبر الخطي وعد بعد 5 سنوات" > قررت بناء خارطة الطريق الخاصة بي > لا زغب. لا منعطفات. لا توجد قوائم تشغيل ML عامة لمدة 200 ساعة > فقط الأشياء التي تنقلك بالفعل من "ما هو الرمز المميز؟" إلى "لقد دربت GPT مصغر باستخدام محولات LoRA و FlashAttention" > الهدف: بناء وضبط وشحن LLMs > لا أشعر معهم. لا "تعلم النظرية" إلى الأبد > بنائها > سوف: > > بناء محرك autograd من البداية > > كتابة mini-GPT من البداية > > تنفيذ LoRA وضبط نموذج على البيانات الحقيقية > > تكره CUDA مرة واحدة على الأقل > > تبكي > > استمر > 5 مراحل > إذا كنت تعرف شيئا بالفعل؟ تخطي > إذا ضاعت؟ إعادة المشاهدة > إذا كنت عالقا؟ استخدم DeepResearch > هذه خارطة طريق وليست مقودا > في النهاية: إما أنك بنيت الشيء أو لم تفعل > المرحلة 0: الأساسات > > إذا كان ضرب المصفوفة مخيفا ، فأنت لست جاهزا بعد...