الجميع مهووسون بالأولاد الكبار: آلهة سحابة تريليون معلمة نسميها LLMs. لكن شيئا غريبا يحدث في الظل. الفعالية غير المعقولة لنماذج 🧵 🪡 الذكاء الاصطناعي الصغيرة 1/6

تعمل نماذج اللغات الصغيرة (SLMs) محليا وغير متصل ومجانيا. إنها تتناسب مع محرك أقراص محمول ، وتتصرف الكهرباء ، ويمكن أن تتفوق على GPT-3 - النموذج الذي أطلق هذا العصر - بحجم 1/175 من حجمها. 2/6

سجل LLaMA 3.2 (1B params) 53.9٪ على MMLU - أعلى من GPT-3 ويمكنك تشغيله على Raspberry Pi بقيمة 100 دولار. امنحها مكتبة مرجعية صغيرة (RAG) ، وستتحسن مرة أخرى. أنت تنظر إلى عقل متعلم جامعيا يناسب محرك الإبهام. 4/6