DeepSeek-V3.1-4bit يعمل مع MLX على M3 Ultra 512 جيجابايت بسرعة 21 توك / ثانية! 🔥 باستخدام 380 جيجابايت فقط! 👀 <فكر > أو < / فكر> هذا هو السؤال.

هل حصلت على جهاز Mac مزود بشريحة M؟ يمكنك الآن تدريب Gemma3 270m محليا كنموذج تضمين أو إعادة تصنيف متعدد اللغات باستخدام مشروع mlx-retrieval الخاص بنا. يتيح لك تدريب Gemma3 270m محليا بمعدل 4000 رمز / ثانية على M3 Ultra - وهي في الواقع سرعة قابلة للاستخدام. لقد قمنا بتنفيذ بعض الممارسات القياسية لتدريب نموذج تضمين أو إعادة ترتيب فعال لوحدة فك التشفير فقط باستخدام MLX: LoRA الكامل / الجزئي و InfoNCE وتراكم التدرج وأداة تحميل البيانات المتدفقة. بالإضافة إلى تكامل MTEB لحلقات تقييم القطار.

MLX-VLM v0.3.3 هنا GR نماذج جديدة: - @LiquidAI_ LFM2-VL - @Zai_org GLM-4.5V - @cohere Command-A-Vision التغييرات: - نواة جديدة grid_sample - إصلاح توافق نواة الاستيفاء bicubic مع macOS < 15 - إصلاح وراثة التكوين شكرا جزيلا لجميع الأصدقاء الرائعين في @lmstudio: @ostensiblyneil و @mattjcly و christian-lms. البدء: > تثبيت النقطة -U mlx-vlm من فضلك اترك لنا نجمة:

MLX-Audio v0.2.4 هنا 🔥🚀 نماذج جديدة: - فهرسTTS - فوكسترال التغييرات: # بايثون - دعم متعدد النماذج ل Visualizer - إصلاح الحفظ المهمل في MLX-LM - إصلاح برنامج ترميز mimi - تحديث تحميل CSM لنمط TFMS # سويفت - استخدم عنوان URL مخصص ل Kokoro - دليل استكشاف الأخطاء وإصلاحها - أضف رمز Misaki G2P ل Kokoro شكرا جزيلا لجميع المساهمين الرائعين: @lllucas و @ivanfioravanti و @adrgrondin و Senstella و Sam و Kinkadius! البدء: > تثبيت النقطة -U mlx-audio من فضلك اترك لنا نجمة ⭐:

Gemma 3 270M (8 بت) سريع أيضا على iPhone 16 Pro 🏎️ ~ 140 tk / s لشريحة A18 Pro مع MLX ، ليست بعيدة عن شريحة M3 على الرغم من أن Gemma 3 270M غير مخصص للدردشة ، إلا أنه مثالي للاستخدام مع اختصارات Apple في مهام مثل التلخيص على سبيل المثال

مشروع MLX الجديد الرائع: MLX-Knife: أداة CLI مثل Ollama لطرازات MLX على huggingface (سحب ، RM ، قائمة ، عرض ، خدمة ، ...)

التدريب على ارتفاعات عالية يجعل LLM أقوى

من منا لا يحاول تدريب مصنف مع MLX و Gemma 3 270 مترا في الطيران؟

Gemma 3 270M (8 بت) بسرعة ~200 tk/s على iPad Air M3 مع MLX

في 44 سطرا من التعليمات البرمجية ، لدينا عامل مفيد بالفعل يعمل محليا بالكامل ، مدعوما من Qwen3 30B A3B Instruct