DeepSeek-V3.1-4bit körs med MLX på M3 Ultra 512GB med 21 toks/sek! 🔥 Använder endast 380 GB! 👀 <Tänk> eller </Tänk> det är frågan.
7,82K