🎉 恭喜 Mistral 團隊推出 Mistral 3 系列! 我們自豪地分享,@MistralAI、@NVIDIAAIDev、@RedHat_AI 和 vLLM 緊密合作,為整個 Mistral 3 系列提供了完整的 Day-0 支援。 這次合作使得以下功能得以實現: • NVFP4 (llm-compressor) 優化的檢查點 • Mistral Large 3 的稀疏 MoE 核心 • 預填/解碼的分散式服務 • 多模態 + 長上下文推理 • 在 A100 / H100 / Blackwell 上的高效推理 🙏 非常感謝 @MistralAI、@NVIDIAAIDev 和 @RedHat_AI 的強大夥伴關係和工程努力,使 Day-0 優化成為可能。 如果您想要整個 Mistral 3 系列最快、最有效的開源部署路徑——vLLM 今天就已經準備好了。