🎉 祝贺 Mistral 团队推出 Mistral 3 系列! 我们很自豪地分享,@MistralAI、@NVIDIAAIDev、@RedHat_AI 和 vLLM 紧密合作,为整个 Mistral 3 系列提供了完整的 Day-0 支持。 这次合作使得以下功能得以实现: • NVFP4 (llm-compressor) 优化的检查点 • Mistral Large 3 的稀疏 MoE 内核 • 预填充/解码分散服务 • 多模态 + 长上下文推理 • 在 A100 / H100 / Blackwell 上高效推理 🙏 非常感谢 @MistralAI、@NVIDIAAIDev 和 @RedHat_AI 的强大合作伙伴关系和工程努力,使 Day-0 优化成为可能。 如果您想要整个 Mistral 3 系列最快、最有效的开源部署路径——vLLM 今天就已准备就绪。