🎉恭喜 @Zai_org 团队推出 GLM-4.6V 和 GLM-4.6V-Flash —— 在 vLLM Recipes 中为希望在自己的 GPU 上运行它们的团队提供了零日服务支持。 GLM-4.6V 专注于高质量的多模态推理，具有长上下文和原生工具/函数调用，而 GLM-4.6V-Flash 是一个 9B 变体，经过调优以实现更低的延迟和更小的占用；我们的新 vLLM Recipe 提供了即用型配置、多 GPU 指导和以生产为导向的默认设置。 如果您正在构建推理服务并希望在您的技术栈中使用 GLM-4.6V，请从这里开始：

🎉 祝贺 Mistral 团队推出 Mistral 3 系列！ 我们很自豪地分享，@MistralAI、@NVIDIAAIDev、@RedHat_AI 和 vLLM 紧密合作，为整个 Mistral 3 系列提供了完整的 Day-0 支持。 这次合作使得以下功能得以实现： • NVFP4 (llm-compressor) 优化的检查点 • Mistral Large 3 的稀疏 MoE 内核 • 预填充/解码分散服务 • 多模态 + 长上下文推理 • 在 A100 / H100 / Blackwell 上高效推理 🙏 非常感谢 @MistralAI、@NVIDIAAIDev 和 @RedHat_AI 的强大合作伙伴关系和工程努力，使 Day-0 优化成为可能。 如果您想要整个 Mistral 3 系列最快、最有效的开源部署路径——vLLM 今天就已准备就绪。

喜欢这个：一位社区贡献者构建了 vLLM Playground，使推理变得可视化、互动和便于实验。 从可视化配置切换到自动命令生成，从 GPU/M 芯片支持到 GuideLLM 基准测试 + LLMCompressor 集成——它将整个 vLLM 生命周期带入一个统一的用户体验。 对 micyang 的这份深思熟虑、精致的贡献表示由衷的赞赏。 🔗