了解 @cursor_ai 如何与 Together AI 合作,利用 AI 原生云提供实时推理,以支持 AI 驱动的编码。 Cursor 的编辑器内代理在开发者积极编辑时生成代码 — 需要在编辑器的反馈循环内提供响应。Together AI 构建了基础设施,以满足这些严格的延迟目标并实现规模化。
Together AI 在 NVIDIA Blackwell 上构建了完整的技术栈: 👉 在持续负载下,NVIDIA Blackwell GB200/B200 GPU 的生产可靠性 👉 针对 NVIDIA Blackwell 张量核心的自定义内核 👉 使用 FP4 量化实现快速的权重到生产周期 👉 在 NVL72 的 72-GPU 网格中实现高效的并行性
371