Nhà cung cấp Kimi K2: Groq đang phục vụ Kimi K2 với tốc độ >400 token/s, nhanh gấp 40 lần so với API của Moonshot. Chúc mừng một số nhà cung cấp đã nhanh chóng ra mắt API cho Kimi K2, bao gồm @GroqInc, @basetenco, @togethercompute, @FireworksAI_HQ, @parasail_io, @novita_labs, @DeepInfra, và tất nhiên là @Kimi_Moonshot. Điều này thật ấn tượng khi xem xét kích thước của mô hình với tổng cộng 1 triệu tham số. Groq nổi bật với tốc độ nhanh chóng. DeepInfra, Novita và Baseten nổi bật với mức giá của họ, là những nhà cung cấp duy nhất có mức giá tương tự hoặc rẻ hơn so với API của Moonshot. Xem bên dưới để so sánh thêm giữa các nhà cung cấp. Chúng tôi kỳ vọng sẽ có sự gia tăng nhanh chóng về tốc độ ở một số nhà cung cấp khi các đội tối ưu hóa cho mô hình K2 - các số liệu của chúng tôi bên dưới cho thấy tốc độ trung bình trong 72 giờ qua nhưng chúng tôi đã thấy DeepInfra tăng lên 62 token/s trong các phép đo hôm nay.