Провайдери Kimi K2: Groq обслуговує Kimi K2 зі швидкістю >400 вихідних токенів/с, що в 40 разів швидше, ніж основний API Moonshot Вітаємо ряд провайдерів зі швидким запуском API для Kimi K2, включаючи @GroqInc, @basetenco, @togethercompute, @FireworksAI_HQ, @parasail_io, @novita_labs, @DeepInfra і, звичайно, @Kimi_Moonshot. Це вражає, враховуючи розміри моделі в 1 трильйон загальних параметрів. Groq вирізняється блискавичною швидкістю. DeepInfra, Novita та Baseten виділяються своїми цінами, будучи єдиними постачальниками, які встановлюють ціни аналогічно або дешевше, ніж перший API Moonshot. Подальші порівняння між провайдерами дивіться нижче. Ми очікуємо швидкого зростання швидкості у деяких провайдерів, оскільки команди оптимізуються для моделі K2 - наші цифри нижче показують середню швидкість за останні 72 години, але ми вже бачимо, що DeepInfra підскочила до 62 токенів/с у сьогоднішніх вимірюваннях