Поставщики Kimi K2: Groq обслуживает Kimi K2 на скорости >400 токенов/с, в 40 раз быстрее, чем API первого уровня Moonshot. Поздравляем ряд поставщиков с быстрым запуском API для Kimi K2, включая @GroqInc, @basetenco, @togethercompute, @FireworksAI_HQ, @parasail_io, @novita_labs, @DeepInfra и, конечно, @Kimi_Moonshot. Это впечатляет, учитывая размер модели в 1 триллион параметров. Groq выделяется своей молниеносной скоростью. DeepInfra, Novita и Baseten выделяются своими ценами, будучи единственными поставщиками, которые предлагают цены аналогичные или более низкие, чем у API первого уровня Moonshot. Смотрите ниже для дальнейших сравнений между поставщиками. Мы ожидаем быстрого увеличения скорости у некоторых поставщиков, поскольку команды оптимизируют модель K2 - наши данные ниже показывают медианные скорости за последние 72 часа, но мы уже видим, что DeepInfra поднялся до 62 токенов/с в сегодняшних измерениях.