Fournisseurs Kimi K2 : Groq sert Kimi K2 à >400 tokens/s, 40 fois plus rapide que l'API de première partie de Moonshot. Félicitations à plusieurs fournisseurs pour avoir été rapides à lancer des API pour Kimi K2, y compris @GroqInc, @basetenco, @togethercompute, @FireworksAI_HQ, @parasail_io, @novita_labs, @DeepInfra, et bien sûr @Kimi_Moonshot. C'est impressionnant compte tenu de la taille du modèle avec 1 trillion de paramètres au total. Groq se distingue par sa vitesse fulgurante. DeepInfra, Novita et Baseten se distinguent par leurs prix, étant les seuls fournisseurs à proposer des prix similaires ou moins chers que l'API de première partie de Moonshot. Voir ci-dessous pour d'autres comparaisons entre les fournisseurs. Nous nous attendons à des augmentations rapides de la vitesse chez certains fournisseurs alors que les équipes s'optimisent pour le modèle K2 - nos chiffres ci-dessous montrent les vitesses médianes au cours des dernières 72 heures, mais nous voyons déjà DeepInfra atteindre 62 tokens/s dans les mesures d'aujourd'hui.