Penyedia Kimi K2: Groq melayani Kimi K2 dengan >400 token keluaran, 40X lebih cepat dari API pihak pertama Moonshot Selamat kepada sejumlah penyedia karena cepat meluncurkan API untuk Kimi K2, termasuk @GroqInc , @basetenco , @togethercompute, @FireworksAI_HQ, @parasail_io, @novita_labs, @DeepInfra, dan tentu saja @Kimi_Moonshot. Ini mengesankan mengingat ukuran model pada total parameter 1 triliun. Groq menonjol karena kecepatan yang sangat cepat. DeepInfra, Novita, dan Baseten menonjol karena harga mereka, menjadi satu-satunya penyedia yang menetapkan harga yang sama atau lebih murah daripada API pihak pertama Moonshot. Lihat di bawah ini untuk perbandingan lebih lanjut antara penyedia. Kami mengharapkan peningkatan kecepatan yang cepat di beberapa penyedia karena tim mengoptimalkan model K2 - angka kami di bawah ini menunjukkan kecepatan rata-rata selama 72 jam terakhir, tetapi kami sudah melihat DeepInfra melonjak hingga 62 token/s dalam pengukuran hari ini
52,08K