🚀 0. Gün desteği: Kimi K2 Thinking artık vLLM'de çalışıyor! @Kimi_Moonshot ile ortaklaşa, 1T parametreli, 32B aktif son teknoloji ürünü açık düşünce modeline resmi destek sunmaktan gurur duyuyoruz. OpenAI uyumlu API ile vLLM'de (gecelik sürüm) kolay dağıtım: Onu özel kılan şey: ⚡ Yerel INT4 niceleme → 2× daha hızlı çıkarım 💾 Bellek ayak izinin yarısı, doğruluk kaybı yok 🎯 256K bağlam, 200-300 araç çağrısında kararlı 🎯 Resmi tarif ve dağıtım kılavuzu dahil Birinci sınıf akıl yürütme, artık herkes tarafından erişilebilir. 📦 Model: 📚 Tarifler: #vLLM #KimiK2 #LLMInference