🎉 Mistral 3 ailesini başlattığı için Mistral ekibini tebrikler! @MistralAI, @NVIDIAAIDev, @RedHat_AI ve vLLM'nin tüm Mistral 3 serisine tam Day-0 desteği sağlamak için yakın bir şekilde çalıştığını gururla paylaşıyoruz. Bu iş birliği şunları mümkün kıldı: • NVFP4 (llm-kompresör) optimize edilmiş kontrol noktaları • Mistral Large için seyrek MoE çekirdekleri 3 • Ön doldurma/dekod ayrıştırılmış hizmet • Multimodal + uzun bağlamlı çıkarım • A100 / H100 / Blackwell üzerinde verimli çıkarım 🙏 Day-0 optimizasyonunu mümkün kılan güçlü ortaklık ve mühendislik çabaları için @MistralAI, @NVIDIAAIDev ve @RedHat_AI'a büyük teşekkürler. Tüm Mistral 3 serisi için en hızlı ve en verimli açık kaynak dağıtım yolunu istiyorsanız—vLLM bugün hazır.

Bunu çok seviyorum: bir topluluk katkıcısı, çıkarımları görünür, etkileşimli ve deney dostu hale getirmek için vLLM Playground'u geliştirdi. Görsel yapılandırma anahtarlarından otomatik komut oluşturmasına, GPU/M-çip desteğinden GuideLLM benchmarking + LLMCompressor entegrasyonuna kadar — tüm vLLM yaşam döngüsünü tek bir birleşik kullanıcı arayüzüne getiriyor. Bu düşünceli ve kusursuz katkısı için Micyang'a büyük tebrikler. 🔗

vLLM, @PrimeIntellect'nin INTELLECT-3 modelinin🥰 eğitimi sonrası çalışmalarını desteklemekten gurur duymaktadır