Skvělý nástroj pro odhad, kolik VRAM vaše LLM skutečně potřebují. Změňte hardwarovou konfiguraci, kvantizaci atd., řekne vám o: - Rychlost generování (tokenů/s) - Přesné přiřazení paměti - Propustnost systému atd. Už žádné hádání VRAM!