أداة رائعة لتقدير مقدار VRAM الذي تحتاجه LLMs بالفعل. قم بتغيير تكوين الأجهزة ، والتكميم ، وما إلى ذلك ، يخبرك عن: - سرعة التوليد (الرموز المميزة / ثانية) - تخصيص دقيق للذاكرة - إنتاجية النظام ، إلخ. لا مزيد من تخمين VRAM!