Wir haben Gemma 3 27B im März versendet, und es bleibt eine der besten Wahl für Verbraucher-GPUs. Es hat solide multimodale Fähigkeiten, QAT zur Freischaltung robuster Quantisierung, und es hat eine entwicklerfreundliche Größe. Und wir haben noch mehr in der Pipeline 🧑‍🍳
Kim BENNI
Kim BENNI14. Aug., 01:55
Der Schlüssel ist, dass unter diesen Top-10-Modellen nur Googles Gemma und Mistral Small auf Consumer-Hardware passen/laufen können. Eine einzelne RTX 4090 reicht aus. Alle anderen Modelle haben >100 Milliarden Parameter und erfordern sehr teure professionelle Hardware. Das ändert meiner Meinung nach die Perspektive erheblich über den reinen Score hinaus.
87,09K