Skvělý pohled a tipy od @ClementDelangue na počátky gpt-oss. Vybudování pevných základů vyžaduje čas a jsme nadšeni, že můžeme spolupracovat s poskytovateli inference a @huggingface, abychom těmto modelům pomohli dosáhnout co nejlepších výsledků. Prosím, pokračujte ve své zpětné vazbě!
clem 🤗
clem 🤗6. 8. 23:44
Spousta protichůdných názorů na gpt-oss (yay open-source v centru pozornosti)! Oficiální demo @openai poháněli pomocí poskytovatelů vysokofrekvenční inference díky @FireworksAI_HQ, @CerebrasSystems, @GroqInc a @togethercompute takže máme přehled o tom, co se děje. Něco k zapamatování: dedukce pro nové hraniční otevřené modely není snadná, zejména s novým formátem, jako je harmonie, a objemem zájmu, který gpt-oss dostává z brány. Brzké špičky mohou dočasně ovlivnit kvalitu, přesnost a celkové "vibrace", zejména pouhých 24 hodin po vydání, kdy poskytovatelé závodí s časem a téměř nespí! Několik rad, jak se vyhnout vytváření nesprávných názorů: - Pokud vám záleží na co nejrychlejším získání vibrací, použijte hostované nastavení, které vám poskytuje rozmanitost poskytovatelů, jako jsou poskytovatelé HF inference ( a postupujte podle oficiálních standardních pokynů ( - Pokud můžete, zkuste to na vlastním hardwaru ze stránek HF modelů (které jsou obvykle dobrým zdrojem pravdy s transformátory a vLLM (mějte na paměti, že i tam můžete dělat chyby při generování) - Zchlaďte se a vezměte X horkých záběrů s rezervou. I když první dny mohou být matoucí, síla open-source spočívá v tom, že nedochází k podvádění, takže postupně odhalíme všechny silné stránky a omezení těchto modelů! Osobně si myslím, že se jedná o přelomové vydání @OpenAI týmu, takové, jaké si budeme pamatovat za 10 let kvůli jeho důsledkům. Nemůžu se dočkat, až uvidím, co přinese 🚀🚀🚀 budoucnost
23,76K