Jocul mic pe care Claude și cu mine l-am jucat recent este "Context Window Chicken" Ai o singură fereastră de context pentru a începe și a termina proiectul. Dacă rămâi fără, trebuie să o iei de la capăt. În seara asta am reușit un widget de dictare vocală folosind Parakeet-0.6B de la Nvidia la încercarea #2

(Evident, asta înseamnă fără subagenți, fără RLM-uri, fără trișare! O singură urmă de 200k.)

@maxsloef nu sunt sigur exact ce se întâmplă la numărul mai mare de token-uri. Uneori pare foarte util să ai mult context suplimentar, iar alteori există degradare. Încă încerc să înțeleg comportamentul, așa că nu l-am evitat