un petit jeu auquel Claude et moi avons joué récemment s'appelle "le poulet de la fenêtre de contexte" vous avez une fenêtre de contexte pour commencer et terminer le projet. si vous l'épuisez, vous devez recommencer depuis le début. ce soir, nous avons réussi à créer un widget de dictée vocale en utilisant le parakeet-0.6b de nvidia lors de la tentative n°2
(évidemment, cela signifie pas de sous-agents, pas de RLM, pas de tricherie ! trace unique de 200k.)
@maxsloef je ne suis pas sûr de ce qui se passe exactement avec un nombre de tokens plus élevé. Parfois, il semble vraiment utile d'avoir beaucoup de contexte supplémentaire, et parfois il y a une dégradation. J'essaie encore de comprendre le comportement, donc je ne l'ai pas évité.
104