un pequeño juego que Claude y yo hemos estado jugando recientemente es "context window chicken" tienes una ventana de contexto para comenzar y terminar el proyecto. si te quedas sin ella, tienes que reiniciar desde cero. esta noche logramos un widget de dictado por voz usando el parakeet-0.6b de nvidia en el intento #2
(obviamente eso significa sin subagentes, sin RLMs, ¡sin trampas! traza única de 200k.)
@maxsloef no estoy seguro de lo que sucede exactamente con recuentos de tokens más altos. A veces parece realmente útil tener mucho contexto adicional, y a veces hay degradación. Todavía estoy tratando de entender el comportamiento, así que no lo he estado evitando.
108