El crecimiento de la longitud de contexto de los LLM con el tiempo: - GPT-3.5-turbo → 4k tokens - OpenAI GPT4 → 8k tokens - Claude 2 → 100k tokens - Llama 3 → 128k tokens - Gemini → 1M tokens Entendamos cómo extienden la longitud de contexto de los LLMs:
685,25K