La croissance de la longueur de contexte des LLM au fil du temps : - GPT-3.5-turbo → 4k tokens - OpenAI GPT4 → 8k tokens - Claude 2 → 100k tokens - Llama 3 → 128k tokens - Gemini → 1M tokens Comprenons comment ils étendent la longueur de contexte des LLM :
607,51K