Это также касается Gemini Мое мнение: 1 миллион контекстных окон ПЛОХО для многоповоротного чата, ОТЛИЧНО для одиночных запросов "Большой *релевантный* контекст, четкий прямой запрос" дает вам SOTA производительность из моделей последнего поколения Недостаточно оптимизаций инструментов для свежих контекстных окон, когда модели наиболее умные. Скоро…
Haider.
Haider.13 авг., 19:15
i'm sorry, but the 1M context window sounds good only on paper in reality, it's more like a 400-500k context window that advertised 1M is the biggest lie i've seen. the model breaks down well before that point -- it doesn't forget, but it starts to malfunction completely
665