这对Gemini也是如此 我的看法:1mm的上下文窗口对于多轮对话来说是糟糕的,对于单次请求来说是很好的 “大量*相关*的上下文,明确直接的请求”能让你从上一代模型中获得最佳性能 在模型最聪明的时候,缺乏新鲜上下文窗口的工具优化。 很快…
Haider.
Haider.8月13日 19:15
抱歉,但1M的上下文窗口在纸面上听起来不错。 实际上,它更像是一个400-500k的上下文窗口。 那个宣传的1M是我见过的最大的谎言。 模型在那个点之前就崩溃了——它不会忘记,但它开始完全失灵。
367