他列出了今年最大 AI 研究活動 NeurIPS 2025 的 6 個最重要的變化。這告訴我們很多關於 AI 在 2026 年的發展方向： 1. 注意力機制正在獲得相當大的升級。它變得更加選擇性，使用像是閘控、稀疏性和更好的長期上下文處理等技術。也許在 6 個月內，你會看到更便宜、更聰明且更高效的模型。 2. 前沿模型正在趨同。我們已經有點知道這一點，但再次強調，頂尖模型聽起來越來越相似。你選擇的前沿模型不再像以前那樣重要，但任何偏見或盲點會同時被放大。 3. 強化學習終於在機器人技術上擴展了。這已經停滯了多年。對於 LLM 有效的「不斷擴展」方法現在也適用於代理。2026 年將是代理系統重大進展的一年。 4. 擴散模型不僅僅是在記憶訓練數據。一篇重要的理論論文顯示，擴散訓練實際上有兩個階段：早期階段模型學會生成高質量樣本，後期階段則開始記憶特定內容。更多的訓練數據推進了記憶階段，並在過擬合之前給你更大的窗口。 5. 學術論文系統已經崩潰（真的）。隨著 20000 篇投稿，NeurIPS 正在淹沒在論文中。他們甚至在實驗使用 AI 來審查 AI 生成的論文。這意味著，你不再能真正信任會議和出版物的聲望。你必須依賴於誰寫了這篇論文及其背景。 6. 大型實驗室全力投入推理、效率和整合。前沿競賽不再僅僅關乎模型大小。大型實驗室現在正在研究： (1) 將推理作為可測量的指標，逐步思考、工具調用、搜索使用 (2) 效率，在手機和邊緣設備上以低延遲運行強大的模型 (3) 工作流程整合，將模型插入工具和協議，如 MCP。 如果 AI 研究讓你感興趣，我真的建議你觀看這個 10 分鐘的解析。