他列出了今年最大AI研究活动NeurIPS 2025的6个最重要的变化。这告诉我们2026年AI的发展方向: 1. 注意力机制正在进行相当大的升级。它变得更加选择性,使用诸如门控、稀疏性和更好的长上下文处理等技术。在大约6个月内,你将看到更便宜、更聪明、更高效的模型。 2. 前沿模型正在趋同。我们已经有点知道这一点,但再次强调,顶级模型听起来越来越相似。你选择的前沿模型的重要性不如以前,但任何偏见或盲点都会在各处同时放大。 3. 强化学习终于在机器人技术上实现了规模化。它已经停滞了多年。对于LLMs有效的“持续扩展”方法现在也适用于代理。2026年将是代理系统重大进展的一年。 4. 扩散模型不仅仅是在记忆训练数据。一篇重要的理论论文表明,扩散训练实际上有两个阶段:早期阶段模型学习生成高质量样本,后期阶段它们开始记忆特定内容。更多的训练数据推动记忆阶段,并在过拟合之前给你更大的窗口。 5. 学术论文系统已经崩溃(说真的)。NeurIPS有20000篇提交,淹没在论文中。他们甚至在尝试用AI来审查AI生成的论文。这意味着,你再也不能真正信任会议和出版物的声望。你必须依赖于谁写了论文及其背景。 6. 大型实验室正在全力以赴地关注推理、效率和整合。前沿竞赛不再仅仅是关于模型大小。大型实验室现在正在研究: (1)推理作为可测量的指标,逐步思考,工具调用,搜索使用 (2)效率,在手机和边缘设备上以低延迟运行强大的模型 (3)工作流程整合,将模型插入工具和协议,如MCP。 如果AI研究对你很重要,我真的建议你观看这个10分钟的分析。