AI模型能力的增长与人类智力的发展并不相似，但在AI领域中，仍然普遍认为AGI或超智能不可避免地会与人类天才具有相同的能力分布。这似乎是错误的。

卡帕西的观察（还有其他人）认为，强化学习产生的一系列能力可能永远不会发展成通用人工智能（即，扩展训练数据和提高数据质量可能永远不会导致模型具备默认的自主性或生成新见解的能力等），这也可能具有普遍性。

也就是说，我并不认为宇宙中有法律规定，整个群体的人类智力包裹可以通过机器学习技术完全复制，更不用说任何特定的研究方向了。

我觉得（顺便说一下，我是个傻瓜）构建能够持续学习的自主AI模型是非常合理的，这些模型能够完成几乎所有顶级法律分析师在公司的工作，但只能完成新领域的法律学者工作的大约50%或60%。

这对律师来说显而易见，因为他们知道在新领域或子领域工作的律师基本上只是通过类比等方式创造法律。

我不是物理学家，但相当于你可以在数据中心容纳10,000个自我提升的研究生，却无法完成一个爱因斯坦的工作（或者其他的——我不知道“当AGI会取代爱因斯坦”是否是一个有用的假设）。

即使你假设可以通过几种不同模型架构的组合来复制人类的洞察力——在我看来，这看起来很像现在调优前沿模型所变成的那种繁琐的优化问题。