AI 超通缩 📉 超通货膨胀是指价格每月上涨 50%,这是一种极端的经济冲击。先进的 AI 推理成本正在以远超这一水平的速度通缩。 从回忆到推理 随着成本/代币的暴跌,消费也随之增长。一个基本的聊天机器人查询可能需要 ~100 个代币,复杂的代码生成大约需要 ~100,000 个,而一个多步骤的代理工作流或推理任务可能需要一百万个代币。 这让我想起了老话 "Intel 给予的,Microsoft 夺走的",现在换成了 NVIDIA 和 AI。
8.16K