我认为HBF被高估了 在某些方面，虽然经过相当大的软件改造后可以使用，但说它能替代HBM或者市场规模更大，这都是妄想 如果像这里所说的那样，几乎只进行读取，那么就不是kv，而是同一模型的偏差和权重，但那样的话使用体验会非常糟糕 [新闻] 专家表示，HBF可能会在2027至2028年间被引入NVIDIA GPU，市场可能在2038年超过HBM 随着AI工作负载的增加，高带宽闪存（HBF）的普及正在加速，专家预测商业化将比预期更早。根据Sisa Journal的报道，被广泛称为“HBM之父”的KAIST金正浩教授暗示，三星电子和闪迪计划在2027年底或2028年初将HBF整合到NVIDIA、AMD和谷歌的产品中。正如该报告所指出的，金教授表示，HBM的开发需要超过10年，而企业已经开始利用在HBM中积累的工艺和设计专业知识来开发HBF，因此HBF可能会更早实现商业化。 金教授进一步预测，HBF的采用将在HBM6引入时扩大，并且到2038年，HBF市场可能会超过HBM。金教授表示，HBM6不是单一的内存堆栈，而是多个堆栈像公寓一样互相连接。金教授认为，随着基于DRAM的HBM面临容量限制，NAND堆栈型HBF将出现以填补这一空白。 HBF在AI推理和系统架构中的角色 关于HBF在AI工作负载中的角色，金教授解释说，GPU在推理过程中首先从HBM获取变量数据，进行处理并生成输出。金教授认为，未来HBF将承担这一角色，并提供大幅增加的容量来支持任务。HBM速度快，但HBF提供约10倍的容量。正如报告所指出的，金教授强调，HBF支持无限的读取周期，而写入周期约限制在10万次，因此OpenAI和谷歌等公司的软件需要针对读取密集型操作进行优化。 金教授还补充说，目前GPU的数据供给过程包括存储网络、数据处理器以及通过GPU管道的长传输路径。未来，他设想一种更简化的架构，可以直接在HBM后面处理数据。预计在HBM7中实现的这种结构也被称为“内存工厂”。 三星和SK海力士推动HBF开发 正如报告中强调的，SK海力士计划在本月下旬发布HBF的试用版。此外，三星电子和SK海力士已与闪迪签署谅解备忘录（MOU），以推动HBF的标准化，目前正在通过联合财团推进这一工作。两家公司积极开发HBF产品，目标是在2027年上市。 根据报告中引用的行业消息，HBF预计能够实现超过1,638GB/秒的带宽，这与通过NVMe PCIe 4.0提供的标准SSD通常约7,000MB/秒相比，具有显著的飞跃。在容量方面，HBF预计可达到最大512GB，远超HBM4的64GB。