导语｜大模型推理的内存瓶颈，答案可能藏在 U 盘里。SanDisk 与 SK 海力士联手推动 High Bandwidth Flash（HBF），把 NAND Flash 用 3D 堆叠封装做成「超大容量只读内存池」，专给 AI 推理喂参数。IEEE Spectrum 最新刊文详解了这条反常识的技术路线。
一、Flash 不是出了名的慢吗？
很多人第一反应就是这样。NAND Flash 的特点大家都熟：便宜、容量大、断电不丢数据。但写入速度跟 DRAM 比差了几个数量级——传统计算视角下，Flash 和 HBM 完全不在一个桌面。
但这里有个关键区分：Flash 慢，主要慢在写入，不是读取。半导体研究机构 Objective Analysis 总监 Jim Handy 在 IEEE Spectrum 的采访中指出，如果把场景限定在「读多写少」，Flash 的表现就完全不同了。
按最新 ONFI 6.0 闪存接口标准，单颗 die 理论读取带宽可达 4.8 GB/s。虽然跟 HBM4E 单堆栈 3.6 TB/s 差距约 750 倍，但 HBF 要做的事情不是让单颗变快，而是像 HBM 堆叠 DRAM 那样，通过 3D 封装把多颗 NAND Flash die 垂直堆叠在一起，用并发把总读取带宽堆出来。
二、HBF 的目标参数
SanDisk 公开的首代 HBF 目标：最高堆叠 16 颗 NAND Flash 芯片，单堆栈容量 512 GB，读取带宽 1.6 TB/s。后续第二代、第三代路线图中分别提升到 2 TB/s 和 3.2 TB/s。
这个数字虽然追不上顶级 HBM，但关键是容量/成本比。HBM 的优势是速度极快但容量昂贵且有限；HBF 虽然速度低一些，却能提供更大的容量和更低的单位成本——这对动辄数百 GB 参数的大模型推理来说，是实实在在的新选项。
三、为什么 AI 推理特别适合 HBF？
训练和推理对内存的要求不一样。训练要反复读取、计算误差、通过反向传播更新权重，既大量读又大量写，Flash 根本扛不住。但推理阶段就不同了——模型已完成训练，权重基本冻结，大多数时候只需要快速读出这些庞大的参数，而不需要频繁改写。
这正好落在 Flash 相对擅长的一侧。昂贵且容量有限的 HBM 就能被释放出来，专门充当高速暂存区；HBF 则负责装下那些体量巨大、但不怎么改动的模型参数。整体架构就像一个「超大容量只读内存池」。
四、热数据放 HBM，冷数据放 HBF
当下的 AI 推理硬件，瓶颈早就不止于「算得够不够快」。模型越来越大，单卡显存装不下、HBM 贵得离谱、数据喂不过来——这些问题同时压在头上。HBF 切入的正是这个缝隙。
按照 SK 海力士的设想，未来的 AI 服务器内存应该是分层的：热数据（频繁读写）继续放 HBM；大容量、静态、读密集数据放 HBF；更低速、更便宜的数据继续放 SSD。每一层各司其职，总成本才可控。
五、HBF 不是 HBM 的替代品
SK 海力士本身就是 HBM 最大的供应商之一，HBM 给它带来创纪录收入。推出一种更便宜的「类替代」技术似乎反直觉，但从系统角度，HBF 和 HBM 是互补关系。HBF 想做的不是让 Flash 变成 HBM，而是让不同数据待在适合自己的位置里。
Objective Analysis 的判断是：HBF 预计还将提升能效并降低成本，帮助数据中心进一步扩展 AI 推理硬件规模。
六、标准化进展与时间线
据 IEEE Spectrum 报道，HBF 至少还需要一年才可能出货，距离大规模部署可能还要几年。今年 2 月 25 日，SanDisk 和 SK 海力士已在开放计算项目 OCP 下启动 HBF 标准化工作。但目前标准仍在推进，正式发布时间未定——HBF 短期内还不会改变 AI 服务器市场。
它更像一个信号：AI 推理正在倒逼存储和内存体系重新分工。解决方案未必只来自更贵的 HBM，也可能来自把熟悉的老技术重新封装一遍。
参考来源
- IEEE Spectrum：High Bandwidth Flash (HBF) Could Ease AI’s Memory Bottleneck
- 本文基于公开报道做原创整理，未引用任何不对外公开的数据或内部信息。
