突破大模型内存瓶颈：U盘闪存技术HBF如何重塑AI硬件未来

type

status

date

slug

summary

打破“慢吞吞”刻板印象：为什么是Flash？

在传统计算视角下，NAND Flash（闪存）最大的标签是“便宜、容量大、断电不丢数据”，但它绝对不以速度见长。很多人在看到这则AI日报时的第一反应是：Flash这么慢，怎么能用来喂给对速度要求极高的大模型？

关键的认知差在于：Flash的“慢”，主要体现在写入环节。NAND Flash通过浮栅晶体管里的电荷来存储数据，写入数据时需要将电荷推进或移出绝缘栅，这个物理过程远比DRAM给电容充放电要慢得多。因此，在需要频繁读写的AI训练阶段，Flash确实难以胜任。

然而，当我们把目光转向AI推理阶段时，情况就完全不同了。在推理阶段，模型已经训练完毕，其庞大的参数权重基本是冻结的（静态数据）。系统需要的是将这些庞大的权重快速读取出来，而不是频繁去改写它们。

虽然单颗Flash芯片的理论读取带宽（如ONFI 6.0标准的4.8GB/s）远不及DDR5或HBM，但HBF技术借鉴了HBM的成功经验：通过3D封装和垂直堆叠技术，将最多16颗NAND Flash裸片打包在一起。通过“堆通道”的方式，第一代HBF的目标读取带宽最高可达1.6TB/s。这个速度虽然追不上顶级HBM，但足以让Flash从“慢吞吞的冷存储”跃升为参与高速数据供给的生力军。

HBF与HBM：并非替代，而是完美的生态互补

SK海力士本身就是HBM市场的最大赢家之一，为什么还要联合SanDisk推出一种看起来更廉价的替代方案？答案很简单：HBF的定位从来不是为了抢HBM的饭碗，而是为了在AI内存体系中找准自己的生态位。

当前的大模型推理面临着多重压力：不仅是算力不够，更是内存装不下、带宽跟不上、能耗扛不住。如果把所有的模型权重都塞进极其昂贵且容量有限的HBM中，部署成本将是天文数字，这极大地阻碍了AI变现的进程。

HBF的出现，为AI服务器提供了一层“超大容量的高速只读内存池”。在未来的分层内存架构中，不同类型的数据将各归其位： 1. HBM：继续充当最核心的高速暂存区，负责最紧急、最频繁的计算数据交换（热数据）。 2. HBF：负责装载体量巨大、读密集但极少改动的模型参数权重（温数据）。 3. 传统SSD：负责更低成本的长期大规模存储（冷数据）。

这种分工就像是给AI系统做了一次极佳的资源优化。不是每一份数据都需要住进HBM这样的“顶级豪宅”，HBF提供了一个容量够大、读取够快且成本更优的“经济型公寓”。

容量与成本的平衡：推动大模型普惠化部署

根据公开资料，第一代HBF的目标是单个堆栈容量最高达到512GB。这个参数组合对整个人工智能行业具有极强的现实意义。

在过去，很多时候并不是GPU的算力达到了瓶颈，而是单卡显存（HBM）容量太小，导致一个模型需要切分到多张昂贵的加速卡上才能勉强装下。这不仅增加了硬件采购成本，还带来了巨大的互联功耗。

如果HBF能够规模化落地，AI服务器在部署推理任务时，就可以大幅减少为了“凑显存”而盲目堆叠加速卡的需求。企业可以用更少的卡、更低的能耗，跑起规模更大的模型。无论是对于研发openai级别大模型的科技巨头，还是致力于在垂直领域深耕Prompt（提示词）工程和应用落地的中小企业，这都意味着显著降低的门槛。

此外，SK海力士高管曾预测，全球存储行业将在2027年面临史上最严重的供应短缺。HBF的推出，也是存储巨头们为了缓解未来高带宽内存产能受限而交出的一份前瞻性技术答卷。

行业展望：迈向AGI时代的内存新基建

虽然HBF目前仍处于标准化推进阶段（SanDisk和SK海力士正在开放计算项目OCP下推动其标准化），距离大规模商用可能还需要几年的时间，但它释放的产业信号已经非常清晰：AI推理正在倒逼整个存储和内存体系进行重新洗牌与分工。

在通往AGI（通用人工智能）的道路上，我们不能仅仅依靠堆砌昂贵的尖端硬件。将成熟的、成本可控的老技术（如NAND Flash）通过创新的封装工艺重新焕发活力，同样是打破硬件瓶颈的关键路径。

未来，AI硬件的竞争将不再只是单一指标的角逐，而是系统级架构优化的比拼。从U盘里的廉价闪存，到AI服务器里的高带宽权重池，HBF为我们展示了技术演进的无限可能。

想要获取更多关于底层技术突破、大模型前沿趋势以及最及时的AI资讯，欢迎持续关注 AIGC —— 您的全方位专业AI门户。我们将与您一同见证人工智能硬件架构的每一次伟大变革。