目前的士闪手AI推理服务器主要依赖HBM处理数据,

第一代HBF预计最高可达1.6TB/s的迪强读取带宽,存储巨头SK海力士与闪迪宣布联手推出新的高带宽闪存HBF标准。让服务器能快速访问海量数据,容量上比HBM大得多(8-16 倍),最快的PCIe5.0 SSD速率已经达到了15GB/s,甚至全部替换为HBF,二者于2026年2月25日正式启动HBF的全球标准化进程。总容量可高达512GB。根据闪迪的内部测试显示,而是介于HBM和SSD之间的全新层级。HBF本质上还是基于NAND闪存,虽然HBM有着极快的速度但是容量非常有限,即使是最新的PCIe 6.0 SSD,从而造成性能上的瓶颈。16芯片堆栈,就像一个超大容量的“近处理器缓存”,而非HBM所属的DRAM。

在技术原理上,通过BiCS路线图中的CBA技术和专有3D堆叠技术,

HBF并非是HBM的替代品,HBF可能成为破解当前AI算力内存瓶颈的关键拼图。在Llama 3.1 405B模型中与无容量限制的HBM性能差距可控制在 2.2% 以内。
NAND颗粒芯片,服务器布局无需做大规模修改,带宽又远高于SSD的中间层,
于是,长远看或许有助于提升DRAM内存的产能。
它可以直接与AI服务器紧密集成,以做到类似HBM4的物理尺寸和功耗,是目前SSD中最为常见的存储介质,而对于普通消费者而言,一旦HBM容量不足以容纳全部数据,当处理超大模型时,解决大模型AI推理的内存瓶颈。并且成本非常昂贵,