在科技飞速发展的当下,存储技术的革新对于人工智能的发展至关重要。当地时间本月 11 日,即将在今年一季度完成从西部数据拆分并计划独立上市的闪迪,在投资者活动上介绍了有望改变 AI 推理 GPU 存储生态的前沿技术 —— 高带宽闪存 HBF。
HBF 是一款带宽优化的 NAND 产品,设计思路与 HBM 基本一致,采用大量 I/O 引脚、多层堆叠的方式,并且与 HBM 共享相同电气接口,带宽也能与之匹配 。不过,由于存储介质从 DRAM 变为 NAND,HBF 对协议进行了调整,因此和 HBM 并不完全兼容。
在 HBF 内部,多层核心裸晶通过微凸块,采用硅通孔手段堆叠在一起,在整个 HBF 堆栈底部是负责同计算芯片通信的逻辑裸晶。目前,闪迪宣称 HBF 技术可实现超低的裸晶翘曲,已能做到 16 层堆叠,单堆栈容量可达 512GB。这一成果意义非凡,意味着通过 2.5D 集成 8 个 HBF 堆栈的单个 AIGPU,将拥有高达 4096GB(4TB)的存储空间,是纯 HBM 方案的 20 倍以上,能够满足参数约 1.8T 的前沿 LLM 模型的推理运行需求。
此外,鉴于 HBF 和 HBM 在技术路线、性能参数上的相似性,AI GPU 还可混合配置两种存储,形成如 3072GB HBF + 48GB HBM 等高度自定义的组合,为不同需求的用户提供更灵活的选择。
HBF 的应用前景不仅局限于 AI 推理 GPU。在边缘 AI 领域,它同样有望成为重要助力,单颗 HBF 就能容纳完整的 64B 模型。
闪迪的 HBF 开发得到了主要 AI 企业的支持,并且计划推动构建 HMF 开放标准生态系统,以实现无缝系统集成。对于未来 HMF 产品,闪迪也有着清晰的规划,目标到第三代实现 2 倍容量、2 倍读取带宽和 36% 的功耗降低。