|

股票

广发证券:HBF未来或成为满足AI大模型内存容量要求的最佳方案

来源:智通财经

2025-12-18 16:29:13

(原标题:广发证券:HBF未来或成为满足AI大模型内存容量要求的最佳方案)

智通财经APP获悉,广发证券发布研报称,随着模型参数量和上下文长度的增加,HBM的容量已难以满足AI大模型对于内存容量的要求。近期,Sandisk公司宣布与SK Hynix合作开发能够满足AI大模型推理场景的新型存储产品HBF,计划采用BiCS和CBA晶圆键合工艺实现与GPU的高速互联。根据Sandisk官网,Sandisk在研的HBF存储容量有望达到现有HBM的8-16倍,有望将GPU的存储容量扩展至4TB。在对于数据库有一定技术积累的背景下,阿里等相关公司均有针对HBF存储介质开发数据基础软件的潜力。

广发证券主要观点如下:

随着模型参数量和上下文长度的增加,其在推理过程中对于内存容量的要求也在不断提升

当前,英伟达的Blackwell Ultra芯片配备8个HBM3E内存,内存容量为288 GB,内存带宽为8TB/s。尽管HBM标准持续向更高带宽、更大DRAM存储密度发展,但当前大模型的参数规模已经达到万亿级别,上下文长度普遍超过128K,HBM的容量已难以满足AI大模型对于内存容量的要求。

HBF或成为满足AI大模型内存容量要求的最佳方案

2025年8月,Sandisk公司宣布与SK Hynix合作开发能够满足AI大模型推理场景的新型存储产品HBF(High Bandwidth Flash),计划采用BiCS和CBA晶圆键合工艺实现与GPU的高速互联。根据Sandisk官网,Sandisk在研的HBF存储容量有望达到现有HBM的8-16倍,有望将GPU的存储容量扩展至4TB。HBF的内存容量和传输速率都很好的满足了AI大模型对于内存容量较高的要求,其推出后有望在推理任务中实现大规模应用。

具有数据库技术基础的公司具有开发基于HBF的数据基础软件的潜力

在针对存储介质优化的数据基础软件领域,相关产品开发厂商既包括华为、阿里等大型科技公司,也包括星环科技、PingCAP等独立第三方公司。在对于数据库有一定技术积累的背景下,相关公司均有针对HBF存储介质开发数据基础软件的潜力。由于华为、阿里等公司自研的AI大模型存在较大的数据处理需求,其或自研数据基础软件用于其AI大模型的推理任务中。而包括星环科技和PingCAP等独立第三方公司的数据基础软件或可用于智谱AI、MiniMax等公司大模型的推理任务中。

HBF的技术成熟有望推动相关数据基础软件的应用

星环科技的分布式数据库ArgoDB针对闪存存储硬件优化,内建细粒度的编码格式,可以充分发挥闪存的高随机读写特性。在具有一定技术积累的背景下,星环科技也有潜力开发基于包括HBF在内的其他存储介质的数据基础软件产品。基于产品研发周期和投入资源,星环科技相关产品仍需要一定时间的研发。此外,相关产品的研发节奏也取决于公司的战略发展方向和重视程度。随着HBF相关技术的成熟,相应产品在AI推理任务中有望大规模使用,从而推动相关数据基础软件的应用。

风险提示

HBF相关硬件产品距离成熟还有一年左右的时间,存在技术难点克服不及预期导致产品推出时间延迟的可能;HBF在AI大模型推理场景的应用未经市场验证,下游用户认可度和商业拓展存在不确定性;HBF与传统存储介质在存储容量和传输速率上有差异,存在基于HBF的数据基础软件的性能和效果不及预期影响商业拓展的可能。

证券之星资讯

2025-12-18

证券之星资讯

2025-12-18

证券之星资讯

2025-12-18

首页 股票 财经 基金 导航