HBM被抢疯了

公众号记得加星标，第一时间看推送不会错过。

在人工智能的推动下，存储涨价已经不是什么新鲜事了。

据市场调研公司TrendForce于9月29日的数据显示，通用 DRAM(DDR4 8Gb)的平均现货价格上月达到 5.868 美元，创下年内最高水平。与第一季度 1 美元的低位相比，这一价格上涨了近五倍，达到近 6 美元。他们进一步指出，主流内存半导体 DDR5 16Gb 的平均现货价格达到 6.927 美元，较年初的 4.70 美元上涨了 40% 以上。这一价格正迅速逼近半导体热潮高峰期 2018 年的价格(7.19-8.19 美元)。在这种供应紧张情况下，机构预测今年第四季度多类DRAM产品将继续涨价。

但随着昨夜晚间OpenAI宣布与SK海力士和三星达成合作协议后，这种存储供应关系可能会进一步紧张。

OpenAI，扫货HBM

据媒体报道，全球两大内存芯片制造商三星电子和 SK 海力士已同意加强与 OpenAI 的合作，成为一项 5000 亿美元项目（星际之门）的中心。该项目旨在到本世纪末构建下一代人工智能基础设施。

从此前的报道可以看到OpenAI正在与美国云计算公司甲骨文（Oracle）以及日本投资公司软银（SoftBank）合作开展“星际之门”项目，该项目涉及建设一个大型数据中心。预计到2029年将投资约5000亿美元。

众所周知，数据中心建设需要高性能、高效率的内存来处理海量数据。这需要各种各样的产品，包括企业级 NAND（eSSD）、服务器 DRAM 和 HBM（高带宽内存）。尤其是 HBM，由于其带宽（即内存传输路径）比传统 DRAM 更高，作为一种高附加值产品备受关注。

因此，三星电子和 SK 海力士等国内主要存储器公司已获得中长期销售增长的额外动力。

三星电子表示，“公司计划支持正在进行星际之门项目的OpenAI，以便其能够顺利获得高性能、低功耗的内存”，“我们计划支持OpenAI， 以便其在采购内存解决方案时不会遇到困难”。

SK海力士解释道，“我们作为HBM半导体供应合作伙伴参与了星际之门项目 ”，“此次签署内存供应意向书，是因为SK海力士的AI专用内存半导体技术和供应能力在今年上半年被认可为全球第一大DRAM销售公司。”

于是，关于这个合作的另一个关注点，就落在他们究竟能需要多少HBM？

有报道指出，OpenAI首席执行官Sam Altman在与两家公司的一次会议上就要求他们每月供应90万片DRAM晶圆。三星和SK也在各自的新闻稿中明确了这一数量。

三星电子目前的 DRAM 总产能 (CAPA) 估计为每月 60 万至 65 万片。SK 海力士的产能约为每月 50 万片。考虑到这一点，OpenAI 的要求相当于两家公司的 DRAM 产能总和（这也太可怕了）。

一位半导体行业人士解释道：“每月90万片晶圆，相当于SK海力士所有季度HBM的销量，这是一个很大的数字。”他补充道：“但实际销量可能会根据我们持续订购的时间而有所不同。” SK海力士的HBM月产能估计约为16万片（以晶圆计）。

预计SK海力士今年第二季度的销售额将达到22万亿韩元，其中约10万亿韩元将来自HBM。如果每月90万片全部以HBM形式生产，则每月将产生10万亿韩元的销售额。然而，考虑到SK海力士目前生产的HBM3E已获得高利润订单，实际销售额可能会有所下降。

为了更好地理解 90 万片 DRAM 晶圆的数量，TechInsights预测，到 2025 年，全球 300 毫米晶圆厂的产能将达到每月 1000 万片晶圆 (WSPM) 。DRAM 产能（包括商用 DDR5 和 LPDDR4/LPDDR5 以及高端 HBM 和专用 DRAM 类型）在 2024 年占 22% 的份额（207 万 WSPM）。分析师预测，2025 年 DRAM 产能可能增长 8.7%，达到约 225 万 WSPM，这意味着 Stargate 计划消耗其中的 40%。

面对这个需求，SK海力士计划建立一个能够快速响应每月高达90万片HBM DRAM晶圆需求的生产体系。这一月产量，换算成HBM产品数量，将是目前DRAM晶圆产能的两倍以上。此外，通过此次合作，SK海力士计划与OpenAI积极合作，共同实现其确保AI加速器（GPU）安全的战略。

一位半导体业内人士表示：“据我了解，OpenAI 在开发自己的 AI 加速器的同时，也对内存的供需非常关注，例如向美国本土内存公司索要 HBM 样品。”他还表示，“OpenAI 目前请求的内存量相当于两家公司产能的总和，这与实际情况相差甚远。”他还补充道：“从中长期来看，构建 AI 基础设施需要大量内存，这或许更合适。”

人工智能吞噬了所有内存

在OpenAI的这个合作公布的同时，树莓派也同日宣布——Raspberry Pi 部分设备的成本将上涨两位数百分比。在该公司首席执行官 Eben Upton 看来，这主要是由“人工智能应用对高带宽内存 (HBM) 的无限需求”引致存储供应的而导致的。Upton 今天表示：“目前，内存成本比一年前高出约 120%。”

造成这个结局的一个原因，那就是因为内存带宽对于人工智能来说非常重要。

分析师Ray Wang 在其分析文章中写道，在生成式人工智能时代，内存带宽至关重要，因为模型训练通常受带宽而非计算能力限制。Transformer 模型中的注意力机制必须存储并计算所有 token 之间的关系。内存需求与序列长度呈二次方关系。同样，由于需要在 Transformer 模型中处理更长的上下文窗口和更大的键值缓存（KV 缓存），内存在推理过程中也是一个更大的制约因素。KV 缓存的内存消耗随 token 大小线性增长。

这时候，拥有高速、功耗和面积效率的HBM就成功突围。

每一代 AI 芯片的升级，HBM 的升级都是提升性能（更高带宽或容量）的关键因素。在周期性升级中，NVIDIA GPU 在其同架构的第二代产品中，主要的升级点在于 HBM 容量。HBM 容量从 H100 到 H200、从 B200 到 B300 分别提升了 50%，从 Rubin 到 Rubin Ultra 也提升了 4 倍。

具体表现形式包括：每个 GPU 模块拥有更多 HBM 堆栈、每个 HBM 模块拥有更多 DRAM 芯片，或者升级 HBM 版本。HBM4 通过将每个堆栈的通道数从 8 个增加到 16 个，并显著提高每个引脚的 I/O 速度，实现了更高的带宽。

鉴于未来 GPU 和 ASIC 中 HBM 容量的增加，HBM 市场预计将快速增长。据 SK 海力士预测，HBM 行业在 2024 年至 2028 年期间的复合年增长率将达到 50%。对于 DRAM 生产商而言，HBM 已被证明比传统 DRAM 更不受周期性影响。虽然未来 HBM 的产量可能仍会波动，但 HBM 的合约价格通常提前一年商定。这比短期合约甚至 DRAM 的现货价格更有利。

作为HBM供应商的龙头，SK海力无疑是最大的赢家。在今年年初的年度股东大会上，SK 海力士透露，公司2025 年的HBM供应已卖光 ，2026 年的大部分 HBM 内存芯片已售罄。

上个月的财报说明会上，美光首席商务官 Sumit Sadana也指出，该公司2025年的HBM产能已经卖光，公司过去几个月一直在与客户就 2026 块 HBM 的供应进行谈判，并有信心将全部配额售罄。至于另一家HBM的供应商三星却暂时没有看到相关消息。

SK海力士高管估计，今年HBM市场将比2023年增长9倍。除了HBM以外，其他存储需求也水涨船高。如SK海力士预计，企业级固态硬盘（eSSD）市场同期预计将增长3.5倍。

知名分析机构野村更是在日前的一份报告中指出，在AI的推动下，存储迎来了超级周期。

野村预计，美国大型科技公司将继续扩大其人工智能服务器投资，预计 2026 年传统服务器资本支出将增长约 20-30%。因此，DDR4/DDR5 内存需求预计将增长约 50%，企业级 SSD 需求预计将增加近一倍。与此同时，由于 HDD 供应短缺和 AI 存储需求激增，NAND 市场也将蓬勃发展，预计 2026 年比特出货量将同比增长 50% 以上。 NAND 的利润预计将从当前的盈亏平衡点突破至 30-40%。

来到DRAM方面，野村指出，DRAM 营业利润率预计将从目前的 40-50% 范围攀升至 2026 年的近 70%，接近 2017 年超级周期期间的峰值水平。野村强调，HBM 竞争可能会加剧（三星预计将在 2026 年重新加入 NVIDIA 的供应链）。然而，预计到 2025 年至 2026 年，混合平均售价仍将保持 15%+ 的年增长率，贡献 SK 海力士营业利润的 75% 左右。

摩根士丹利(Morgan Stanley)日前也预测，随着明年供需失衡的局面即将出现，存储器将迎来“超级周期”。

据摩根斯坦利所说，领先的AI处理器制造商英伟达（Nvidia）持续吞噬最先进的HBM芯片供应，而随着其加速器产品赢得更多客户，预计AMD和博通公司也将加大采购力度。Allspring的Tan表示，随着国产AI芯片越来越多地采用HBM，中国市场需求的不断增长应该会为HBM芯片带来额外的“红利”。

其他产品的存储供应或受波及？

众所周知，在所有半导体市场中，内存是最接近纯商品的。尽管进一步整合，内存仍然会经历繁荣与萧条的周期，因为它是一种需要大量资本支出的成品，而现有企业只要投入更多，就能获得更多收益。内存很像能源，因为你可以投入更多资本支出，然后增加供应。虽然对数据存在长期需求，但如果供应增加过快，就会导致供应过剩。即使像能源一样，商品也分为不同的类型。

有分析师曾经做过类比，那就是将 NAND 比作天然气，将 DRAM 比作原油。在这种情况下，HBM 是全新的 SuperOil+，我们可以将其视为石油的超集，并且目前需求旺盛。

假设石油和天然气生产商神奇地发现了一种我们之前提到的名为“SuperOil+”的新型能源。他们可以重新利用并购买他们熟悉的设备来开采这种“SuperOil+”，但要开采出相同数量的“SuperOil+”，需要两倍的设备。然而，“SuperOil+”的成本是石油的五倍。此外，对“SuperOil+”的需求量巨大，至少在未来几年内，只要你能开采，就能买到尽可能多的“SuperOil+”。

那么你会怎么做？如果你是能源生产商，你可能会把每一美元的资本支出都投入到SuperOil+项目中，因为回报更高，并能减少石油和天然气支出的资本支出。但在大家转向这些高毛利的市场时，传统市场的需求肯定会被挤占，尤其是在消费和汽车还不振的当下。

有报道指出，由于供应紧张，主要供应商将生产能力分配给利润更高的服务器 DRAM 和 HBM，PC 内存价格将上涨。据称，这些供应商主要将先进工艺产能分配给高端服务器 DRAM 和 HBM，这限制了其 PC、移动和消费芯片的产能。

TrendForce 警告称，总体而言，传统 DRAM 价格预计将比上一季度上涨 8% 至 13%，如果算上 HBM，涨幅可能高达 13% 至 18%。

预计价格上涨的不仅仅是PC内存。由于供应商减产，用于中低端智能手机的LPDDR4X内存供应正在萎缩。设备制造商为了避免供应中断而增加订单，这加剧了这一问题，这可能会导致第四季度价格上涨超过10%。

TrendForce 还预测用于高端智能手机的 LPDDR5X 的价格将会上涨，尽管该公司表示这种格式目前没有出现短缺，而是将其归咎于“供应动态和定价策略”。

图形内存也将受到影响，对英伟达 RTX 6000 系列的预期将推动价格上涨，尤其是 GDDR7，因为供应商预计会出现供应短缺。与此同时，在上一代 GPU 中仍然广泛使用的旧款 GDDR6 也面临供应受限的问题，其价格上涨速度甚至比 GDDR7 更快。

当然，这一切都可能在未来几个月内发生变化，因为周期性内存市场的需求再次发生变化，制造商会相应地增加或减少特定内存类型的产量。

总而言之，存储的这波大周期，跟过去有点不同。

*免责声明：本文由作者原创。文章内容系作者个人观点，半导体行业观察转载仅为了传达一种不同的观点，不代表半导体行业观察对该观点赞同或支持，如果有任何异议，欢迎联系半导体行业观察。

今天是《半导体行业观察》为您分享的第4182期内容，欢迎关注。

加星标第一时间看推送，小号防走丢

求推荐