HBM,大战再起
昨日,英伟达发布了更新后的 H200 GPU。该芯片的最大改变来自使用了 HBM3e。其带来的提升从半导体行业观察昨日的文章《英伟达 H200 突然发布:容量翻倍,带宽狂飙》中可以一览无遗。
然而,据韩媒报道,在英伟达发布新 GPU 之后,一场围绕 HBM 的争夺战已悄然打响。
韩国双雄,争霸 HBM
韩国经济日报在报道中指出,随着美国无晶圆厂芯片设计商英伟达公司周一推出其新的人工智能芯片组 H200 Tensor Core GPU,三星电子公司和 SK 海力士公司等韩国存储芯片制造商对其高带宽内存 ( HBM ) 销售的快速增长寄予厚望。
报道表示。随着人工智能芯片竞争的加剧,全球最大的两家存储芯片制造商三星和 SK 海力士正准备将 HBM 产量提高至 2.5 倍。
三星存储芯片业务副总裁 Kim Jae-joon 在 10 月份表示,三星电子还完成了与主要客户关于明年 HBM 供应的谈判。
据了解,三星正在向 AMD 提供 HBM3 和交钥匙封装服务。据业内人士透露,这家全球顶级内存芯片制造商还在 8 月下旬通过了 Nvidia A100 和 H100 的 HBM3 质量验证;目前尚未正式确认是否向 Nvidia 供应 HBM3。
仅次于三星的全球第二大内存芯片制造商 SK 海力士则早于今年 8 月向 Nvidia 提供了 HBM3E 的样品,即 HBM3 的扩展版本。而 SK 海力士正在向 AMD 供应 HBM3。
SK 海力士 DRAM 营销副总裁 Park Myoung-soo 也强调:" 公司明年第四代 HBM3 产品和第五代 HBM3E 产品的供应量都在增加,并已完全售空。现在更是与客户和合作伙伴就 2025 年 HBM 产量进行生产和供应的讨论也在进行中。"
除了韩国双雄以外,全球第三大 DRAM 公司美光也将从 2024 年开始积极瞄准高带宽内存 ( HBM ) 市场。市场专家预测,三星电子、SK 海力士和美光之间争夺更大市场份额的竞争将会加剧。
据业内人士透露,美光在上季度的财报电话会议上表示,它已经开发出了业界最好的 HBM3E 产品,并将于 2024 年初开始生产,并创下有意义的销量。HBM3E 是 HBM 的下一代版本,被认为是比当前市场领先产品 HBM2 和 HBM3 更高附加值的产品。
美光正在向包括 Nvidia 在内的主要企业 HBM 客户发送 HBM3E 样品,让他们测试其性能。Nvidia 一直在向 OpenAI、谷歌、微软等公司提供 AI 加速器,其中 HBM 封装在其图形处理单元 ( GPU ) 中。人工智能加速器是用于推进生成式人工智能服务的服务器的关键组件。
目前,HBM 市场由三星电子和 SK 海力士占据主导地位。市场研究公司 TrendForce 的数据显示,三星和 SK 海力士预计将分别占据 HBM 46% 和 49% 的市场份额,美光将在 2023 年占据其余市场份额。
在这种情况下,美光明年愿意瞄准下一代 HBM 市场,预计将对三星电子和 SK 海力士产生负面影响。这是因为美光的 HBM 供应可能会缓解 HBM 短缺问题,并加剧 HBM 制造商之间的价格竞争。鉴于美光是一家美国公司,分析人士表示,英伟达和 AMD 等大公司可能会青睐与美光同国籍的产品。" 随着美光宣布积极进军市场,竞争很可能会加剧," 一位半导体业内人士表示。
美光则透露,英伟达有望在 2024 年使用其 HBM3E。
两大巨头,各显神通
回看 HBM 的发展,资料显示,该技术从 13 年开始出现在半导体市场,且已经扩展到第一代 ( HBM ) 、第二代 ( HBM2 ) 、第三代 ( HBM2E ) ,目前是第四代 ( HBM3 ) 。
在 2021 年 10 月,SK 海力士在业界首次成功开发 HBM3,通过将其独家供应给在 AI 用 GPU 上拥有全球领先份额的英伟达,从而获得 HBM 市场的领先份额。最近他们还开发了第五代 HBM3E,预计从 24 年上半年开始量产,2026 年计划第六代 HBM4。
报道支出,SK 海力士自从 HBM3 获得市场领先份额以来,在不断扩大产能,以增强 HBM3E 等下一代产品的量产能力。在对 HBM 最大客户英伟达继 HBM3 独家供应之后,独家供应至第五代 HBM3E,确保其在 HBM 市场的优势。
SK 海力士于 2023 年 6 月开始 HBM3E 的样品出货,其拥有广泛领先的性能,能满足开发者需求。首先,该芯片每秒最多可以处理 1.15TB ( 兆字节 ) 以上的数据。与 HBM3 相比,处理速度提高了 1.3 倍,容量提高了 1.4 倍;另外,HBM3 在 8 层层叠中为 16 GB,12 层层叠为 24 GB 封装,HBM3E 在 8 层中具有 24 GB 容量,今后还将开发 12 层层叠的 36 GB 的封装。
SK 海力士的 HBM3E 更是应用了 "Advanced MR-MUF" 的最新封装技术,产品的热释放性能比以往提高了 10%。该封装技术从应用到 HBM3 的现有 MR-MUF 技术补充了短处——引入了克服芯片翘曲的新技术,并用新的保护材料改善了散热性。
在 SK 海力士高歌猛进的同时,三星电子已完成 HBM3 的量产准备。据透露,他们计划 2023 年下半年开始进入量产阶段。
众所周知,三星不仅是一个名列前茅的存储供应商,也是一个领先的在晶圆代工厂,同时也有封装业务。
为此这种情况下,三星电子不仅利用 HBM 的内存,还充分利用自己公司的封装技术推动了一起提供到基金业务的周转解决方案。对于 SK 海力士和美光来说,这是一种将这样的优势攻克为武器的战略,因为他们不拥封装的技术。
对于三星电子来说,"2.5D 封装技术 " 在大大扩大 HBM3 供应量方面的重要性越来越高。具体来说,就是他们推出的一项被称为 "I-Cube" ( I-Cube ) 的技术。根据 HBM 模块的搭载数,发展为 I-Cube 2 ( 搭载了 2 个 HBM ) 等。
根据三星的规划,到 2024 年 4~6 月期间,公司讲量产 I-Cube 4,7~9 月期间,公司则计划批量生产 I-Cube 8。三星电子称,在将该技术与 HBM 一起提供,可使供应量大大扩大。
正如大家所看到,在 HBM 中,产能往往成为瓶颈,而三星电子的一系列解决方案有望解决这些问题。目前英伟达和 AMD 等采用台积电的 "CoWoS" 技术,但该技术也没有充分增加生产容量。
基于这种情况,三星电子向英伟达提出了封装服务和 HBM3 供应之前的周转关键服务,但会发生什么还是未知数。
虽然可以用转向钥匙制作产品是其优点,但是从在 HBM3 中用 SK 海力士的 MUF 技术获得市场领先份额的状况来看,利用三星电子的 HBM3 的风险很高,其他的危险因素也很多。
美光和台积电,会成为 X 因素?
如前文所说,美光在 HBM 市场没有多少影响力。但他们也正在发力。在他们看来,通过技术进步带来的产品性能提升,会是公司发力的根本助推器。
据了解。美光的 24 GB HBM3E 模块基于八个堆叠 24Gbit 内存芯片制造。而改芯片采用该公司的 1β ( 1-beta ) 制造工艺制造。领先的技术让这些模块的数据速率高达 9.2 GT/ 秒,使每个堆栈的峰值带宽达到 1.2 TB/s,比现有最快的 HBM3 模块提高了 44%。与此同时,该公司不会停止其基于 8-Hi 24 Gbit 的 HBM3E 组件。他们宣布,继开始量产 8-Hi 24GB 堆栈后,计划于 2024 年推出超大容量 36 GB 12-Hi HBM3E 堆栈。
美光首席执行官补充道:" 我们预计将于 2024 年初开始 HBM3E 的生产,并在 2024 财年实现可观的收入。"
在美光来势汹汹的同时,台积电也宣布将 CoWoS 产能扩大两倍 ( 每月 1 万 6000 张 ) 。这就意味着三星电子要想成功完成上面讨论的提案,就必须在台积电完成增设的准备工作之前按照英伟达要求的质量和规格成功量产。目前很难期待比 TSMC 的 CoWoS 更高的性能,对但三星电子来说这是最后的机会一决高下。
同时,由于三星尚未确定与英伟达的合同,他们在与 SK 海尼克斯的竞争中苦战仍在继续。
HBM 作为今后 AI 时代的必备材料,在最近记忆半导体的不景气中也有很大的收益性。虽然在内存市场中比例还不大,但据说盈利能力是其他 DRAM 的 5-10 倍。尤其是 SK 海力士在 2023 年 7-9 月当季 DRAM 业务两个季度来首次转为盈余,由此发挥了 HBM 的威力。HBM 市场预计年均最大将扩大至 80%。
由此可见。今后 HBM 的影响力将进一步加大。
* 免责声明:本文由作者原创。文章内容系作者个人观点,半导体行业观察转载仅为了传达一种不同的观点,不代表半导体行业观察对该观点赞同或支持,如果有任何异议,欢迎联系半导体行业观察。
今天是《半导体行业观察》为您分享的第 3585 期内容,欢迎关注。