AI大算力的存储技术， HBM 4E转向定制化

电子发烧友网报道（文/黄晶晶）如今英伟达GPU迭代速度加快至每年一次，HBM存储速率如何跟上GPU发展节奏。越来越多的超大规模云厂商、GPU厂商开始转向定制化HBM。而HBM存储厂商以及晶圆代工厂也在积极配合这一客户需求。从HMB4的加速量产、HBM4E演进到逻辑裸芯片的定制化等HBM技术正在创新中发展。
 
HBM4E的基础裸片集成内存控制器
 
外媒报道，台积电在近日的生态论坛上分享了对首代定制 HBM 内存的看法。台积电认为定制HBM将在HBM4E时代正式落地，即C-HBM4E。
 
据介绍，台积电为HBM4提供两种不同的HBM Base Die（基础裸片）制程方案，分别是面向主流市场的 N12FFC+ 和追求更高性能的N5。后应英伟达要求，SK 海力士将基础裸片工艺升级为更先进的 N3 节点。
 
 
 
在 C-HBM4E 上，为向基础裸片集成MC（内存控制器）以满足节省计算芯片面积等需求，台积电将提供 N3P 先进制程基础裸片解决方案，可将能效提升至HBM3E基础裸片的2倍左右。同时 C-HBM4E 的 Vdd 电压将仅有 0.75V，较HBM4 进一步降低。
 
去年，SK 海力士与台积电签署谅解备忘录，台积电负责生产HBM4的基础裸片。SK 海力士以往 HBM 产品的基础裸片由自身制程工艺制造，而 HBM4 采用台积电的先进逻辑工艺。同时，双方还将协力优化 SK 海力士的 HBM 产品和台积电的 CoWoS 技术融合，共同应对 HBM 相关客户的要求。
 
在SK 海力士首次公开展示的HBM4可以看到，该产品采用12层堆叠结构，通过台积电N3 工艺制造的基底裸片，实现了单颗36GB容量和2TB/s 的带宽突破，较前代 HBM3E 的传输速度提升了60% 以上。
将GPU、xPU核心集成到HBM的可能性
 
日前，Meta和Nvidia正在与SK海力士和三星电子探讨合作，他们希望将AI xPU 的特定功能电路卸载到 HBM的基础裸片中，从而提升xPU的芯片面积利用率，让 HBM 不仅是片外缓存拓展，还成为 xPU 逻辑功能的组成部分，从而提高芯片整体效率，减少面积占用，满足 AI 应用对极致性能和能效比的追求。例如，将GPU核心嵌入到位于HBM底部的基片中，就是将之前集中在GPU上的计算功能卸载到内存，从而减少数据传输和GPU本身的负担。
 
目前HBM底部的基片负责内存与外部环境之间的通信。上述内容提到 HBM4E的基片有望集成内存控制器。大型科技公司试图通过添加能够控制内存的半导体来提升性能和效率。而集成 GPU 核心又提供了另一种技术可能。其本质仍然是缩短内存与计算之间的物理距离，降低数据传输延迟和功耗，提升性能。
 
不过，报道指出由于硅通孔TSV工艺的限制，HBM 基片上用于容纳 GPU 核心的空间非常有限。电源供应和散热也是关键问题。GPU计算核心功耗高、发热量大，散热管理成为瓶颈。
 
美光HBM4E基底逻辑芯片将与台积电合作定制
 
美光日前表示，在高带宽内存（HBM）领域，美光表示其 12 层堆叠的 HBM4 DRAM 方案按计划推进。为响应近期激增的性能需求，公司已完成业界最快 HBM4 解决方案的首批样片交付，该方案实现超 11 Gbps 引脚传输速率与 2.8 TB/s 带宽。美光 HBM4 凭借业界顶尖的性能表现与能效比，全面优于所有竞品。
 
美光总裁兼首席执行官桑杰・梅赫罗特拉（Sanjay Mehrotra）表示，成熟的 1-γ DRAM 工艺、创新低功耗的 HBM4 架构、自研先进 CMOS 基底芯片及前沿封装技术，构成了这款标杆产品的核心竞争力。
 
他进一步披露了下一代 HBM4E 内存规划。与完全基于自研先进 CMOS 基底芯片的 HBM 不同，HBM4E 的基底逻辑芯片将与台积电合作制造，涵盖标准品与定制化产品。美光预计 HBM4E 将于 2027 年正式推出。
 
他说，针对 HBM4E，美光科技将提供标准产品及基底逻辑芯片定制服务。我们正与台积电合作，为标准品与定制化产品同步开发 HBM4E 基底逻辑芯片。定制化方案需与客户深度协同，预计搭载定制基底逻辑芯片的 HBM4E 将较标准品实现更高毛利率。目前美光 HBM 客户群已扩展至 6 家。
 
三星积极推进HBME4
 
三星电子计划最早于明年上半年完成 HBM4E 的开发工作。HBM4E逻辑裸片的定制化需要厂商具备定制产品设计的能力，以及先进的晶圆代工制程能力。三星从 HBM4 世代开始采用自家晶圆代工工艺生产逻辑裸片，具备垂直整合、以及调配供应链的能力。不过，考虑到SK海力士、美光都选择与台积电合作逻辑裸片，对于HBM4E逻辑裸片的定制化的确也考验三星对基础裸片进行设计与制造能力。
 
小结：
 
不仅是英伟达，现在很多大型科技公司都在自主研发AI加速器，于是对HBM4E定制化的需求日益强烈且多元化。以搭载 HBM4E的AI 加速器计划于2027 年正式发布来倒推，HBM4E 有望在明年下半年完成产品品质验证。对于存储厂商来说，定制化能够加深客户和存储厂商的合作关系。一旦进入供应链体系后，客户不会轻易更换供应商。这种定制化HBM合作会是存储厂商抢占客户提升市场份额的关键，可以想见未来HBM市场格局的竞争将非常激烈。