风景独好？12层HBM3E量产，16层HBM3E在研，产业链涌动

电子发烧友网报道（文/黄晶晶）在早前的报道中，对于HBM产能是否即将过剩，业界有不同的声音，但丝毫未影响存储芯片厂商对HBM产品升级的步伐。
 
三大厂商12层HBM3E进展
 
9月26日SK海力士宣布公司已开始量产12H HBM3E芯片，实现了现有HBM产品中最大的36GB容量。该产品堆叠12颗3GB DRAM芯片，实现与现有的8层产品相同的厚度，同时容量提升50%。运行速度提高至9.6Gbps，这是在以搭载四个HBM的单个GPU运行大型语言模型（LLM）“Llama 3 70B”时，每秒可读取35次700亿个整体参数的水平。SK海力士将在年内向客户提供12层HBM3E。
 

图源：SK海力士
 
另外，SK海力士今年初曾公开单一堆叠的速度可达1280 GB/s的16层48GB HBM3E概念产品。据韩媒最新报道，SK海力士近期经内部检验，已成功确保16层HBM3E性能特性。
 
今年9月，美光宣布推出12 层堆叠HBM3E。美光表示，随着 AI 工作负载的不断发展和扩充，记忆体频宽和容量对提升系统效能越来越关键。业界最新的 GPU 需要最高效能的高频宽记忆体（HBM）、庞大的记忆体容量以及更高的功耗效率。为满足这些需求，美光走在记忆体创新的最前线，目前正在向主要产业合作伙伴提供可量产的 HBM3E 12 层堆叠记忆体，并在整个 AI 生态系统进行认证。
 

图源：美光科技
 

美光领先的 1ß（1-beta）记忆体技术和先进的封装技术确保资料流以最高效的方式进出 GPU。美光的 8 层堆叠和 12 层堆叠 HBM3E 记忆体进一步推动 AI 创新，功耗比竞争对手低 30%。美光的 8 层堆叠 24GB HBM3E 已与 NVIDIA H200 Tensor Core GPU 一起出货，并且可量产的 12 层堆叠 36GB HBM3E 也已上市。
 
美光提到，公司HBM3E 12 层堆叠 36GB 与竞争对手的 8 层堆叠 24GB 产品相比，不仅功耗大幅降低，而且封装中的DRAM容量增加了50%。可让拥有 700 亿个参数的大型 AI 模型（如 Llama 2）运行于单个处理器上。容量的增加避免了 CPU 卸载和 GPU-GPU 通讯延迟，因此能更快地取得洞见。
 
美光 HBM3E 12 层堆叠 36GB 提供每秒超过 1.2 TB/s 的记忆体频宽，Pin 速度超过每秒 9.2 Gb。美光 HBM3E 以最低的功耗提供最大的吞吐量。
 
此外，美光 HBM3E 12 层堆叠记忆体还整合了完全可编程 MBIST，能够以全规格速度运行系统典型流量，为加快验证提供了更大的测试覆盖范围，缩短了产品上市时间，并提高了系统可靠性。
 
美光在其最新财报中表示，已从第四财季(2024年6-8月)开始向主要行业合作伙伴交付可量产的12层HBM3E（36GB），预计将在2025年初提高12层HBM3E产量，并在2025年全年增加该产品出货。
 
美光称HBM在2024年和2025年均已售罄，且定价已确定。到2025年和2026年，将拥有更加多元化的HBM收入状况，因为美光已凭借行业领先的HBM3E解决方案赢得了广泛HBM客户的业务。
 
韩媒此前报道，三星电子于今年2月首次推出了HBM3E 12H。在2024 年第 2 季度财报电话会议上，三星公司高管表示，已经准备好量产 12 层 HBM3E 芯片，我们将根据多家客户的需求计划，在今年下半年扩大供应。
 
同时，三星表示，第五代 8 层 HBM3E 产品已交付客户评估，计划 2024 年第 3 季度开始量产。总之，HBM3E 芯片在三星 HBM 中所占的份额预计将在第三季度超过 10%，并有望在第四季度迅速扩大到 60%。
 
HBM PHY和控制器，上游IP不断拓展
 
芯片IP厂商主要提供包括处理器核、内存控制器、接口协议、图形处理单元等集成电路设计中的知识产权组件。这些可复用的IP核能够提高设计效率、降低成本、缩短产品上市时间‌。目前包括新思、Rambus、创意电子、合见工软、芯耀辉等等厂商都推出了HBM IP 解决方案。
 
Synopsys新思科技提供完整的 DesignWare HBM IP 解决方案，包括控制器、PHY 和验证 IP，以满足高性能计算、AI 和图形应用领域的片上系统 (SoC) 设计对高带宽和低功耗内存的强烈需求。该 IP 支持 HBM2、HBM2E 和 HBM3 规范所要求的功能，已经过硅验证，可实现高达 921 GB/s 的高带宽。
 
Rambus也积极布局HBM内存市场，去年底推出数据传输速率高达9.6Gb/s的HBM3内存控制器IP，可帮助大幅提高AI性能。Rambus的这一内存控制器IP产品是经过验证的，可支持所有HBM3产品，也包括最新的HBM3E内存设备。
 
最近，创意电子宣布其3纳米HBM3E控制器和实体层IP已获云端服务供应商（CSP）及多家高效运算（HPC）解决方案供应商采用。这款尖端ASIC预计将于2024年投片，并将采用最新的9.2Gbps HBM3E技术。此外，创意电子也积极与HBM供应商（如美光）合作，为下一代AI ASIC 开发HBM4 IP。
 
创意电子的 HBM3E IP 已通过台积电 N7 / N6、N5 / N4P、N3E / N3P 先进工艺制程技术的验证，与所有主流 HBM3 厂商产品兼容，且在台积电 CoWoS-S 及 CoWoS-R 先进封装技术上都进行了流片验证。除人工智能应用领域之外，创意也期待相关HBM IP可继续为高效能运算、网络和汽车等各种应用提供支持。
 
芯耀辉科技致力于为中国大算力产业提供高速接口IP解决方案。芯耀辉成功研发出全套自研接口IP，涵盖了PCIe、Serdes、DDR、HBM、D2D、USB、MIPI、HDMI、SATA，SD/eMMC等最先进协议标准，并构建了一套全栈式完整IP解决方案。
 
前不久，合见工软新品发布涵盖有UniVista HBM3/E IP，该产品包括HBM3/E内存控制器、物理层接口（PHY）和验证平台，采用低功耗接口和创新的时钟架构，实现了更高的总体吞吐量和更优的每瓦带宽效率，可帮助芯片设计人员实现超小PHY面积的同时支持最高9.6 Gbps的数据速率，解决各类前沿应用对数据吞吐量和访问延迟要求严苛的场景需求问题，可广泛应用于以AI/机器学习应用为代表的数据与计算密集型SoC等多类芯片设计中，已实现在AI/ML、数据中心和HPC等领域的国内头部IC企业中的成功部署应用。
 
小结：
 
根据集邦咨询的报告，HBM3e 12hi是2024年下半年市场关注的重点。预计于2025年英伟达推出的Blackwell Ultra将采用8颗HBM3e 12hi，GB200也有升级可能，再加上B200A的规划，因此，预估2025年12hi产品在HBM3e当中的比重将提升至40%，且有机会上升。英伟达是HBM市场的最大买家，在Blackwell Ultra、B200A等产品推出后，英伟达在HBM市场的采购比重将突破70%。
 
产能方面，CFM闪存市场数据显示，预计至2024年底三星、SK海力士和美光合计达到30万片的HBM月产能，其中三星HBM增产最为激进。预计明年全球HBM市场规模将上望300亿美元，HBM将占DRAM晶圆产能约15%至20%。