ChatGPT带旺HBM存储

据韩媒报道，自今年年初以来，三星电子和SK海力士的高带宽存储器（HBM）订单激增。尽管HBM具有优异的性能，但其应用比一般DRAM少。这是因为HBM的平均售价（ASP）至少是DRAM的三倍。HBM需要复杂的生产过程和高度先进的技术。人工智能服务的扩展扭转了局面。一位业内人士表示，“与性能最高的DRAM相比，HBM3的价格上涨了五倍。”
 
据了解，目前SK海力士在HBM市场处于领先地位，约有60%-70%的份额。HBM（高带宽存储器）是高价值、高性能存储器，垂直互连多个DRAM芯片，与传统DRAM产品相比显著提高数据处理速度。SK海力士 HBM3 DRAM是继HBM（第一代）、HBM2（第二代）和HBM2E（第三代）之后的第四代HBM产品。
 
SK海力士介绍，其HBM3的容量是HBM2E的1.5倍，从12个DRAM管芯堆叠到相同的总封装高度，适合AI和HPC等功率容量密集型应用。单个立方体可以产生高达819GB/s的带宽，而在同一硅片上具有六个HBM芯片的SiP（系统封装）可以实现高达4.8TB/s的带宽，以支持exascale需求。
 

来源：SK海力士

来源：SK海力士

 
SK hynix HBM3还具有一个强大的、定制的片上ECC（纠错码），它使用预先分配的奇偶校验位来检查和纠正接收数据中的错误。嵌入式电路允许DRAM自校正单元内的错误，显著提高了器件可靠性。
 
去年6月，SK海力士宣布其HBM3将与NVIDIA H100 Tensor Core GPU结合用于加速计算。SK hynix的HBM3有望通过高达819GB/s的内存带宽增强加速计算性能，相当于每秒传输163部FHD（全高清）电影（5GB标准）。在NVIDIA完成对SK海力士HBM3样品的性能评估后，SK hynix于2022年第三季度开始发货。

三星推出HBM3 Icebolt，专为数据中心加速，减轻高性能计算负荷，充分挖掘人工智能 (AI) 潜能的存储芯片。HBM3 Icebolt 高带宽存储采用 12 层高速 DRAM，拥有更快速度、更高能效和更大容量。

 
HBM3 Icebolt 以高达 6.4Gbps 处理速度和高达 819GB/s 的带宽将性能提升到新高度。比上一代产品快将近 1.8 倍。
 
借助专为数据中心加速而设计的 HBM，让数据发挥更大作用。HBM3 Icebolt 采用 12 层 10 纳米级 16 Gb DRAM die堆叠，实现 24GB 的存储容量，24GB是三星前代产品HBM2E的 1.5 倍。利用新型解决方案打造更强大的神经网络，并以更快的速度处理数据。
 
处理速度更快，存储容量更大，但能效比却明显高于上一代HBM2E。HBM3 Icebolt 具有前所未有的强大能力，采用超高效设计，能效比上一代产品提高了 10%。因此，能提高性能同时减轻服务器的负担。
 
HBM3 Icebolt即使在提供更高速度的情况下，仍然提供增强型自我校正功能，从而保证数据可靠性。HBM3 Icebolt 解决方案可校正所有 16 位错误 - 相较于仅校正单比特错误的上一代产品HBM2E，ODECC 能力实现巨大飞跃。因此，能够消除更多错误，更好的防止数据损坏，保持你数据的稳定性和安全性。
 
与传统DRAM相比，HBM在数据处理速度和性能方面具有显著的竞争力。ChatGPT大火带动人工智能和数据中心建设投入升级，也必将带动HBM产品的需求增长。