Rambus GDDR6 PHY 赋能AI服务器

/导读/

内存，对于装机爱好者来说已经再熟悉不过了。它是计算机的重要部件，用于暂时存放CPU中的运算数据，以及与硬盘等外部存储器交换的数据。简单来说，内存就是CPU的“草稿纸”，负责将CPU这个大脑暂时用不到的数据存放起来，以备随时取用。这种将数据放在CPU外暂存的结构被称为“冯·诺依曼结构”。即使将CPU升级为服务器级别，其数据交换方式仍旧是这样。

不过，随着AI时代来临，服务器核心的算力越来越高，它与内存间的数据交换频率也水涨船高，算力的增长非常显著，但是带宽上的进步却无法改善，造成两者间不匹配，也导致了很多GPU资源的浪费。存储带宽制约了计算系统的有效带宽，这也导致芯片算力增长步履维艰。近日，Rambus在产品发布会上带来了GDDR6 PHY产品，可以有效提升内存数据传输速率，满足生成式AI等先进计算应用的需求。

/01/

服务器的GDDR时代来了

传统内存，按照不同代际分为DDR至DDR5。DDR的全称为Double Data Rate SDRAM（双倍速率的SDRAM）。DRAM指动态随机存取内存，SDRAM就是一种传输速率更高的DRAM。

DDR内存从1代进化到5代，它的时钟周期变短了，频率也就变高了，因此传输速度也就更快。此外，更高代的内存支持的最大容量也越大，电压更低，耗电更少。

而GDDR通常指的是用在显卡上的内存，本质上还是双倍速率同步动态随机存储器，它是为了设计高端显卡而特别设计的高性能 DDR 存储器规格，其有专属的工作频率、时钟频率、电压，因此与市面上标准的 DDR 存储器有所差异，与普通 DDR 内存不同且不能共用。一般它比主内存中使用的普通 DDR 存储器时钟频率更高，发热量更小，所以更适合搭配高端显示芯片。

GDDR的出现是因为程序需要进行更频繁的图形计算，需要频繁读取内存中的数据，因此就需要更高性能的内存来辅助显卡运行。

AI应用对于内存带宽有着旺盛需求，其训练集每年也以10倍的速度增长。GDDR内存逐渐成为众望所归。Rambus GDDR6 PHY提供市场领先的数据传输速率，最高可达24 Gb/s，能够为每个GDDR6内存设备带来96 GB/s的带宽。作为系统级解决方案的一部分，Rambus GDDR6能够为人工智能/机器学习（AI/ML）、图形和网络应用提供高成本效益、高带宽的内存性能。

Rambus首席运营官范贤志表示：“凭借Rambus GDDR6 PHY所实现的新一级性能，设计人员可以为带宽要求极为苛刻的工作负载提供所需的带宽。和我们领先的HBM3内存接口一样，这项最新成就表明了我们不断致力于开发最先进的内存性能，以满足生成式AI等先进计算应用的需求。”

/02/

快，就够了吗？

人工智能的推理正在向边缘端进行迁移，要做到这一点需要更高的带宽和更低延迟的内存。

Rambus GDDR6 PHY除了业界领先的24Gb/s性能外，还经过了全方位的优化，可满足AI/ML及其他需要高带宽、低延迟内存解决方案的先进应用的需求。Rambus能够实现24Gb/s的数据传输速率，依靠的是其在信号完整性和电源完整性（SI/PI）方面享誉世界的专业知识，这些知识可用于设计PHY、芯片封装和印刷电路板（PCB）。Rambus GDDR6 PHY可与Rambus GDDR6数字控制器IP相结合，提供完整的GDDR6内存接口子系统解决方案。

值得一提的是，GDDR6现在已经支持比较先进的FinFET工艺节点。从2019年开始，Rambus就已经在该工艺上进行布局，包括24Gb/s速率的GDDR6。此外，Rambus还针对PCB以及封装提供相关的参考设计。

IDC内存半导体副总裁Soo-Kyoum Kim表示：“凭借领先的速度和带宽，Rambus GDDR6 PHY将为新一代图形应用带来巨大的性能提升。”

/03/

客户需要怎样的内存？

本次发布会上，Rambus还回答了记者的采访。其中包括为什么GDDR会被用到服务器上？DDR和GDDR这两种不同的产品优势和差别分别是什么？用户在具体选择的时候，有怎么样的标准？

Rambus IP核产品营销高级总监Frank Ferro表示：以DDR4为例，它的成本相对是比较低的。劣势是运行速度相对较慢，它的速度可能最高能达到3.2Gb/s。作为GDDR这项技术，从几年前开始就已经能够实现16Gb/s的带宽，而这已经是超过了DDR技术三到四倍之多。由于在DDR4和GDDR6两者之间存在着巨大的性能差异的鸿沟，越来越多的客户也开始探寻如何把GDDR6应用到自己的设计上的方法。这也是为什么GDDR6转变到非图形应用的重要契机和原因。

有关DDR和GDDR的差别，需求端来讲，带宽是主要的标准和最重要的衡量因素，但如果是从存储密度，也就是能够存储多少数据，以及对成本的敏感性来看的话，DDR是更好的选择了。同时， DDR、GDDR和LPDDR这些不同的产品，都是以标准的DRAM为基础。不管你怎么设计，在整个功耗性能上其实都是大同小异。LPDDR，更加关注的更低功耗管理，DDR本身的数据存储密度会更高一点， GDDR是更关注于速度，这三者之间各有千秋。

记者也就AI对于内存的需求与落地时间进行提问。

Rambus 大中华区总经理Raymond Su（苏雷）表示：对于内存产品的需求，首先就是要实现高带宽。在满足带宽需求的大前提下，方案的成本和复杂性就成为第二个考量因素。GDDR技术是在带宽、成本和方案复杂性的各因素之间，提供了一个非常完美的折中技术方案。在设计阶段，Rambus直接和客户合作，提供信号完整性和功能完整性的技术分析，还会帮助客户优化芯片的布局。

关于产品的落地时间，芯片业界的一般规律是从IP最初加入芯片设计，到最终芯片流片成功到推出市场，一颗芯片的诞生需要一到两年的时间。因此我们可能会在2025年或2026年市场上看到使用GDDR6 IP的芯片。