在AI浪潮的推动下,AMD再用Chiplet技术交出阶段性答卷!

描述

众所周知,随着最近生成式AI浪潮的席卷全球,NVIDIA无论影响力还是股价都已一息千里;

但可能令黄仁勋也想不到的是:仅仅在就在本月初,在NVIDIA推出被称作“巨型GPU”的GH200超级芯片后,作为表外甥女的AMD总裁苏姿丰也放出了其“终极武器”——MI300X。

6月14日凌晨一点,AMD举行了最新直播活动,这一次,苏妈带来多款重磅产品:

chiplet

图片来自:AMD

苏姿丰率先公布了Instinct MI300A,她称之为全球首个为AI和HPC(高性能计算)打造的APU加速器,拥有多达13颗小芯片,总共包含1460亿个晶体管;

该加速器采用CDNA 3 GPU架构和24个Zen 4 CPU内核,配置128GB的HBM3内存,相比前代MI250,MI300的性能提高八倍,效率提高五倍。

而全场发布会的重头戏,则是一款全新的纯GPU产品 ——“Instinct MI300X”;

chiplet

图片来自:AMD

据苏姿丰介绍:Instinct MI300X内存达到了192GB,内存带宽为5.2TB/s,Infinity Fabric带宽为896GB/s,晶体管达到叹为观止的1530亿个。

这与NVIDIA H100芯片相比,MI300X提供的HBM密度最高是前者的2.4倍,HBM带宽最高则是1.6倍。这意味着,AMD的芯片可以运行比NVIDIA芯片更大的模型;苏姿丰强调,生成式AI模型可能不再需要数目那么庞大的GPU,由此可为用户节省成本。

当然,我们这里所说的二者的关系问题,并不是道听途说而来:

这两人不仅都出生在台南,且还有亲戚关系,苏姿丰的外公与黄仁勋的母亲是兄妹;相当于,苏姿丰是黄仁勋的外甥女,换言之,黄仁勋是苏姿丰的表舅

更有意思的是,黄仁勋职业生涯早期还曾在AMD工作过,他也曾提起自己很喜欢当时的工作。

回到正题,或许你和我一样,在本场发布会之前都认为:

苏姿丰和她的AMD技术团队是否可以生产出足够强大的芯片,以打破NVIDIA对GPU市场几乎垄断的地位呢?

答案就在本次发布会苏姿丰的惊人话语中:“随着模型尺寸变得越来越大,你需要多个 GPU 来运行最新的大型语言模型;且,随着 AMD 芯片上内存增加,开发者将不需要那么多 GPU。”

chiplet

图片来自:AMD

其理由是:AMD 的 Instinct MI300 系列以及NVIDIA的 H100 / H800 系列 GPU 都在采用台积电先进的后端 3D 封装方法 CoWoS,导致台积电 CoWoS 产能短缺将持续存在;台积电目前有能力每月处理大约 8000 片 CoWoS 晶圆,其中NVIDIA和 AMD 合计占了大约 70% 到 80%。

尤其,用于CoWoS和其他先进封装技术的封装设备需要专门的生产工具,它们的交货时间在3到6个月之间;这意味着台积电迅速扩大其CoWoS产能的能力是有限的。

特别值得一提的是:这张集成了1530亿晶体管的怪兽芯片也是AMD Chiplet技术生态的集大成者:

AMD本次发布的MI300A被苏姿丰称作“面向 AI 和高性能计算的全球首款 APU 加速器”,将多个 CPU、GPU 和高带宽内存封在一起,在 13 个 Chiplets 上拥有1460 亿颗晶体管。

AMD Instinct MI 300X和AMD Instinct MI 300A不同点在于,AMD Instinct MI 300X并没有集成CPU内核,而是采用了8 个 GPU Chiplet(基于CDNA 3架构)和另外 4 个 IO 内存Chiplet的设计,这让其集成的晶体管数量达到了惊人的1530亿。

与此同时,Chiplet技术在AI芯片中具有提高芯片集成度、降低生成本、提高性能、降低性能和提高芯片可能依赖等技术作用;随着技术的不断进步和应用场景的不断扩大,Chiplet技术在AI芯片中的应用前景将会更加广泛。

chiplet

图片来自:AMD

尤其,作为一款对标NVIDIA H100的产品,AMD Instinct MI 300X的HMB密度是前者的2.4倍,带宽则为前者的1.6倍;这让AMD的这颗产品在当前的AI时代竞争力大增。

同时,基于带宽高达896GB/s的AMD Infinity架构,AMD可以将八个 M1300X 加速器组合在一个系统中,这样就能为开发带来更强大的计算能力,为 AI 推理和训练提供不一样的解决方案。

综上所述,毋庸置疑,这是一场攸关未来的半导体竞赛;全球数据中心 GPU 和 CPU 的头部企业NVIDIA和Intel均在强调其加速 AI 的实力。

但,作为这两条赛道“万年老二”的 AMD,也在竞相满足对 AI 计算日益增长的需求,并通过推出适应最新需求的数据中心 GPU 来挑战NVIDIA在新兴市场的主导地位。

 

打开APP阅读更多精彩内容
声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉

全部0条评论

快来发表一下你的评论吧 !

×
20
完善资料,
赚取积分