英伟达的下一代AI芯片

描述

英伟达的下一代 Blackwell 架构可以发挥相当大的作用。

根据英伟达(Nvidia)的路线图,它将推出其下一代black well架构很快。该公司总是先推出一个新的架构与数据中心产品,然后在几个月后公布削减的GeForce版本,所以这也是这次的预期。作为Nvidia即将推出其新的数据中心GPU的证据,一位戴尔高管已经分享了一些关于下一代Nvidia硬件的有趣信息,在最近的一次收入电话会议上说,该公司有一个1000W的数据中心GPU在计划中。

戴尔首席运营官杰夫·克拉克(Jeff Clarke)在 2 月 29 日的财报电话会议上讨论了戴尔的工程优势,以及 Nvidia 即将推出的硬件可提供哪些优势。

他说:“我们对 B100 和 GB200这两款产品感到兴奋,下图是 Nvidia 下一代数据中心 GPU 及其后继产品的芯片名称。Nvidia 目前将H100作为其旗舰数据中心 GPU,并且刚刚推出了具有更快 HBM3e 内存的第二代产品,称为 H200。”我们都知道 B100 是该芯片的 Blackwell 后继产品,因此 GB200 似乎将是该 GPU 的第二次迭代,尽管它目前没有出现在 Nvidia 的路线图上(如下)。

人工智能

然后,Clark 开始讨论这些下一代部件的热性能,并表示:“您实际上并不需要直接液体冷却即可达到每个 GPU 1,000W 的能量密度。明年的一些产品就会实现这一点,”

目前的 GH200 Grace Hopper CPU+GPU 的 TDP 已经达到 450W 到 1,000W,具体取决于配置,因此看到下一代版本的该数字保持不变会有点令人惊讶。同时,现有的H100是700W GPU,但我们不知道它的后继者B100对功耗有何要求。Nvidia 似乎可以将其功率提高到 1,000W,但我们还没有听到有关 B100 功耗的任何消息。

目前,我们必须等到 3 月 18 日才能看到 Nvidia 为 Blackwell 数据中心准备了什么,作为游戏玩家,我们或许也能从该公告中收集到一些细节。鉴于该公司在人工智能市场的地位有多高,全世界都将关注今年的 GTC,看看 Nvidia 有何高招。尽管距离发布已经很近了,但我们对 Blackwell 的了解仍然不多,只知道它将使用台积电的 3nm 工艺,并且 Nvidia 可能会首次采用小芯片设计。英伟达还透露,短期内这些芯片的需求将超过供应。

英伟达还披露了 X100 芯片的计划,计划于 2025 年发布,该芯片将扩大产品范围,包括企业用途的 X40 和 GX200,在 Superchip 配置中结合 CPU 和 GPU 功能。同样,GB200预计将效仿B100,融入超级芯片概念。

从英伟达的产品路线来看,在未来1-2 年,AI 芯片市场将再次天翻地覆。

值得注意的是,在英伟达占据绝对地位的AI芯片领域中,AMD是为数不多具备可训练和部署AI的高端GPU公司之一,业界将其定位为生成式AI和大规模AI系统的可靠替代者。AMD与英伟达展开竞争的战略之一,就包括功能强大的MI300系列加速芯片。当前,AMD 正在通过更强大的 GPU、以及创新的CPU+GPU平台直接挑战英伟达H100的主导地位。

AMD最新发布的MI300目前包括两大系列,MI300X系列是一款大型GPU,拥有领先的生成式AI所需的内存带宽、大语言模型所需的训练和推理性能;MI300A系列集成CPU+GPU,基于最新的CDNA 3架构和Zen 4 CPU,可以为HPC和AI工作负载提供突破性能。毫无疑问,MI300不仅仅是新一代AI加速芯片,也是AMD对下一代高性能计算的愿景。

除此之外,英伟达还要面临来自自研AI芯片选手的竞争。

今年2月,科技巨头Meta Platforms对外证实,该公司计划今年在其数据中心部署最新的自研定制芯片,并将与其他GPU芯片协调工作,旨在支持其 AI 大模型发展。研究机构SemiAnalysis创始人Dylan Patel表示,考虑到Meta的运营规模,一旦大规模成功部署自研芯片,有望将每年节省数亿美元能源成本,以及数十亿美元芯片采购成本。

OpenAI也开始寻求数十亿美元的资金来建设人工智能芯片工厂网络。外媒报道,OpenAI正在探索制造自己的人工智能芯片。并且Open AI的网站开始招募硬件相关的人才,官方网站上有数个软硬件协同设计的职位在招聘,同时在去年九月OpenAI还招募了人工智能编译器领域的著名牛人Andrew Tulloch加入,这似乎也在印证OpenAI自研芯片方面的投入。

不止是Meta和OpenAI,据The Information统计,截至目前,全球有超过18家用于 AI 大模型训练和推理的芯片设计初创公司,包括Cerebras、Graphcore、壁仞科技、摩尔线程、d-Matrix等。




审核编辑:刘清

打开APP阅读更多精彩内容
声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉

全部0条评论

快来发表一下你的评论吧 !

×
20
完善资料,
赚取积分