英伟达推出百亿参数AI模型处理方案——DGX SuperPOD

描述

  据报道,当地时间3月19日,英伟达于GTC开发者大会上发布了以处理百亿参数AI模型为核心的新品——DGX SuperPOD,旨在助力超大规模AI训练和推理工作负载实现稳定而高效的性能输出。

  据悉,新型DGX SuperPOD采用全新的高效水冷机架式设计,搭载英伟达DGX GB200系统,FP4精度下具备11.5 exaflops的人工智能超级计算力以及240 terabytes的高速内存。用户可以通过加装机架进行持续扩充。

  一套DGX GB200系统内含36块英伟达GB200加速卡,其中包含36颗英伟达Grace CPU以及72颗英伟达Blackwell GPU,经由第五代英伟达NVLink技术组合成一具高性能超算。

  相较于英伟达基于H100 Tensor Core GPU打造的产品,GB200加速卡在大型语言模型推理任务中的表现将有望提高最多30倍。

  英伟达现有的DGX SuperPOD套装包含至少8套DGX GB200系统,通过英伟达Quantum InfiniBand技术扩容后,能够容纳数万枚GB200加速卡。

  英伟达名誉主席及首席执行官黄仁勋指出,“英伟达的DGX系列人工智能超级计算机是智能化工业革命的催化剂。而此次推出的DGX SuperPOD集成了最先进的加速计算、网络和软件技术,使每一家企业、行业乃至国家均能充分利用该平台完善并发展自身的人工智能技术”。

打开APP阅读更多精彩内容
声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉

全部0条评论

快来发表一下你的评论吧 !

×
20
完善资料,
赚取积分