奇异摩尔以互联之长推进OISA GPU卡间互联生态适配

描述

上周,在中国信通院的引领下,ODCC春季全员大会在风光秀丽的扬州举行。大会内容丰富,涵盖了服务器、设施、网络、边缘计算、新技术与测试、智能运营等多个工作组的技术研讨,共计举办近十场,近百位行业专家进行了精彩的主题分享。作为AI网络特别组及网络工作组的成员,奇异摩尔积极参与大会,与业界同仁共同探讨AI网络互联应用的发展趋势。

当前,国内外GPU卡间互联技术正呈现出多样化的繁荣景象,不同标准、协议及产业链生态迅速发展,形成了“百家争鸣”的格局。在本次大会上,中国移动OISA、腾讯ETH-X以及UALink生态标准分别展示了各自生态的最新进展,这一交流将有力推动国内开放标准的快速发展,加速产业链上下游的协同创新。

 超节点GPU互联赋予推理大模型“满血”性能 

在DeepSeek通过算法优化和创新技术显著提高GPU利用率的大背景下,Scale-UP各生态标准组在ODCC大会期间深入探讨了对推理集群中卡间互联的HBD域需求及其重要性。与会专家详细分析了,采用64卡H800互联部署的DeepSeek大模型,相较于仅使用8卡GPU互联的配置,推理效率提升了超过15%。

同时,相关专家指出,尽管国内市场对DeepSeek一体机的需求火爆,但即便是配置了671B参数的算力,其实际在推理应用能力上的性能发挥仍有潜力可挖。构建由更多服务器组成的推理集群,才能真正释放DeepSeek的完整潜能。在这一背景下,Scale-Up高效互联技术构建的超节点GPU互联服务器,在提升大型推理模型的性能效率方面展现出显著优势。

 奇异摩尔积极推动OISA Chiplet生态适配 

去年6月由中国移动创新提出的全向智感互联架构(OISA)旨在构建一个高效、智能、灵活且开放的GPU卡间互联系统,特别针对大模型训练、推理及高性能计算等数据密集型AI应用进行优化。其全向连接设计确保了大规模GPU之间能够进行对等通信,而智能感知功能则通过定义流量感知标签,在提升数据传输效率的同时,增强了链路的遥测和可视化能力。同时,OISA从带宽、时延及无损三个层次所对应的事物层、数据层以及物理层进行全面架构的更新,更高效地支持张量并行和专家并行,对Dense模型及MoE专家稀疏化模型均有较大帮助。

gpu

(来源:OISA)

奇异摩尔作为OISA的重要联盟成员正在全力推进OISA Chiplet技术的协同与适配。在OISA GPU技术标准化的过程中,生态在协议层预留可扩展接口与现有生态兼容。GPU内部GPU Die通过与奇异摩尔的NDSA-G2G (又称GPU I/O Die)集成共封,GPU Die与I/O Die接口通过与UCIe标准兼容,允许通过先进封装技术实现OISA体系的互联集成,最终实现生态内不同GPU 通过I/O Die完成卡间互联。

gpu

(图:Kiwi NDSA-G2G)

2024年,中国移动算力计划资本开支475亿元,同比增长21.5%;2025年算力领域投资预计达373亿元,占资本开支的25%,重点投向智算资源(FP16算力超34EFLOPS)和推理资源(根据市场需求不设上限)。

奇异摩尔的NDSA-G2G以Chiplet形态为OISA生态赋能,构建更大规模的超级节点Domain,助力中国移动智算中心在国内形成完整的算力闭环。

展望未来,预计OISA将在年中发布相关协议的白皮书。届时,奇异摩尔将作为白皮书中的关键Chiplet技术贡献者,为整个生态贡献其专业知识和力量。

随着大模型MoE架构和万亿参数模型过渡为常态,超节点互联正从"可选方案"进化为"必选项"。奇异摩尔正积极携手与国内国外主流Scale Up生态(ETH-X, OISA, UAlink)共同打造更开放、兼容的下一代互联标准。当前,AI基础设施已进入“规模算力”与“高效互联”双轮驱动的新阶段。奇异摩尔将持续携手产业伙伴,以开放生态加速超节点互联技术的商业化进程,助力全球AI产业突破算力瓶颈,迈向更智能的未来。

关于我们

AI网络全栈式互联架构产品及解决方案提供商 

奇异摩尔,成立于2021年初,是一家行业领先的AI网络全栈式互联产品及解决方案提供商。公司依托于先进的高性能RDMA 和Chiplet技术,创新性地构建了统一互联架构——Kiwi Fabric,专为超大规模AI计算平台量身打造,以满足其对高性能互联的严苛需求。

我们的产品线丰富而全面,涵盖了面向不同层次互联需求的关键产品,如面向北向Scale out网络的AI原生智能网卡、面向南向Scale up网络的GPU片间互联芯粒、以及面向芯片内算力扩展的2.5D/3D IO Die和UCIe Die2Die IP等。这些产品共同构成了全链路互联解决方案,为AI计算提供了坚实的支撑。

奇异摩尔的核心团队汇聚了来自全球半导体行业巨头如NXP、Intel、Broadcom等公司的精英,他们凭借丰富的AI互联产品研发和管理经验,致力于推动技术创新和业务发展。团队拥有超过50个高性能网络及Chiplet量产项目的经验,为公司的产品和服务提供了强有力的技术保障。我们的使命是支持一个更具创造力的芯世界,愿景是让计算变得简单。奇异摩尔以创新为驱动力,技术探索新场景,生态构建新的半导体格局,为高性能AI计算奠定稳固的基石。

打开APP阅读更多精彩内容
声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉

全部0条评论

快来发表一下你的评论吧 !

×
20
完善资料,
赚取积分