华为联合信通院成功立项《AI数据中心网络建设指导意见》

描述







近日,2023开放数据中心冬季全会(简称:ODCC 2023)在银川召开,华为联合信通院在新技术与测试组共同申报的《AI数据中心网络建设指导意见》立项成功,该项目旨在促进行业数智化转型、推动产业升级合作,为各行业构建面向AI时代的数据中心网络提供参考。


华为

华为数据通信产品线数据中心网络领域
产业营销副总监胡秀丽


AI算法迈入万亿参数大模型时代,算力需求增长近十万倍,大规模计算需要高效协同数万张AI处理器,网络基础设施是长稳训练的关键之一。国内外已有对传统数据中心网络建设的指导和规范,但AI业务与传统数据中心业务对网络诉求差异较大,亟待优化网络架构,革新网络技术,《AI数据中心网络建设指导意见》指出,AI数据中心网络的建设可从组网规模、通信效率、高可用性三方面着手:



组网规模:

传统三层网络存在网络层数多,网络吞吐率低的问题,建议优化网络架构,采用两层框盒或框框组网,规模提升4倍以上,可满足大规模万卡AI集群,大幅度降低组网成本约30%。华为打造端到端200GE/400GE设备,构建大带宽AI无损网络,4倍于业界规模,完美匹配AI场景诉求。





通信效率:

组网规模从千卡向万卡演进,大流量模型下网络负载不均衡,严重影响AI训练效率。解决流量负载不均,可将AI训练场景下搜集到的整网信息作为创新算路算法的输入,从而得到最优的流量转发路径,实现AI训练场景下整网流量100%的均衡度,提升网络带宽利用率。华为独创网络负载均衡技术,提升网络吞吐至98%,同等服务器规模下AI训练效率提升20%。





高可用性:

AI任务的训练要求网络具有超高的稳定性,训练过程中一旦链路异常就可能导致任务训练中断,要保证网络有足够的容错能力,不影响AI相关业务,高可用网络需要考虑:训前主动识别链路亚健康,确保训前网络0风险;训中出现任务异常后,需要能一键自动识别卡间的路径和路况,做到分钟级诊断网络问题点,提升排障效率。华为网络数字地图提供可视化运维方案,高精度采集数据,实现网络一键式故障诊断,训中排障效率提升90%。





本次立项将针对AI场景下的网络新需求,于2024年上半年完成不同集群规模选项、网络负载均衡、网络高可用等技术的探索,并输出建设原则指导书,为构建面向AI时代的高性能网络建设提供参考。华为也希望与众多合作伙伴一起,推动技术的发展和应用场景的拓展,实现人工智能技术的可持续发展和社会的共同繁荣。


华为

华为

华为
点击“阅读原文”,了解更多华为数据通信资讯!


原文标题:华为联合信通院成功立项《AI数据中心网络建设指导意见》

文章出处:【微信公众号:华为数据通信】欢迎添加关注!文章转载请注明出处。

打开APP阅读更多精彩内容
声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉

全部0条评论

快来发表一下你的评论吧 !

×
20
完善资料,
赚取积分