摩尔线程和滴普科技完成大模型训练与推理适配

描述

近日,摩尔线程与滴普科技宣布了一项重要合作成果。摩尔线程的夸娥(KUAE)千卡智算集群与滴普科技的企业大模型Deepexi已完成训练及推理适配,共同实现了700亿参数LLaMA2大语言模型的预训练测试。

在测试过程中,摩尔线程的夸娥千卡智算集群展现了其卓越的性能。全程77小时的无故障连续运行,集群训练稳定性高达100%,训练效率和兼容性均达到预期。这一成果得益于摩尔线程夸娥千卡智算集群的全栈方案,其模型覆盖、推理加速、CUDA兼容、断点续训、分布式训练、集群可靠性等8大核心能力,为训练提供了强大支持。

此次合作不仅彰显了摩尔线程在智能计算领域的领先地位,也标志着双方在推动国产化数智赋能底座构建上取得了实质性进展。展望未来,摩尔线程与滴普科技将继续深化合作,共同推动人工智能技术的创新与发展。

打开APP阅读更多精彩内容
声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉

全部0条评论

快来发表一下你的评论吧 !

×
20
完善资料,
赚取积分