阿里云第八代企业级实例g8i搭载第五代英特尔至强可扩展处理器

描述

全球领先的云计算厂商阿里云宣布第八代企业级通用计算实例 ECS g8i 算力再升级,国内首发搭载代号 Emerald Rapids 的第五代英特尔 至强 可扩展处理器,依托阿里云自研的「飞天+CIPU」架构体系,ECS g8i 实例的整机性能最高提升 85%,AI 推理性能最高提升 7 倍*,可支撑高达 72B 参数的大语言模型,帮助中小规模模型起建成本降低 50%。同时新实例还提供了端到端安全防护,为企业构建可信 AI 应用提供强有力的隐私增强算力支撑。

搭载第五代英特尔 至强 可扩展处理器

性能更进一步

第五代英特尔 至强 可扩展处理器强化单核及整体性能,兼顾通用计算与 AI 加速,搭载第五代英特尔 至强 可扩展处理器的 ECS g8i 实例整体性能都更进一步:

从关键参数上看,L3 缓存容量提升到 320MB,内存速率高达5600MT/s,整机性能提升85%,单核性能提升 25%;

存储方面,ESSD 云盘提供100万 IOPS,全面搭载 NVMe,存储延迟低至百微秒;

网络方面,PPS 高达 3000万,标配阿里云自研 eRDMA 大规模加速能力,时延低至 8 微秒;

安全方面,ECS g8i 实例支持可信计算与加密计算等特性,全球率先支持机密虚拟机 TDX 技术

面对现在生成式 AI 浪潮,搭载第五代英特尔 至强 可扩展处理器的阿里第八代企业级实例 g8i 基于通用计算有力迎接 AI 大模型推理的挑战,为 AI 工作负载加速,通过内置英特尔 AMX,AI 推理性能最高提升7倍。对于中小参数模型,g8i 起建成本下降 50%,对于超大模型,g8i 可胜任高达 72B 超大语言模型的推理。

英特尔中国数据中心和人工智能集团至强客户解决方案事业部总经理李亚东表示:

最新上市的第五代英特尔 至强 可扩展处理器每个内核均内置 AI 加速功能,完全有能力处理要求严苛的 AI 工作负载。与上代相比,其 AI 训练性能提升多达 29%,AI 推理能力提升高达 42%。我们希望借由阿里云第八代企业级实例(ECS g8i)共同助力开发者实现技术普惠,让 AI 技术无处不在。

审核编辑:汤梓红
 

处理器

打开APP阅读更多精彩内容
声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉

全部0条评论

快来发表一下你的评论吧 !

×
20
完善资料,
赚取积分