Ampere创新产品助力释放数智应用潜能

描述

11 月 18 日,Data & AI Con Shanghai 2023在上海成功举办。本次大会以“数智云聚 万象创生”为主题,汇聚了众多顶级技术专家,包括来自开源软件、工业界、产业界以及学术界的代表,共探数据科技和人工智能领域的最新趋势,助力千行百业加快实现数字化转型。作为本次大会的铂金赞助商,Ampere Computing亮相本届大会,并发表了两场精彩演讲,与现场观众共聚“数智”狂欢!

创新产品

助力释放数智应用潜能

在展台上,Ampere 向观众们介绍了高性能、低能耗的 Ampere 云原生处理器如何为AI、大数据、Web 应用、数据库及转码(Transcoding)等工作负载提供高效赋能,吸引了众多参会者驻足参观。

随着 AI 技术及应用的深入发展,数据中心对算力、能耗的需求迅速飙升,如何应对算力和能耗带来的挑战,促进 AI 可持续发展已成为行业热门议题。Ampere Altra 系列云原生处理器与传统 x86 处理器相比,在 AI 推理方面拥有显著的性能优势,针对计算机视觉工作负载,性能最高可提升 4 倍*;针对常见的NLP 工作负载,每瓦性能最高可提升 3 倍*。

精彩演讲

诠释数智发展“芯”趋势

推动人工智能领域发展和助力数据科技产业进步,需要开放、高效、高性能、可持续的“芯”力量来提供支撑。相较于成本高、能耗大的传统 x86 处理器,高能效、高性能的 Ampere 云原生处理器是 AI 推理应用的理想选择。

在本次大会上,Ampere 中国区产品市场总监孙开本和 Ampere 资深平台应用工程师黄滨带来了两场精彩演讲,诠释了 Ampere 创新解决方案如何为 AI 发展提供高效、可持续的“芯”助力。

Ampere 中国区产品市场总监孙开本在演讲中强调:

云原生处理器是创新的 CPU 架构,为 AI 推理提供了高效可靠的新选择,可替代高成本、高能耗的传统 x86 处理器。为 AI 应用程序配置适度算力,可以选择用 CPU-Only的方式,或是将云原生处理器的能效、可扩展性和计算性能与 GPU 的并行计算能力相结合。

为了实现更高效能、更高价值的 AI 解决方案,可遵循三项准则:一是仅部署满足应用程序性能需求的计算资源,并尽可能多地使用通用处理器而非专用处理器,以保持灵活性并满足未来的计算需求;二是借助 Ampere 云原生处理器带来的性能优势,在 CPU-Only 的情况下部署更广泛的 AI 工作负载;三是将 GPU 与云原生处理器相结合,更高效地处理任务更繁重的 AI 训练或 LLM 推理工作负载。

Ampere 资深平台应用工程师黄滨表示:

凭借 Ampere 云原生处理器的强大核心数和硬件 FP16 向量加速能力,再结合 Ampere AI 软件加速引擎,Ampere 云原生处理器展现出比肩主流 x86 架构的 CPU-Only 推理性能,同时提供更出色的性能功耗比。

此外,Ampere AI 软件加速引擎为用户提供了对 PyTorch、ONNX、TensorFlow 等主流AI框架的支持和镜像下载,并使用与原生框架相同的 API 接口。用户无需进行额外的迁移适配,只需通过 AI 软件加速引擎镜像,即可在 Ampere 云原生处理器上体验开箱即用的 AI 推理加速效果。

随着各行各业的数智化进程不断加速,云计算和 AI 将成为推动数字经济高质量发展的重要引擎。Ampere 将持续引领行业发展,秉持着对性能与可持续发展的坚定承诺,与客户、合作伙伴携手,共同构建绿色、可持续发展的 AI 未来。

  审核编辑:汤梓红
 
打开APP阅读更多精彩内容
声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉

全部0条评论

快来发表一下你的评论吧 !

×
20
完善资料,
赚取积分