安晟培半导体通过AI推理应用程序进一步增强 Ampere Altra 的性能

描述

中国,北京(2021 年 8 月 5 日)——安晟培半导体科技有限公司(Ampere Computing)日前宣布收购AI技术初创公司 OnSpecta,该收购将助力 Ampere 通过 AI 推理应用程序进一步增强 Ampere Altra 的性能。

相较于常用的基于 CPU 的机器学习(ML)框架,OnSpecta 深度学习方案(DLS)的 AI 优化引擎可带来显著的性能提升。目前,两家公司已开展合作,在基于 Ampere 的实例上运行了流行的 AI 推理工作负载,并展示了超过四倍的加速。此次收购将包括一个优化的模型集合(model zoo),包含对象检测、视频处理和推荐引擎等功能。

“很高兴 OnSpecta 团队加入 Ampere。借助他们在深度学习领域的专业积累,Ampere 将推出更强大的推理任务处理平台,提供更低的能耗、更强的性能、更高的可预测性。此次收购也凸显了我们致力于为云和边缘部署的客户提供差异化的云原生计算平台的承诺。”

据 IDC 研究显示,到 2024 年,AI 服务器市场市值预计将超 260 亿美元,年增长率将达 13.7%。在中心和边缘的基础架构中,Ampere 的客户正在寻找解决方案,以管理 AI 推理任务成本和不断增长的需求。

OnSpecta 的 DLS

DLS 为无缝二进制 drop-in 库,适用于多 AI 框架,可大幅提升 Ampere Altra 上的推理速度。它支持使用 Altra-native FP16 数据格式,该格式可将 FP32 格式的性能提高一倍,且不会显著降低精度,也无需重新对模型进行训练。

“本次收购是我们双方通力合作后水到渠成的结果。加入 Ampere 后,我们将进一步助力 Ampere Altra 取得更大的成功,为客户提供关键支持,让 Altra 产品系列更好地用于各种 AI 推理用例。”

“在Oracle OCI Ampere A1 实例上,Ampere Altra 和 OnSpecta 所展现的强大性能和易用性有目共睹。凭借 DLS 在所有主要开源 AI 框架(包括 Tensorflow、PyTorch 和 ONNX)上的兼容性,以及 Ampere Altra 可预测的性能,OCI Ampere A1 将在 AI 推理工作负载中继续开拓创新。”

依据惯例,此次收购将于 8 月完成,具体交易条款未披露。

关于 Ampere

凭借世界上首款云原生处理器,Ampere 致力于塑造超大规模云计算和边缘计算的未来。应云而生的Ampere 通过新一代的 64 位 ARM 服务器架构,助力客户迅速地定制与交付各种云计算应用。行业领先的云性能、出色的能效和灵活的扩展性,Ampere 新一代处理器完美契合了云计算和边缘计算日新月异的发展需求。

关于 OnSpecta

OnSpecta 深度学习方案(DLS)极大加速了云及边缘中的 AI 推理工作负载。公司总部位于加利福尼亚州红木城,创始人为 Indra Mohan(首席执行官)和 Victor Jakubiuk(首席技术官)。投资者包括 Sage Hill Capital Partners、WestWave Capital、BMNT 和 GoingVC Partners。

原文标题:Ampere 收购 OnSpecta,加速对云原生应用程序的 AI 推理

文章出处:【微信公众号:安晟培半导体】欢迎添加关注!文章转载请注明出处。
       责任编辑:pj

打开APP阅读更多精彩内容
声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉

全部0条评论

快来发表一下你的评论吧 !

×
20
完善资料,
赚取积分