英特尔FPGA 助力Microsoft Azure机器学习提供AI推理性能

电子说

1.2w人已加入

描述

新特性:在近日举行的 Microsoft Build 大会上,Microsoft推出了 基于 Project Brainwave 的 Azure 机器学习硬件加速模型,并与 Microsoft Azure Machine Learning SDK 相集成以供预览。客户可以使用 Azure 大规模部署的英特尔® FPGA(现场可编程逻辑门阵列)技术,为其模型提供行业领先的人工智能 (AI) 推理性能。

“作为一家整体技术提供商,我们通过与 Microsoft 密切合作为人工智能提供支持。人工智能适用于从训练到推断,从语音识别到图像分析等各种使用场景,英特尔拥有广泛的硬件、软件和工具组合,可满足这些工作负载的需求。”

-- Daniel McNamara,英特尔公司副总裁兼可编程解决方案事业部总经理

意义:数据科学家和开发人员可以在全球最大的加速计算云中轻松地使用深度神经网络 (DNN) 处理各种实时工作负载,应用的领域涵盖制造、零售和医疗领域等。不论是在云计算还是边缘计算中,他们都可以利用英特尔FPGA来训练模型,并将其部署到 Project Brainwave上。

重要性:Project Brainwave使用英特尔 FPGA来提供实时人工智能,释放了可编程硬件的潜能并展示了人工智能的未来。基于 FPGA 的架构具有高吞吐和经济节能的特点:比如可以运行 ResNet 50——这是一种行业标准的 DNN,需要近 80 亿次计算——而无需批处理。AI 客户无需在高性能和低成本之间进行选择。

操作方法:通过使用 Azure Machine Learning SDK for Python,客户可以重新训练基于 ResNet 50 的模型及其数据,专门处理图像识别任务。

对于实时 AI 工作负载,由于计算强度较高,因此需要专用的硬件加速器。英特尔 FPGA 支持 Azure 针对任务配置硬件,以实现峰值性能。

微软公司杰出工程师 Doug Burger 表示:“客户现在可以利用英特尔 FPGA 和英特尔至强技术,在云端和边缘使用微软的一系列 AI 突破性技术。这些新功能支持将 AI 集成到实时处理流程中,以利用 Microsoft Azure 和 Microsoft AI 的强大功能推动业务转型。”

用户可以根据 Azure 工作负载的特定要求进一步完善 FPGA 或完全改变其用途。采用英特尔 FPGA 和英特尔® 至强™ 处理器开发的 Azure 架构支持根据用户的定制软件和硬件配置条款,通过加速 AI 实现创新。

Project Brainwave 的限量预览版现已提供,用户可在本地访问 Microsoft 设计的基于英特尔 FPGA 的系统,后者充当 Azure IoT Edge设备并连接到 Azure IoT Hub。

打开APP阅读更多精彩内容
声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉

全部0条评论

快来发表一下你的评论吧 !

×
20
完善资料,
赚取积分