OpenVINO™ 2022.3 LTS中有哪些新特性?

描述

01

LTS 版本和其它版本的区别是什么?

在软件行业中,LTS 版本的重点是扩展或整合同一产品的先前版本中已经引入的功能,并保证对这些功能的长期支持。从正式发布之日起,它为 AI 开发者提供了一年的 Bug 修复和两年的安全补丁。

尽管为这种稳定性和寿命付出的代价是,此类版本在其整个生命周期内没有额外的功能,但好消息是,OpenVINO 今年引入的所有新功能都将包含在 2022.3 LTS 版本中。这些功能包括动态输入、自动批处理、性能优先、AUTO 插件以及对英特尔新的独立显卡(英特尔 锐炫 和 Flex 系列)以及第6代至第13代英特尔 酷睿 处理器的支持。

LTS 版本还包括新的 API 2.0,它于今年早些时候在 OpenVINO 2022.1 中引入,旨在使 AI 开发者更容易采用和维护代码。

02

OpenVINO 2022.3 LTS 中有哪些新特性?

除了集成、稳定且经过良好测试的 2022 工具套件更新版本外,OpenVINO 2022.3 LTS 还支持更多的深度学习模型和设备。

AI 开发者将发现更广泛的对于基于 transformer 的自然语言处理(NLP)模型的支持,如 GPT 和 OpenAI Whisper,以及其它模型的支持,如 Stable diffusion(图1);改进了可移植性和性能提升;与 Hugging Face Optimum 集成;加入了新 Jupyter notebook 示例教程,如 YOLOv7、样式转换(图2)和 3D 点云分割(图3)的;以及更多。

例如,蝴蝶部分在雪山上。

GPT

图2. 给定图片运行样式转换

GPT

图3. 使用 OpenVINO 以消耗点云数据

并执行推理 3D 分割可视化

03

这个版本提供哪些硬件支持?

在硬件方面,简而言之,OpenVINO 2022.3 LTS 在更多 GPU 上运行得更快、更智能。这里面完整的故事是关于所有受支持的 CPU 和 GPU 的性能提升,与自动设备发现和负载平衡、动态推理并行性以及添加到 AUTO 功能中的计算模式选择携手并进,使多个加速器(例如,多个英特尔 Data Center GPU Flex 系列)能够同时使用,以最大化推理性能。

最重要的是,我们很高兴与大家分享 OpenVINO 2022.3 LTS 正式完全支持英特尔 独立显卡!

04

为什么支持英特尔 独立显卡是大新闻?

这是 OpenVINO 首次为在英特尔独立显卡上运行推理工作负载提供黄金级支持。凭借五年多在英特尔 图形处理器(或“ iGPU ”)上优化、测试和部署推理的经验,这只是漫长旅程中的最后一步,它成功地将 OpenVINO 带到了可广泛适用于台式机、笔记本电脑和服务器的许多价格合理的 GPU 上去运行 AI 推理。

05

OpenVINO 2022.3 LTS 会破坏你现有的 AI 代码吗?

如果该代码已编写或已移植到新的 API 2.0,则不会。

如果您计划在 2023年升级到 OpenVINO 的未来版本以利用新功能,请记住,这些功能和优化不会被移植到2022.3 LTS版本。对于生产部署,我们建议保持最新的OpenVINO 2022.3 LTS 版本,直到2023年的新功能在明年的LTS中稳定下来。

06

什么时候升级以及最佳的升级方式是什么?

我们建议希望快速开发和部署高性能 AI 应用程序的每个人都使用 OpenVINO 2022.3 LTS。但是,无论出于何种原因,如果这是不可能的,并且您不想或不需要利用全年发布的所有优秀的功能,则上一个 LTS 版本 OpenVINO 2021.4 LTS 将在 2024 年之前获得安全补丁的支持。

在决定时,非常重要的一点是要记住,LTS 版本是我们在很长一段时间内通过 dot 版本提供官方错误修复和安全补丁的唯一版本。

你可以通过以下命令升级到 OpenVINO 2022.3 LTS 版本:

pip install --upgrade openvino-dev

但请确保检查所有依赖项,因为升级可能会更新 OpenVINO 以外的其他软件包。




审核编辑:刘清

打开APP阅读更多精彩内容
声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉

全部0条评论

快来发表一下你的评论吧 !

×
20
完善资料,
赚取积分