工程师说 | 引入DRP-AI TVM以简化AI模型的实施

瑞萨电子 2023-05-11 359

描述

您在嵌入式设备中实施人工智能模型时是否遇到困难？本篇文章将为您介绍DRP-AI TVM，它简化了AI模型的实现。

近年来，人工智能已经在监控摄像头、交通监控系统、机器人和无人机等嵌入式设备中得到实施。与云环境不同，嵌入式设备在实现人工智能方面有很多困难，比如要考虑HW性能、成本和功率限制。通过使用RZ/V系列AI-MPU和瑞萨的低功耗AI加速器DRP-AI，可以解决大部分HW实施的挑战。

当客户在我们的AI-MPU上实现AI模型时，他们使用DRP-AI翻译器，将AI模型转换为DRP-AI可执行文件，但一些客户指出，这很难实现，有两个主要原因：

DRP-AI翻译器支持的唯一AI模型格式是ONNX。

如果模型包含DRP-AI翻译器不支持的运算符，则不可能进行转换。

到目前为止，瑞萨一直要求客户自行处理此类情况，这对一些客户来说是一种负担。我们相信，解决这些问题将提高客户的便利性，并发布了新的DRP-AI TVM。

DRP-AI TVM是一个开源的ML编译器Apache TVM，支持DRP-AI。自动将DRP-AI翻译器不支持的操作者分配给CPU，使其更容易支持更多的AI模型。它还可以处理ONNX以外的AI框架格式。此外，DRP-AI能够以与传统DRP-AI翻译流程相同的方式处理AI推理的预处理，从而提高包括预处理在内的总的AI性能。

DRP-AI TVM的配置

用DRP-AI TVM对AI模型操作员

进行自动CPU分配

DRP-AI TVM可在GitHub上使用，方便客户访问。GitHub包含教程、示例代码、各种人工智能模型的性能评估结果以及其他足以让客户使用产品的信息。这些教程包括在瑞萨评估板上从构建环境到推理的步骤，客户可以通过这些步骤轻松评估他们的人工智能模型。瑞萨将继续改善用户体验，使客户更容易使用瑞萨的产品。

参考资料

DRP-AI TVM由Edgecortix MERATM编译器框架提供支持，DRP-AI的更多内容请点击文末阅读原文查看介绍页

Apache TVM网站

https://tvm.apache.org/

RZ/V系列介绍

https://www.renesas.cn/cn/zh/products/microcontrollers-microprocessors/rz-mpus/rzv-embedded-ai-mpus

Renesas info wiki RZ/V系列

https://renesas.info/wiki/RZ-V

DRP-AI TVM GitHub

https://github.com/renesas-rz/rzv_drp-ai_tvm

DRP-AI TVM教程

https://www.renesas.cn/cn/zh/application/key-technology/artificial-intelligence/ai-accelerator-drp-ai/ai-tool-drp-ai-tvm

EVK购买链接：

• RZ/V2L评估板套件

https://www.renesas.cn/cn/zh/products/microcontrollers-microprocessors/rz-mpus/rzv2l-evkit-rzv2l-evaluation-board-kit

• RZ/V2M评估板套件

https://www.renesas.cn/cn/zh/products/microcontrollers-microprocessors/rz-mpus/rzv2m-evkit-rzv2m-evaluation-board-kit

• RZ/V2MA评估板套件

https://www.renesas.cn/cn/zh/products/microcontrollers-microprocessors/rz-mpus/rzv2ma-evaluation-board-kit-rzv2ma-evaluation-board-kit

END

瑞萨电子 (TSE: 6723)

科技让生活更轻松，致力于打造更安全、更智能、可持续发展的未来。作为全球微控制器供应商，瑞萨电子融合了在嵌入式处理、模拟、电源及连接方面的专业知识，提供完整的半导体解决方案。成功产品组合加速汽车、工业、基础设施及物联网应用上市，赋能数十亿联网智能设备改善人们的工作和生活方式。更多信息，敬请访问renesas.com

原文标题：工程师说 | 引入DRP-AI TVM以简化AI模型的实施

文章出处：【微信公众号：瑞萨电子】欢迎添加关注！文章转载请注明出处。

打开APP阅读更多精彩内容