意法半导体STM32Cube.AI和NanoEdgeAI，全面支持边缘AI部署！

电子发烧友网报道（文/李弯弯）十年前，深度神经网络模型多还是在云端执行，而如今已经越来越多地向边缘侧转移。从目前的趋势来看，边缘人工智能将成为主流，调研机构数据显示，到2030年，深度端侧AI设备的全球出货量将达到25亿台。
 
意法半导体在边缘人工智能领域耕耘多年，在5月12-13日举办的主题为“STM32 不止于芯”的第六届STM32中国峰会上，意法半导体中国通用微控制器市场部丁晓磊主题演讲中，详细介绍了意法半导体在边缘人工智能领域的软硬件布局。
 
在边缘AI领域，ST可以提供哪些软硬件支持
 
由于具备超低时延、低数据带宽、隐私性和安全性高等优点，边缘人工智能可以为很多领域提供价值，比如：一、工业预测性维护，包括条件检测、预测性维护等；二、控制系统，从家电到工业机器；三、物联网，包括智慧城市、智慧楼宇、智慧家庭和工业自动化等。
 

 
那么，在边缘人工智能领域，意法半导体可以提供哪些支持呢？据丁晓磊介绍，在硬件层面，首先是STM32 MCU，意法半导体所有MCU，都有工具能够支持它跑所有主流的神经网络模型，包括意法半导体最新发布的STM32N6，它是一颗带有神经网络硬件处理单元的MCU；其次提供开发板支持，包括意法半导体自己的开发板，以及很多第三方合作伙伴的开发板。
 
在软件工具层面，意法半导体可以提供非常多、好用的开发工具，用来帮助开发者把人工智能模型部署到硬件端，包括NanoEdge AI和Cube.AI；除了这些开发工具之外，还有模型库Model zoo，这里面有很多预训练的模型，可以用来做进一步的人工智能开发；此外，还有各种软件包，Function Packs，可以帮助开发者更好的做模型训练、优化，进行整个流程的部署。
 
ST的产品目前已经有相当多的成功案例，在工业自动化、智能交通、智慧城市、可穿戴、智慧家庭等领域，都有很多边缘人工智能的实际应用案例。
 

 
这个案例（上图），最终产品形态是一个震动检测的盒子，用于在工业领域做故障检测，这里面有用到STM32的MCU，盒子里面还有震动传感器。这个盒子，通过震动传感器的数据，再通过NanoEdge AI这样的边缘AI算法，来实现整个设备的异常检测。
 

 
这是电器解决方案中断路器的预测性维护的案例，里面用到的是STM32G4，它用到电流、震动传感器，做异常检测和分类，能够更好的做断路器老化的预测。
 
丁晓磊强调，在这些NanoEdge AI的使用案例中，值得一提的是，并不需要海量的数据，对于使用的公司来说，也并不需要重新请一位AI算法工程师。NanoEdge AI是一个对嵌入式开发工程师非常友好，能够很快上手的工具。
 

 
还有一个支流拉弧检测的应用案例，用的是Cube.AI，这里面采用的是STM32U5。不过丁晓磊表示，很多STM32型号都可以胜任这个工作，做一些异常检测。相比于传统方案，它可以减少拉弧的误报率，提高准确性，并且提升在噪声环境下的适应性。
 

 
ST的软件工具都可以应用在哪些芯片上呢？丁晓磊介绍，NanoEdge AI和Cube.AI是做全线支持的，可以用在ST整个的产品线上（如上图）。开发者可以把所有主流框架的模型，只要能够转换出足够小的代码，就可以在任何STM32 MCU上部署。另外，ST还有一颗MPU，双核，里面有一颗Cortex-M4内核，NanoEdge AI和Cube.AI两个平台同样对这颗MPU支持。
 
Cube.AI和NanoEdge AI具备哪些优秀的功能
 
Cube.AI和NanoEdge AI这两款软件工具有哪些优秀的功能呢？Cube.AI，它是一个能够很快评估、转换、和部署机器学习或深度神经网络在STM32 MCU上的工具。也就是，它的输入是已经被训练好的神经网络模型或机器学习模型，它的输出是可以运行在STM32上的代码。
 

 
Cube.AI不仅仅是一个转换工具，它里面有非常多、非常好的优化功能，能够让代码量非常小，使其能够更优化的部署在STM32上。据丁晓磊介绍，Cube.AI，能够支持所有主流的AI框架，比如TensorFlow Lite、Carrots、Pytorch、ONNX等，还有一些Machine Learning算法。
 

 
Cube.AI工具有两个版本：一个是STM32Cube.AI，是原本的PC版本，为STM32准备的AI转换和优化，可以直接在自己的PC上使用；一个是STM32Cube.AI开发云，是最新的线上AI服务器，也就是ST在开发者云上部署好，只要用开发者云，就可以直接用这个工具。
 
STM32Cube.AI开发云版本，有一个工程师很欢迎的功能，就是它有一个在线的开发板推理时间的评估功能。丁晓磊表示，ST实际上有一个服务器，后面连了很多真实的STM32的开发板。使用者可以非常快知道，自己训练好的模型，在这个开发板上内存占用够不够，评估推理时间。在很多应用里，对推理时间是有明确要求的。为了很快得到推理时间，使用者可以非常方便地用在线的开发者云很快评估一个训练好的模型。
 

 
NanoEdge AI软件工具，面向嵌入式开发者提供一体化的机器学习方案。从刚开始的数据收集、模型选择、数据训练，到生成模型、优化部署，它是一个从头到尾整个支持机器学习优化部署的工具。它的优势是，不需要非常大的数据量，又有比较高的内存占用效率。
 
有一个洗衣机应用案例，这个洗衣机的称重精准度是100g，如果不用AI算法，业界普通的称重精准度是300g到500g。这个100g的算法是如何实现的呢？它就是用了NanoEdge AI这个软件工具来实现的，NanoEdge AI这个工具需要的数据信号，就是洗衣机本来电机里面的电流的特征信号，不需要再增加额外的传感器去实现这个功能。
 
而且它的Flash和SRAM大概都只有10KB左右，意味着你可以在原有的MCU里面增加一点空间，就能实现非常好的精准度，非常高的称重检测。这就是这个工具比较好的优势。
 
据丁晓磊介绍，客户有越来越多的算法用例需求，用于创造更多智能产品。比如：1、希望设备能够自主适应目标环境并检测异常状态；2、想检测任何的异常值；3、想根据信号来检测发生的问题的类型；4、想预测何时会达到特定的振动水平，以便在达到该极限之前有时间采取纠正措施。而NanoEdge AI就可以为客户解决这些问题。
 
小结
 
凭借诸多优势，如今边缘人工智能逐渐在各个领域中得到应用，甚至说，具备AI能力会成为越来越多产品的标配。意法半导体的STM32 MCU，以及Cube.AI和NanoEdge AI软件工具，可以帮助开发者方便快速地将训练好的模型部署到终端设备上，实现所需要的智能化功能。