关于TinyML概念的介绍

在本文中，我们将分析采用资源受限低功耗微控制器实施机器学习的概念，这种概念或者统称为 TinyML。机器学习不断深入到我们日常生活的许多方面，无论是在家庭，还是办公室，还是在两者之间。虽然许多机器学习应用需要强大的计算能力来处理复杂的科学或金融数据，但那些为物联网 （IoT） 和其他基于网咯边缘应用而设计的机器学习只需要少量的计算和连接能力。

已经深入我们生活的人工智能和机器学习

不久前，与我们的手表或星际迷航通讯器（Star Trek Communicator）交谈只是科幻小说作家的幻想，但今天我们中的许多人却可以经常这样做。我们能够与智能手机的App交流，同样能够与我们汽车的信息娱乐系统以及我们家中的“智能扬声器”互动。

人工智能 （AI） 是一门创造能够思考、感知、识别和解决问题计算机的科学，而且已成为当今计算机和数据科学领域的基础。机器学习 （ML） 是 AI 的一个应用领域，专注于通过算法使计算机能够学习和改进如何执行任务，而无需明确编程来完成这些。

今天，我们周围的大部分世界已经被机器学习所塑造，从天气预报以及日常通勤寻找最佳路线，到大家最喜欢的社交媒体App上的促销广告，许多科学研究领域都依赖机器学习来处理 PB 级的数据以找出大的趋势。

机器学习如何工作

在上面讨论的机器学习示例中，我们通常只会见到结果。通常情况下，我们看不到寻找新黑洞的复杂过程，或用于确定今天天气预测的过去天气事件排列数量。许多复杂的任务涉及大型数据集合、多个候选算法和强大的计算能力。深入研究机器学习，您会发现不同类别的学习，每一种都适合特定的任务。我们将不会在这里深入介绍这些，但它们可分为监督学习、无监督学习、半监督学习的和强化学习。

神经网络是所有机器学习应用的关键组成部分。一般来说，神经网络的目标是在数学模型中复制人脑中神经元的功能，该模型使用特定算法来推断结果的概率。例如，在图像识别任务中，图片是狗的概率为 95%。业内有不同类型的神经网络，您会遇到诸如卷积神经网络 （CNN） 和循环神经网络 （RNN） 等术语，每种神经网络都有一组不同的互连层，使其更适合特定任务。

监督学习涉及向神经网络教授大量训练数据，以便能够通过算法推断出结果。例如，对于图像识别任务，CNN 是最好的。要识别不同类型的水果，需要向神经网络算法“输入”数千张从不同角度拍摄，并具有不同成熟度的不同水果标记图像。然后，该算法会寻找可识别的特征，以帮助它分辨出一种水果和另一种水果的差异。训练阶段为迭代式，并且可能涉及调整算法以便在遇到图像测试数据集时实现最高概率。

图 1：训练和推理步骤。（来源：贸泽电子）

一旦测试数据达到最佳的神经网络算法性能，模型就可以部署。在部署中，也称为推理，模型会基于概率推断结果。

例如，我们与智能扬声器的日常互动通常涉及一个触发词或短语，例如“嘿，谷歌”来唤醒它，以便它开始收听接下来会发生什么。智能扬声器不具备数据中心的计算能力，因此只会记录简短的音频文件并将其传输到云端进行推理，以确定我们请求的性质。检测触发词或短语是简单机器学习的一个很好例子；欢迎来到 TinyML！

机器学习和工业物联网

鉴于机器学习已经变得无处不在，其潜在应用也呈现出指数级增长。例如，许多工业应用并不关注“大数据”应用，而目标是如何提高生产线的效率。生产过程中意外故障造成的成本损失可能很高，例如，冷冻食品混合过程中的马达故障可能会引发生产停止，从而导致原材料损失。许多机构现在采用预测性维护制度来安排有计划的停机时间，以防止此类故障发生。对马达和执行器等生产设施可进行基于状态的监控，这样有助于预测马达轴承何时开始出现过度磨损。工业物联网边缘传感器设备采用机器学习算法可以识别马达的振动特征，并可判断何时偏离标准，以提供足够早的警告。

仅仅在工业领域内考虑，机器学习的应用机会也非常巨大，但随之而来的则是一些技术挑战。与“大数据”应用不同，简单工业物联网边缘传感器的计算和内存资源只是数据中心可用资源的一小部分。一家工厂可能有数百个传感器，因此规模经济是一个因素，物理尺寸、合适可用的电源以及有线或无线连接也是需要考虑的因素。然而，在大多数情况下，振动传感器中涉及的神经网络算法要求远低于深太空研究，因此嵌入式开发人员正在探索在电池供电的低功耗微控制器上运行网络模型的方法。

用于网路边缘机器学习的TinyML

用于训练神经网络模型的计算平台不需要与部署相同，消除了资源最密集的过程之一。然而，技术挑战仍然存在。算法能否及时运行？设备将如何与主机系统通信以通知操作人员？嵌入式开发人员也面临挑战。大多数人不是数据科学家，因此学习机器学习的概念和使用神经网络呈现出较大的学习难度。

传统上看，选择合适的神经网络模型、训练模型并对其进行调整以进行部署的过程非常复杂。然而，已经有越来越多的机器学习库、框架和工具，这些可以极大地简化在微控制器上开发和部署神经网络。无论您希望实现何种基于网路边缘的应用，随着专门为 TinyML 应用设计的 AI/ML 资源数量不断增加，您随时可以得到所需的支持和帮助，而且您可能会发现贸泽电子的一些机器学习项目示例很有帮助。 AI/ML 正在成为工业数字化转型的重要组成部分，尤其在基于边缘的工业应用中不断发展并越来越受欢迎