[译] [转]Maxim推出低功耗NN加速器芯片，AI边缘计算的“嵌入式革命”

今天早上，Maxim Integrated发布了其最新产品，一种低功耗NN加速器芯片，希望将AI推向边缘。我们采访了Maxim Integrated Micros，安全和软件业务部执行总监Kris Ardis，以获取详细信息。

人工智能和物联网似乎是天造地设的一对，但要完美结合这两种技术还需要克服许多障碍。通常，物联网是一种低功耗，电池供电的技术。另一方面，人工智能，特别是卷积神经网络（对于机器视觉来说是必不可少的），在计算上非常昂贵。 

边缘计算可提供实时数据处理。图片由计算理论提供

为了克服这些挑战，通常的做法是将计算卸载到云中。但是，这带来了大量延迟和安全性问题。例如，无人驾驶汽车需要尽快做出实时决策。它根本承受不起等待数据发送到云，进行计算并返回的费用。 

但是嵌入式设备呢？Maxim Integrated Micros，安全性和软件业务部执行总监Kris Ardis认为，目前，小型嵌入式设备“没有进行AI革命的其余部分”。

“他们看不到也听不到，这比简单的单词要多得多，” Ardis解释说。“这就是我们要填补的空白：我们如何才能将更多的AI承诺带入嵌入式世界？”

一种新的解决方案：Maxim Integrated的NN加速器芯片

为了回答这个问题，Maxim Integrated转向了用于人工智能的低功耗，高性能芯片。今天早上，该公司宣布了其最新产品：神经网络加速器芯片，旨在在电池供电的IoT设备中实现AI。 

新芯片MAX78000包括两个超低功耗内核-Arm Cortex-M4内核或RISC-V内核-一个基于FPU的微控制器和一个卷积神经网络加速器。Ardis评论说：“ RISC-V在那里，因为它是一种在进入加速器之前必要时对数据进行按摩的低功耗方法。”

从性能的角度来看，Maxim声称具有一些令人印象深刻的规格，特别是在功耗和延迟方面。

MAX78000的简化框图。图片由Maxim Integrated提供

关于能源，该公司表示MAX78000提供：

• 运行MNIST时的能耗降低1100倍

• MNIST的延迟提高了400倍

• 与低功耗Cortex M4F相比，关键字发现期间的能耗低600倍

• 与96 MHz Cortex M4F相比，关键字发现的效率提高了200倍

让我们深入研究如何准确地达到这些规格。

MAX78000的核心：神经网络加速器 

此SoC中最独特的功能是神经网络加速器，它是专用硬件，旨在最大程度地减少卷积神经网络（CNN）的能耗和等待时间。 

根据Ardis的说法，所采用的体系结构是完全专有和新颖的。它的设计目标是最大程度地减少数据移动，众所周知，这是对片上能量的巨大负担，尤其是在处理CNN链中的复杂数学配置时。

此外，该加速器（支持TensorFlow和Pytorch等机器学习领域中的常用工具）旨在提高数学并行度，优化能源消耗并显着减少推理时间。

重要功能块概述。图片由Maxim Integrated提供

系统操作的另一个特征是微控制器的介入最少。一般而言，此架构中的MCU用于配置网络，加载数据并启动它。MCU完成其最初的工作后，它基本上就摆脱了阻碍。事实证明，这对于提高能源效率也极为重要。 

该设备还可以在执行之前加载数据，从而消除了在推理过程中访问内存的需求，从而降低了能耗并改善了延迟。Ardis说：“不需要外部存储器，这实际上是我们节省能源的方法之一。所有存储器都在芯片上。”

物联网的游戏规则改变者？ 

随着对低功耗，高性能AI芯片的需求不断增加，这一消息在IoT领域似乎极为重要。

新的NN加速器的描述。图片由Maxim Integrated提供

 

根据Maxim Integrated的说法，该设备可能为系统提供了在边缘执行实时决策的能力（比基于云的计算更快），并且无需担心安全性。

通过将AI带到边缘设备，该设备可以启用新的应用程序，例如毫秒之内的面部ID或数据处理助听器。这样，MAX78000可能是“切断嵌入式设备电源线”的重要一步。

Ardis表示希望MAX78000能够朝着“嵌入式革命”的道路迈进，类似于嵌入式旋转微控制器的类型。他说：“在使用微控制器之前，没有人考虑过微控制器的所有功能。现在，我至少要戴两个。”

“这就是我们认为边缘技术的AI将会变成的东西，希望我们将成为引领潮流的人之一。”