除英伟达Jetson系列外，AI边缘计算盒子还能搭载哪些算力芯片

电子发烧友网报道（文/李弯弯）过去几年，随着英伟达推出Jetson系列开始，搭载各种AI算力芯片的边缘设备相继问世。因为外观形似盒子，具备算法推理能力，为区分一般传统工控机，行业多称之为边缘盒子，AI Box，算法盒子等。
 
随着算法的丰富和多样，边缘盒子已广泛应用于连锁门店，加油站、化工厂、工地、厂区、电力系统、电信机房、智能安防、智慧社区、校园、景区、园区等场景，快速实现对检测、分类、分割和特征提取等视觉算法的支持。
 
AI边缘计算盒子搭配哪些算力芯片
 
AI边缘计算盒子通常可以搭配多种AI算力芯片，具体取决于其设计目标、应用场景以及性能需求。如GPU，虽然GPU最初是为图形渲染而设计的，但它们现在也被广泛用于深度学习和其他AI任务。GPU具有大量的并行处理单元，可以高效地执行矩阵运算，这对于神经网络训练和推理非常有用。
 
如NPU，NPU专门设计用于执行神经网络计算，特别是深度学习任务。它们通常具有高并行度、低功耗和优化的浮点运算能力，非常适合在边缘计算设备上部署和运行复杂的AI模型。
 
还有ASIC、FPGA、CPU等，ASIC是为特定应用定制的芯片，对于某些特定的AI任务，ASIC可以提供极高的性能和能效比。FPGA是一种可编程的芯片，用户可以根据需要配置其逻辑功能。CPU虽然不是专门为AI任务设计的，但它们仍然是边缘计算设备中的关键组件。现代的CPU通常包含一些用于加速AI任务的指令集和特性。
 
具体到某个AI边缘计算盒子，它可能搭载上述的一种或多种芯片。例如，某些盒子可能采用高性能的NPU和GPU的组合，以提供强大的AI计算能力。
 
目前市面上众多AI边缘计算盒子采用英伟达Jetson系列。AI边缘计算盒子搭配英伟达的Jetson系列是一个强大的组合，能够将深度学习和计算机视觉的能力直接带到边缘设备，实现实时的数据处理和分析。
 
英伟达的Jetson系列包括多种模块和平台，如Jetson Xavier NX、Jetson Orin NX、Jetson AGX Orin等，它们都具有高性能的GPU和专用的AI加速核心，可以快速处理图像和视频数据，为边缘计算提供强大的算力支持。
 
如，研智科技基于英伟达Jetson Xavier NX系统开发了边缘智能AI-BOX产品WES-WNX00-3220系列。这款产品适合嵌入式和边缘系统中的高性能计算和AI应用，是并行运行多个现代神经网络、同时处理来自多个传感器的高分辨率数据的首选平台。
 
图为科技提供基于Jetson AGX Orin的TW-T906智盒，AI算力高达200TOPS，专为低速自动驾驶而生，可广泛应用于无人配送车、无人环卫车、智能驾驶商务车、无人清扫船等场景。
 
华颉科技推出的英伟达Jetson Orin边缘计算AI盒子是基于NVIDIA® Jetson™ Orin NX/Orin Nano核心模块的产品。这款边缘计算AI盒子面向工业应用领域，具有优异的计算性能、高效率被动散热、工业标准设计等特点，可以在边缘环境广泛部署，适用于智慧电力等多个场景。
 
研华科技基于英伟达Jetson系列的AI边缘计算盒子，可以为工业应用提供智能化的解决方案。深圳市智仕达智能技术有限公司基于英伟达Jetson系列的边缘计算盒子，能有效满足了智慧交通、AMR、智慧安防、智能制造等多个领域的智能边缘端算力升级需求。
 
国产AI边缘盒子算力芯片有哪些
 
目前也有不少厂商采用国产芯片，如图为边缘计算机T1206，则是基于瑞芯微RK3588处理器芯片设计。该产品内嵌的NPU支持INT4/INT8/INT16/FP16混合运算，完整的外设接口，具备超长MTBF稳定运行能力，可应用于机器人、无人配送车、低空防御、智能巡检、智慧楼宇等自主化机器，是边缘端部署AI算力进行深度学习的理想载体。
 
定昌电子基于瑞芯微RK3588研发的边缘盒子，具备6TOPS AI算力，可用作商显人脸识别主机，流媒体服务器，工控视觉运算，人形识别，物体识别，汽体识别，AI监控，视频图像过滤，智能物流货品识别等多种AI算法应用场景。
 
该公司还研发了基于瑞芯微RK3568的边缘计算盒子，内嵌NPU具有1TOPS算力，可做轻量级AI项目，适用智慧商显广告机，数据采集，视频播放，边缘AI计算，智能O2O零售终端机，工控主机等行业领域。
 
瑞芯微长期深耕AIoT领域，形成了各种算力、各种场景的AIoT SoC系列芯片平台，并深入布局视觉、音频、视频等AI算法，同时高效支持主流模型架构，满足小模型在边缘侧、端侧部署的需求，赋能边缘侧、端侧的各种AIoT智能硬件产品，为百行百业的智能化升级和数字化转型提供了强力支持。
 
其RK3568/RK3588芯片可以用来做边缘计算盒子开发，这两款芯片NPU算力有所不同，RK3568具备1TOPS算力，RK3588具备6TOPS算力。因此，小型AI计算或视觉分析等项目，一般采用RK3568方案，中大型AI计算视觉分析等项目可以采用RK3588方案。

此外，2023年瑞芯微完成了新一代中高端AIoT处理器RK3576的研发设计工作并流片。RK3576 采用先进制程设计，搭载公司自研的6TOPs算力的最新一代NPU，支持Transformer 模型架构相关算子，人工智能计算效率显著提升，可以支持各类 AI 算法高效运行。
 
据称，百度最新发布的磐玉AI边缘计算盒产品-磐玉-AIBOX-L01，就基于瑞芯微这款新的RK3576芯片打造。磐玉AI边缘计算盒内置80余种跨行业真实场景的算法适配，能够有效满足客户的本地模型计算需求。
 
也有厂商采用寒武纪的AI芯片，风潮互动官网有一款其合作品牌的C16边缘计算盒，搭载的就是寒武纪纯国产AI推理加速芯片MLU220，INT8等效算力高达16Tops。该产品具有超强计算性能、大容量存储、配置灵活、体积小、支持温度范围宽、环境适应性强、易于维护管理等特点。集成风潮互动自主研发的N-PIPE+UNN视觉推导平台，支持市面上常见视觉AI模型。该产品支持各类边缘、智慧园区/安防/商业/交通等多领域多场景灵活部署。
 
华颉科技有一款边缘计算盒子HE10C，也采用了寒武纪的MLU220芯片，不过同时它也采用了瑞芯微RK3568芯片。整机拥有32 TOPS INT8算力，支持TensorFlow、Caffe、PyTorch等主流深度学习框架，该设备面向工业应用领域，具有优异计算性能、高效率被动散热、工业标准设计等特点，可以在边缘环境广泛部署，适用于智慧电力、智慧工厂、智慧园区、智慧安防、智慧工地等场景。
 
MLU220是寒武纪2019年推出的边缘AI系列产品，这也是寒武纪首款面向边缘智能计算领域的AI芯片。思元220芯片是一款专门用于深度学习的SOC边缘加速芯片，采用TSMC 16nm工艺，它具有高算力，低功耗和丰富的I/O接口。它采用了寒武纪在处理器架构领域的一系列创新性技术，其架构为寒武纪最新一代智能处理器MLUv02，实现最大32TOPS（INT4）算力，而功耗仅10瓦。
 
此外，还有一些边缘计算盒子采用算能的芯片，如华颉科技，其之前基于算能BM1684高性能芯片开发边缘计算AI BOX，整机拥有17.6 TOPS INT8算力，支持TensorFlow、Caffe、PyTorch等主流深度学习框架，面向工业应用领域，具有优异计算性能、高效率被动散热、工业标准设计等特点，可以在边缘环境广泛部署，适用于智慧电力、智慧工厂、智慧园区、智慧安防、智慧工地等场景。
 
此外，还有英码科技，该公司基于算能第四代AI处理器BM1684X开发的边缘计算盒子—IVP03X智能工作站，具有高算力、编解码能力强、超低功耗等特点。相较上一代BM1684系列的边缘计算盒子，整机性能有很大的提升。英码IVP03X智能工作站可广泛应用于智慧城市、智慧安防、智慧社区以及智慧交通等领域的AI智能视频分析和轻量级的模型训练。
 
写在最后
 
就如人工智能的实现离不开算力、算法，AI边缘计算盒子也是算力和算法的集合体。在算力层面，AI边缘计算盒子离不开AI算力芯片的支持，如上述提到的英伟达的Jetson系列，瑞芯微的RK3568/RK3588芯片，寒武纪的MLU220，以及算能的BM1684/BM1684X等。当然除了这些企业之外，还有不少企业都能够提供这样的芯片支持，包括云天励飞、鲲云科技等。