边端侧AI规模应用落地难，领域专用架构（DSA）如何在通用性和专用性之间找到平衡！

电子发烧友网报道（文/李弯弯）相对于云端AI ，边端侧AI在本地进行计算和决策，不需要将数据上传至云端，具备更好的实时性、隐私性等特点，近些年，边端侧AI的应用越来越被看好。
 
然而边端侧AI因为应用场景丰富，碎片化明显，在落地应用上也存在诸多难题，比如，需要针对不同应用场景定制算法，不少硬件方案只能针对单一应用等，因此具备一定通用性的方案会更被市场需要，比如时擎科技的领域专用架构（DSA）处理器。
 
领域专用架构（DSA）的核心优势
 
时擎科技自2018年成立以来，一直致力于在万物智联的AIoT时代，从落地场景的需求出发，通过领域专用架构的处理器和定制化芯片设计，为端侧设备提供支持语音、视觉、影像、显示等多模态智能人机交互和数据处理的芯片产品及完整的系统级解决方案。
 
该公司基于RISC-V指令架构为端侧智能交互和处理场景量身定制了TimesFormer领域专用架构智能处理器，作为处理和计算核心，推出了AT系列端侧智能处理芯片，可以应用于智能家居、智慧家电、泛安防、智能硬件等各类端侧设备中。
 
时擎科技也能针对客户应用场景的需求，提供定制化芯片的设计和交付，以及系统级应用和软件的开发，为客户带来差异化的产品和竞争力。
 
目前时擎科技在售的AT系列端侧智能芯片，是一款高集成度、高能效比的智能处理芯片，可广泛应用于离线语音控制、麦克风阵列、入门级智能影像应用等多种不同应用场景中。以其中已经量产出货的AT1000为例 – 
 
在产品特点上，AT1000系列芯片搭载了自研的RISC-V主控TM500，主频高达300MHz，支持DSP和浮点操作；提供100G高能效AI算力，配套的TimeFlow算法部署工具友好支持各种模型和算子；优化的存储系统保证算法执行效率，内置MB级高速SRAM，大容量PSRAM和4MB XIP Flash；专用的高性能语音子系统，支持多达4+2模拟/数字麦克风输入，以及立体声/功放输出，满足各类基于麦克风阵列的语音处理需求。
 
在应用上，AT1000系列其中主要的应用场景是通话对讲、语音降噪等。时擎科技创始人、总裁于欣在接受电子发烧友采访的时候表示，通话对讲场景按照通话距离大体可以分为两类，一类是远讲，典型场景是会议，一般来说，会议室的噪声条件相对较好，而如今居家办公的情况比较多，噪声条件较为复杂，但最近催生了一些在家中或交通工具上，这些场景对于设备降噪能力提出了更高的需求尤其。另一类是近讲，则主要是以对讲机作为代表。
 
在通话对讲方面，虽然应用场景各不相同，不过其核心算法是类似的。时擎科技针对不同的应用场景针对性地推出了不同型号的芯片，在封装、存储上等方面会有所差异，用以适配对算法复杂度、外设接口的不同。
 
时擎科技TimesFormer智能处理器是一种基于RISC-V指令集的领域专用架构（DSA）处理器，专门针对端侧智能计算和各类音视频智能算法的需求而研发。具有高能效比、高性价比、易使用、灵活可扩展等特点，可以广泛的应用于端侧人工智能芯片中。
 
如何理解领域专用架构（DSA）呢？于欣解释到，DSA的核心特点是，它针对的是一类场景，而不只是针对一个特定设备而设计，比如，用于边端侧的语音，也就是各种类型的通话对讲都可以用。相比于很多专用的ASIC芯片而言，，DSA是在专用性和通用性上找到了一个平衡，针对某一类场景所需要的算法所设计，可以提供在性能、成本、功耗上满足需求的优质方案，又具备一定的通用性保证了芯片足够大的市场需求范围。
 
成立四年多来，时擎科技已经基于领域专用架构（DSA），围绕各类端侧智能应用场景，打造了DSA处理器、部署开发工具、端侧AI算法三位一体、紧密融合的全栈技术方案。团队的研发能力和在售产品都获得了市场的较好认可，公司2022全年销售额也有望超过七千万元。。
 
边端侧AI的优势和落地难题
 
相对于云计算，边端侧有它的独特优势。具体来说，边缘AI允许设备在本地进行AI计算和决策，不需要连接到互联网才能实现数据处理。因此它具备实时性好、带宽资源要求低、隐私性好等诸多特点，因此在很多场景中边缘AI比云端AI更好的解决实际的问题。这也是为什么近些年边端侧AI越来越多的被看好。
 
实际上，边端侧AI是相对于云来说的，终端侧比较好理解，边缘侧AI可以怎么理解呢？很多时候，边和端是相对而言。举一个典型场景的列子，在监控的时候，很多之前部署的摄像头都不带本地AI能力，那是不是就只能将采集的信息上传至云端进行处理呢，答案是否定的。我们可以通过在这云端之间架设所谓的边缘服务器，从而实现对这些视频采集的信息更接近数据端的分析处理。
 
事实上很多场景都是如此，比如公司、小区内的视频监控，都可以通过边缘服务器对这个小区域里的视频进行分析处理，相对于云端来说，它直接部署在本地，从拓扑结构上来看，这就是我们所说的边缘侧。一般而言，如果数据采集节点和传输至云端服务器中间的路径上所进行数据加工、处理、分析，则都可以称为边缘侧的处理。
 
虽然边端侧AI比较被看好，不过在实际落地应用中，还是有不少挑战。在于欣看来，这是由于客观条件决定的，很多边缘侧的需求，或者待分析的数据以及其背后的算法等，会存在较多的差异。
 
具体来看，无论是识别人、识别物体，还是工业应用中使用机器视觉做缺陷检测，虽然都是识别、检测，但实际在算法上的差异很大。从这个角度来看，就需要多种跟应用场景完全匹配的算法，没有一个通用的算法存在。每个场景都需要有针对性的算法，并不是说做好一个场景的一套算法，就可以把它轻易复制到别的场景，这是算法层面可复制性方面的挑战。
 
另外，不同场景应用的解决方案也不尽相同，如果是在云端，如GPU的通用计算方案是主流，而在边端侧，就不太一样，可能会有八仙过海各显神通的各种方案，比如时擎科技就是定制的领域专用架构DSA处理器从这个角度来看，无论是算法，还是硬件，很难存在一个特别通用的方案，而且边端场景往往对成本、功耗等方面有更加苛刻的要求，这就决定了需要去做算法和芯片的匹配，这是成为了边端侧AI复制推广的限制。
 
还有就是，一些AI的算法的训练需要很多数据，这也是人工智能不可或缺的一个环节，这也会给形形色色的边端侧AI应用带来更多困难。这些问题可以如何去解决呢？于欣认为，业界需要在算法、处理器、工具等上面形成整体的解决方案，针对一类应用场景提供解决方案，形成一定的复制性，而不是说每一个场景都要从零开始，某种可以解决边端侧AI应用场景过于碎片化的难题。
 
小结
 
从目前的发展势头来看，未来AI的应用将会无处不在，还有很大的发展空间和潜力。然而任何新兴技术在发展初期阶段，都会遇到各种各样的问题，AI也不例外。作为企业来说，如果能够不断地进行技术创新，解决发展过程中存在的难题，必然能够在特定的领域占据重要位置。对于时擎科技来说是如此，对于其他任何AI芯片企业来说，也是如此。