前言
人工智能(AI)经历了概念泛起,到逐渐走向落地应用阶段。应用场景碎片化不易把握、实验室到实际应用场景差距大等问题逐渐暴露出来,也成为当前AI落地应用过程中最大的痛点和重大应用项目亟待解决的问题。
如何从源头发掘AI工程师的真实需求?如何帮助他们进行快速、低成本的开发、验证、测试,并有效实现产品化?为了全面客观地了解AI工程师的需求,为他们的设计提供更好的支持,<电子发烧友>历时4个多月,通过线上、线下的交流与走访,以及超过1000份有效调查问卷,深入调研并分析了工程师的实际工作情况和问题反馈。发布行业首份覆盖AI开发人群、所使用芯片类型/开发平台/工具、产品应用领域的调研报告,真实反映了工程师对于AI产品开发的反馈和建议。
以下是报告全文:
一、调研对象主要产品应用领域
本次调研中,用户开发的AI产品在以下五大领域应用最为集中:消费电子排名第一,占15.29%;智能家居排名第二,占11.28%;工业应用排名第三,占10.78%;机器人排名第四,占9.77%;计算机视觉领域排名第五,占9.27%。这一结果反映了当前AI在中国市场的落地应用情况。
中国作为全球最大的消费电子产品生产国、出口国和消费国,消费电子一直是创新集中领域,也率先成为AI与产业融合的先行领域。AI语音助手、AI拍照、AR/VR等功能在智能手机、智能手表/手环、智能耳机、智能音箱等终端得到大量应用。
智能家居方面,随着国家政策的扶持和行业技术的进步,消费者对于智能生活的接受度与需求也在不断提高。我国智能家居渗透率和行业规模快速提升。自2018年开始,智能音箱、智能门锁、智能插座等爆款产品相继涌现,正在逐步替代传统的家居产品。
工业应用方面,在国家打造工业互联网平台,拓展“智能+”为制造业转型升级赋能的推动下,AI在数据分析、机器诊断/维护方面得到大力推广。
机器人的商用落地非常具有代表性,解决了场景应用问题后,在如下四大领域都有应用:专用领域,如:智能仓储机器人、物流搬运、安保巡逻等;通用领域,具备一定通用功能的机器人,如:家庭陪伴、导航导览、引导、物品传递等;专业/公用领域,可靠性更强、更能适应环境复杂多变的机器人;家庭应用,如:扫地、教育、智能家居类。
计算机视觉随着深度学习的进步、存储技术的提升以及可视化数据集的激增,得到迅速发展。目前,人脸识别是计算机视觉领域最热门的应用,且有望成为未来生物识别的主导技术。安防影像分析有望成为下一个热门领域。根据目前科创板受理情况来看,计算机视觉公司集中,有望快速推动AI技术在该领域快速落地和变现。
图1:用户开发AI产品的主要用途(来源:电子发烧友)
二、用户开发/使用AI芯片的类型
目前,用户开发/使用的AI芯片主要有通用芯片代表如GPU、半定制化芯片代表如FPGA、ASIC全定制化芯片以及类脑芯片。其中,FPGA以45%的得票率高居第一。这说明现阶段FPGA还是AI产业落地的最重要的芯片形式,也与<电子发烧友>从赛灵思和英特尔 (Altera)有关专家反馈中得到的信息基本一致。
随着无线技术的发展及终端传感器数量和种类的激增,智能终端对于实时处理能力的要求越来越高,同时,低功耗、小体积、低成本、灵活支持各类接口、自定义等特性几乎都成为必选。在当前的芯片类型中,FPGA无疑成为满足上述需求的最优选择。在训练机器学习系统方面,FPGA、GPU等芯片比传统的基于数据中心架构的CPU效率更高。但可以预见的一个趋势是,随着用户寻求更高级别的智能,终端侧对于针对算法做了特殊加速设计的芯片需求将会越来越多,这也是现在很多开发从ASIC芯片切入的原因之一。因为算法复杂度越强,越需要专用的芯片架构与其对应。基于AI算法进行定制的ASIC芯片前景看好。
图2:用户开发/使用AI芯片的类型(来源:电子发烧友)
三、用户喜爱的AI芯片平台TOP6
人工智能的发展有赖于三大要素:深度学习的算法、高质量的大数据和高性能的计算能力。随着人工智能技术发展从云端向终端迁移,终端侧对芯片平台也体现出这三大要素方面的需求,因此也要求芯片平台具备更高的安全性、更高的性能、更低的功耗、更低的延时等。
本次调研中入围的六大AI芯片平台都具备上述特性,它们对于AI在终端侧的推动意义重大,为开发者提供了更强的性能和更大的想象空间。
图3:用户喜爱的AI芯片平台TOP6(来源:电子发烧友)
1、瑞芯微RK3399Pro
RK3399Pro是瑞芯微于2018年1月发布的首款AI芯片,采用big.LITTLE大小核CPU架构,双核Cortex-A72+四核Cortex-A53。在硬件性能方面采用了专有AI硬件设计, NPU运算性能达2.4TOPs。平台兼容性方面,NPU支持8bit与16bit运算,能够兼容各类AI软件框架。现有AI接口支持OpenVX及TensorFlowLite/AndroidNN API,AI软件工具支持对Caffe/TensorFlow模型的导入及映射、优化。可提供一站式AI解决方案,包括硬件参考设计及软件SDK,从而提高开发者的AI产品研发速度,缩短产品上市时间。非常适用于智能驾驶、图像识别、安防监控、无人机、语音识别等AI应用领域。
2、联发科Helio P60
联发科Helio P60采用了ARM的4个Cortex A73 及 4 个A53 的大小核架构,内置了专用于AI运算的APU,搭载了NeuroPilot AI技术,这是一个独立的NPU单元,通过CPU、GPU、APU进行异构运行,可以提供从入门到高级的完整API支持和开发者工具包,具备性能以及功耗优化、可移植性和客制化等特点。Helio P60融合了来自腾讯、商汤、虹软、旷视等多家人工智能厂商的方案,在手机安全、拍照、人脸识别等方面都有提升。
3、寒武纪1A/1H/1M+MLU100
MLU100云端芯片可支持各类深度学习和常用机器学习算法,可以和寒武纪1A/1H/1M系列终端处理器进行适配,通过“端云协作”完成复杂的智能处理任务。第一代1A面向智能手机、安防监控、可穿戴设备、无人机和智能驾驶等各类终端设备。1M处理器延续了前两代IP产品1H/1A的完备性,单个处理器核即可支持CNN、RNN、SOM等多样化的深度学习模型,更进一步支持SVM、k-NN、k-Means、决策树等经典机器学习算法,支持本地训练,为视觉、语音、自然语言处理以及各类经典的机器学习任务提供灵活高效的计算平台。
4、Imagination PowerVR NNA
PowerVR NNA是独立式的硬件IP神经网络加速器,通过神经网络专用的PowerVR架构实现。特色在于可以同时支持CNN、RNN、LSTM三种神经网络类型,并且可支持caff、caffe2、Google TensorFlow等通用机器学习体系架构,还支持可适用于移动端的TensorFlow Lite、caffe2go等机器学习体系架构。
5、芯原VIP8000
VIP8000是面向计算机视觉的AI处理器,由高度多线程的并行处理单元、神经网络单元和通用存储缓存单元组成。可直接导入由Caffe和TensorFlow等框架生成的神经网络。神经网络单元支持定点8位精度和浮点16位精度,并支持混合模式应用,以实现更佳的计算效率和准确率。
6、地平线“征程”、“旭日”
征程系列处理器面向智能驾驶,能够实现精准的实时监测与识别。旭日系列处理器面向智能摄像头,能够在本地进行大规模人脸抓拍与识别、视频结构化处理等,可用于商业、安防等多个实际应用场景。
四、用户感兴趣的AI开发套件
关于AI开发套件的选择方面,以下六大因素是用户主要考虑的:
第一,熟悉、一致和开放的开发环境;
第二,能够快速验证;
第三,可帮助降低设计、测试和部署成本及复杂性;
第四,可扩展性强、接口丰富;
第五,支持云计算服务平台,可在线开发,支持场景化应用;
第六,价格合适,提供完整的开发生命周期管理功能。
用户感兴趣的AI开发套件调研结果如下:
图4:用户感兴趣的AI开发套件(来源:电子发烧友)
除了上述考虑因素,参与投票的工程师对于以下建议呼声较高:
1、进一步降低开发难度,实现模块化、可视化、积木化,能够快速入门;
2、安全算法能够开源,有一套完善的技术支持方案;
3、更丰富的产品可供选择,更可靠的机器自主学习能力;
4、可快速搭建开发环境,进行模拟仿真、快速产品化;
5、更丰富的社区资源;
6、更好的技术支持和技术交流论坛或微信群,有原厂技术支持辅导答疑;
7、希望定期举办AI开发培训。
五、参与调研企业及工程师情况
图5:用户所在公司的AI产业类型(来源:电子发烧友)
本次接受调查的用户,超过35%来自终端厂商,22%来自方案公司,在AI落地的调查中,这两类用户群体的反馈非常重要,因此本次调查结果也很有代表性。
图6:用户职业类型(来源:电子发烧友)
调查对象中,AI硬件工程师和系统级产品开发工程师占比较多。难得的是AI算法工程师也参与到本次调查中。由于AI算法工程师在产品落地过程中,起着关键性作用。<电子发烧友>分析师认为,AI算法工程师参与到AI产品设计中,方能让AI芯片的落地到实处。
图7:用户从事AI产品开发的时间(来源:电子发烧友)
AI芯片无论是FPGA,还是专用AI芯片,都是近几年的事情。而过去一年中,AI芯片的大量发布问世,方是AI落地的重要推动力。如果有更多好用且更低成本的芯片问世,相信AI落地会更快、更广。
<电子发烧友>总结
<电子发烧友>AI分析师认为,AI今年有望进入关键的落地应用阶段,从技术应用场景来看,计算机视觉、语音识别等技术积累较为充分,且下游市场呈现出越来越多的需求,有望得到更多应用;从与细分行业的结合来看,AI技术在医疗、安防、智能驾驶、零售等领域有望得到进一步深化,细分领域的商业模式和产业格局将逐步改变。
<电子发烧友>将持续关注AI技术在中国市场的落地应用情况,通过线上线下的互动、追踪与调研,力求推出更多深度报告,为推动行业发展贡献一己之力。