关于AI技术五个相关的研究趋势发现

2020 年 12 月，机器之心发布《2020-2021 全球 AI 技术趋势发展报告》，基于顶会、论文及专利等公共数据、机器之心专业领域数据仓库，通过数据挖掘定位七大趋势性 AI 技术领域，并邀请了近 100 位专家学者通过问卷形成对这七大技术领域近年发展情况、成熟度与未来趋势的综合总结，并基于 2015-2020 年间的开源论文与专利语料，结合机器之心自有的新闻舆论以及模型最佳表现（SOTA）等相关数据库进行了探索性数据分析，并形成了用以帮助技术趋势判定的量化指标 Synced Indicator (SI)。

* 注：Synced Indicator 综合反映该技术的热度、重要性、应用情况、以及未来发展潜力等多个维度的情况，通常来说指数越高说明该技术越值得关注。

在经历了前几年的高歌猛进之后，许多人工智能相关技术在 2019 年开始放慢脚步。基于数据分析的结果，机器之心总结出了近 5 年来累计趋势指数总排名前十的 AI 技术（图一），2018、2019 年两年里各自趋势指数增长最快的 AI 技术（图二、图三），以及 2017~2019 三年间综合对比增幅最大的 AI 技术（图四）

图一：趋势指数（SI）Top10 技术为语音识别、卷积神经网络、云计算、GPU、深度学习、推荐系统、机器翻译、定位、大规模预训练模型。

图二：2018 年趋势指数（SI）增长最迅速的技术 Top 5技术为区块链、联邦学习、多任务学习、图神经网络。

图三：2019 年趋势指数（SI）增长最迅速的技术 Top 5 技术为扩展现实、工业物联网、人体关键点检测、三维推理、移动机器人；

图四：2017~2019 年趋势指数（SI）增长最迅速的技术 Top 5 技术为语音识别、文本分类、数据挖掘、物体识别、 GPU 技术。

综合参考文献、报告以及专家意见的定性分析，辅以大量数据的定量分析，以下分享五个相关的研究趋势发现。

趋势一：强化学习和无监督学习是未来 AI 技术突破的主要着力点

在最新的 NeurIPS 2020 上，强化学习领域（Reinforcement Learning）以及其目前的主要应用领域 「游戏博弈（Game）」 是除机器学习、神经网络外讨论度最高的技术主题。

图 1-3-1-3 NeurIPS 论文相关技术主题

图 1-3-3-2 NeurIPS 2020 收录论文机器学习子领域主题分布

对比无监督学习以及与之相关的半监督学习，其相关专利数量在近年有所下滑，但研究论文整体呈现快速增长趋势。

图 7-3-6 无监督学习 vs. 半监督学习论文数量走势

图 7-3-6 无监督学习 vs. 半监督学习专利数量走势

图 7-4-1-5 无监督学习对比半监督学习(整体资讯)

在机器学习领域的近年累计趋势指数排行中，无监督学习与半监督学习分列二、三位。

图 7-5-1 机器学习 Synced Indicator(累加)

在语言和视觉技术这两个人工智能感知层应用落地最成熟的技术领域，无监督学习都是被提及频率最高的技术发展趋势。2018 年的图灵奖的共同获得者 Geoffrey Hinton、Yann LeCun 以及 Yoshua Bengio 近年的研究重点也均是无监督学习相关的。而强化学习近年来虽在研究上一直有新的突破，但应用上多局限于游戏、自动驾驶等模拟环境，整体呈现出理论超前于应用的状态，未来会在具体应用上有更多实践乃至突破。

趋势二：图神经网络、图深度学习、大规模图计算平台将有很大发展空间

近年来，受社交网络、知识图谱以及神经科学中图形的重要性所驱动，将深度学习模型应用在不规则图结构的数据上逐渐成为了一种新兴趋势。这些基于图的神经网络目前已经在分类、嵌入、问答等多种不同的目标 应用中取得最佳表现效果。

对比机器学习领域下的主流神经网络结构，虽然图神经网络在目前的研究占比并不是很重，但可以看到在 2018 年后有一个较为陡峭的上升趋势，是近年来较值得关注的新领域。

图 7-3-5 机器学习七大架构论文数量走势（未包含 CNN）

与此同时，图神经网络从 2017 年起，技术到应用的转化率呈加速发展阶段，在 2019 年机器学习领域整体专利数据源较少的情况下反而逆势上涨。

图 7-3-5 机器学习七大架构专利数量走势（未包含 CNN）

相比传统的文本、语音、图像数据格式，图结构将端到端学习与归纳推理相结合，是一种泛用性更强且更能代表现实世界真实情况的数据表示方式，有望解决深度学习无法处理的因果推理、可解释性等一系列瓶颈问题

趋势三：深度学习的可解释性与 AI 安全问题越发受重视

黑盒问题是自深度学习诞生起便一直伴随其中的主要问题与瓶颈之一，尽管深度学习技术的发展日新月异，在准确率等技 术指标上取得了惊人的成就，但是对于模型的可解释性方面提升仍然不大。这极大地影响了相关技术在一些对模型结果的可信度和可解释性有着高要求行业的应用(比如金融和医学行业)。与此同时，伴随着 AI 技术的不断发展，用户对于技术的关注度越来越高，其所带来的各项问题也随之越来越受到大众关注。

研究方面，AI 安全相关的论文近年从萌芽开始稳步增长，专利方面，在逐年增长的基础上 2018 年~ 2019 年里还有一次较大增速的提升。

图 10-3-2 强人工智能相关技术走势（左：论文数量，右：专利数量）

新闻方面，2018 年之前 AI 安全的新闻讨论度接近于 0，但出现后是领域内增速最快的技术分类。

图 10-4-1-2 强人工智能相关技术新闻走势

趋势四：移动和物联网设备开始承担更多的智能计算任务

随着移动智能手机和物联网设备的计算能力越来越强，移动网络 5G 等配套基础设施的逐步成熟，移动物联网设备开始承担越来越多机器学习相关的训练和推理计算。

从相关领域的论文发表数量来看，分布式计算是目前的主要技术，然而其近年的相关论文发表数量却有下降趋势。而与之相关的边缘计算和近年兴起的无服务器计算则增速明显。

图 8-3-3 云计算论文数量分布

图 8-3-3 论文走势

图 8-3-3 云计算专利数量走势

一方面，云计算发展依旧迅猛，并逐渐向边缘计算发展，助力物联网智能化; 另一方面，AI 芯片也逐渐走向云端、边缘端以及物联网设备终端，有实力的科技公司将 AI 算力打包成服务，既合理利用了自身多余的算力资 源，又降低了不具备相关科研实力的中小企业可以以更低的成本使用到足够的资源，完成自身的 AI 开发与部署需求，这与 近年来媒体讨论度颇高的无服务计算有着一致的思想理念。

趋势五：自动驾驶与机器人技术任重而道远

从我们基于媒体资讯挖掘的整体数据可以看出，自动驾驶技术虽然整体上仍然处于上升趋势，但是其最近 3 年的总体热度相对其他 AI 技术而言却是逐年下降的。无论是技术上还是社会影响上，无人驾驶领域的泡沫开始逐渐散去，其研发开始转入了一个相对沉静的缓慢发展期。

机器人技术方面，无人机是该技术领域近年来较为成熟的一大应用，其近年的相关论文数量占据了该领域的六成以上，并保持了一个较高的增长趋势。智能机器人、服务机器人在专利方面总体都呈现上涨趋势，可以看到整个行业正在从完全侧重关注工业机器人向更贴近大众生活的服务型机器人方向转化。

图 6-3-4 移动机器人论文数量走势（左）与专利数量走势（右）

图 6-3-5 人机交互、机器人流程自动化数量走势（上）与专利数量走势（下）
编辑：hfy