人工智能在过去十年中从实验室走向产业化生产,重塑传统行业模式、引领未来的价值已经凸显,并为全球经济和社会活动做出了不容忽视的贡献。当前,人工智能已经迎来其发展史上的第三次浪潮。人工智能理论和技术取得了飞速发展,在语音识别、文本识别、视频识别等感知领域取得了突破,达到或超过人类水准,成为引领新一轮科技革命和产业变革的战略性技术。人工智能的应用领域也快速向多方向发展,出现在与人们日常生活息息相关的越来越多的场景中。近日,清华大学科技情报大数据挖掘与服务系统平台 AMiner发布了研究报告《人工智能发展报告2011-2020》,阐述人工智能过去十年取得的重要成果,并讨论了人工智能的未来发展蓝图,理论、技术和应用方面的重大变化与挑战。敬请阅读。
01.飞速发展的十年
1、论文发表情况
人工智能过去十年发展快速,从学术研究走向商业化。本报告专注于通过分析在国际顶级期刊和会议上的人工智能领域科研论文发表情况来研究该领域的成果产出。由下图可见,从 2011 年以来人工智能领域高水平论文发表量整体上呈现稳步增长态势,取得了很多科研成果。这些科研成果涵盖 R-CNN 算法、神经机器翻译的新方法等。
▲过去十年人工智能领域国际顶级期刊会议论文数量趋势
从高水平科研论文的国家分布来看,人工智能领域论文发表量居于前十的国家依次是美国、中国、德国、英国、日本、加拿大、法国、韩国、意大利和澳大利亚,如下图所示。美国和中国的高水平论文发表量明显高于其他国家,分别位居第一、二名,中国的论文量紧随美国之后。
▲过去十年人工智能领域高水平论文发表量前十国家
研究发现,各个国家的人工智能领域高水平科研论文发布具有以下特征。
(1)、开展跨国科研合作较多的国家是美国和中国
从论文的国际合作网络看,美国和中国的 AI 高水平论文发表均存在较多的跨国合作现象,如下图所示。其中,AI 技术实力领先的美国所参与的高水平论文跨国合作最多,是各国的主要合作国家,过去十年,美国的 33255 篇 AI 高水平论文之中,出现过中国、英国、加拿大、德国、印度等 30 多个合作国家,合作国家数量最多;中国的跨国科研合作国家数量位居第二,在其 22686 篇 AI高水平论文之中,出现了美国、加拿大、新加坡、英国、日本等 20 多个合作国家;英国和德国的 AI 高水平论文跨国合作国家数量均为 18 个。其余国家在 AI高水平论文方面开展的跨国合作数量较少。
▲过去十年人工智能领域高水平论文发表国际合作国家分布
(2)、中美两国是对方 AI 领域的重要科研合作伙伴
在 AI 高水平论文发表方面,美国和中国均是对方的重要科研合作伙伴。过去十年,美国在其 30 多个合作国家之中,与中国合作的 AI 高水平论文数量占比最多,为 18.53%。同时,中国在其 20 多个合作国家之中,与美国合作的论文数量最多,占比 27.16%。可见,开展国际科研合作已成为中美两国 AI 研究成果产出的重要方式。
(3)、跨国科研合作可以提高合作本国 AI 研究成果的影响力
分析发现,美国的 AI 领域高水平论文平均引用率为 44.99,中国的 AI 领域高水平论文平均引用率为 31.88。相比而言,中国和美国合作论文的平均引用率达 51.2,其影响力明显高于中国和美国各自论文的平均引用水平,这表明跨国合作的科研成果在世界人工智能研发领域的展示和交流几率大大增加。
2、获得图灵奖的人工智能技术
图灵奖(ACM A.M. Turing Award)是计算机界最负盛名、最崇高的一个奖项,有“计算机界的诺贝尔奖”之称。图灵奖是计算机协会(ACM)于 1966 年设立的奖项,专门奖励对计算机事业做出重要贡献的个人。其名称取自世界计算机科学的先驱、英国科学家、曼彻斯特大学教授艾伦·图灵(A.M. Turing)。
图灵奖获奖者必须是在计算机领域具有持久而重大的先进性的技术贡献,大多数获奖者是计算机科学家。第一位图灵得主是卡耐基梅隆大学的 Alan Perlis (1966 年),第一位女性获奖者是 IBM 的 Frances E. Allen (2006 年)。
通过 AMiner 智能引擎,可以自动收集历年来图灵奖获得者及其学者画像信息(基本信息、研究兴趣等),以及该学者的论文和专著等信息。由于每年度的图灵获奖者一般在次年 3 月下旬由美国计算机协会(ACM)官方颁发,因此本报告统计了截至 2020 年颁发的近十年(2010-2019 年)图灵奖得主数据。分析发现,图灵奖近十年授予领域具有如下特征。
(1)、十年中三次正式颁奖给人工智能领域
图灵奖颁发的领域,在一定程度上反映了计算机科学技术发展方向的缩影。数据显示,过去十年图灵奖分别授予给了计算理论、概率和因果推理、密码学、分布式和并发系统、数据库系统、万维网、计算机系统、深度神经网络和 3D 计算机图形学九个领域,具体如下图所示。从获奖内容、创新角度、研究领域等维度来看,图灵奖注重原始理论创新和学科交叉,具有科研优势积累现象。
过去十年的 图灵奖有三次正式授予给人工智能领域。
第一次是 2010 年,Leslie Valiant 因对计算理论的贡献(PAC、枚举复杂性、代数计算和并行分布式计算)获得图灵奖,该成果是人工智能领域快速发展的数学基础之一。
第二次是2011 年,因 Judea Pearl 通过概率和因果推理对人工智能做出贡献而颁奖;
第三次是 2018 年,深度学习领域三位大神 Yoshua Bengio、Geoffrey Hinton 和 Yann LeCun 因为在概念和工程上的重大突破推动了深度神经网络成为计算机领域关键技术而荣获图灵奖。
Hinton 的反向传播(BP)算法、LeCun 对卷积神经网络(CNN)的推动以及 Bengio 对循环神经网络(RNN)的贡献是目前图像识别、语音识别、自然语言处理等获得跳跃式发展的基础。中国科学院张钹院士在《迈向第三代人工智能》一文中也提到这 5 位图灵奖得主在创建第二次 AI 中所做出的重大贡献。
▲2010-2020 年图灵奖授予的计算机领域
(2)、人工智能领域获奖人数占据四分之一
由下图可见,过去十年,共有 16 位学者获得图灵奖。其中,包括 5 位人工智能领域学者获此殊荣,占比 31%,这反映出人工智能在计算机学科中的地位已不容忽视。同时,人工智能领域图灵奖 从初期的单独获奖者到近年来的共同获奖者,越来越呈现出高层次学者强强联合的研究趋势。
(3)、美国培养并拥有八成以上的图灵奖得主
过去十年的 16 位图灵奖获得者之中,有 13 位来自美国、2 位来自英国、1位来自加拿大,如下图所示。在美国的 13 位图灵奖得主之中,有 10 位是在美国本国接受的全部高等教育、2 位拥有美国和其他国家教育背景、仅 1 位没有美国教育背景。
其中,2011 年获奖者 Judea Pearl 拥有以色列本科教育和美国纽约大学博士教育背景;2012 年图灵奖得主 Silvio Micali 拥有意大利本科教育和美国加州伯克利大学博士教育背景。唯一没有美国教育背景的是 2018 年图灵奖得主 Yann LeCun,他仅有法国教育背景。八成以上图灵奖得主具有美国教育或工作背景的事实,反映出美国人工智能高层次人才培养的强势竞争力。
▲2010-2020 年图灵奖得主所在国家及教育背景情况
(4)、欧洲培养的高层次人才中有三位被吸引到美国学习或工作并获图灵奖
从这些图灵获奖者的教育背景来看,美国与欧洲国家的学术交流非常多。Yann LeCun 拥有法国教育背景后到美国任职并获图灵奖;Judea Pearl 和 Silvio Micali 分别从以色列和意大利被吸引到美国继续深造而拥有跨国双重教育背景,后来均到美国任职并在美国获得图灵奖。此外,英国的这两位图灵奖得主虽然均是在本国接受的高等教育并且获奖时都在本国,但都有过一些美国任职经历。
Geoffrey Hinton 博士毕业于英国爱丁堡大学,后来陆续在谷歌、卡内基梅隆大学、加州大学圣地亚哥分校等美国机构任职;Tim Berners-Lee 在英国牛津大学本科毕业后,也有过在麻省理工学院任职的经历。可见, 美国的高等教育体系不仅培养的 了自己本国的 AI 领域高端人才,而且从欧洲国家吸引和留住了多位领域精英。
(5)、仅加拿大图灵奖得主没有任何美国教育和任职经历
在这 16 位图灵奖获得者之中,仅有加拿大的 Yoshua Bengio 在本国的麦吉尔大学接受了高等教育并在本国蒙特利尔大学任职,并于 2018 年因在深度神经网络概念和工程上的突破而获奖。这在一定程度上反映出加拿大在人工智能领域高层次人才培养和质量上较为成功。
(6)、图灵得主们在领域相关论文发表后需要平均等待 37.1 年之后才获奖
通过 AMiner 人才画像数据获取这些图灵奖得主所发表的第一篇与获奖理由相关主题的论文,计算得出该论文发表年份距离作者获得图灵奖时间,从而得到这些图灵得主的获奖时间长短,如下图所示。结果发现,图灵奖得主获奖时一般距离其首次发表获奖领域相关论文至少已经三十年以上,平均为 37.1 年。
其中, Edwin Catmull 于 2019 年获得图灵奖,距离其在计算机图形学领域发表的最早论文 A system for computer generated movies 已经过去了 47 年,等待获奖时间最久。而获奖等待时间最短的是 Tim Berners-Lee,他于 1990 年发表WorldWideWeb: Proposal for a Hypertext Project 论文,仅在 26 年后的 2016 年就因发明万维网、Web 浏览器以及允许 Web 扩展的基本协议和算法获得图灵奖。
▲图灵奖得主的首篇领域论文发表距离获奖年份的时长
(7)、八成以上图灵得主获奖时已经度过了其科研论文高峰产出期
基于 AMiner 平台上各位图灵奖得主的论文数据和人物画像,分析发现,图灵奖得主一般会在获奖后保持原来的研究方向,但是他们的论文发表量却减少了。有 80.1%的图灵得主在获图灵奖后的论文年均产出量低于其获奖前的年均论文产出量,如下图所示,这反映出他们在获得图灵奖时已经普遍过了其学术产出高峰时期。
▲2010-2020 年图灵奖得主获奖前后的年均论文发表量
值得一提的是,Yoshua Bengio,Judea Pearl 和 Michael Stonebraker 三位学者是例外,他们在获得图灵奖之后的年均论文产出量较其获奖前均有不同程度的增加,分别增加了 328.07%、49.53%和 12.32%。其中,Yoshua Bengio 在 2018 年获得图灵奖后论文年均发表量激增特别明显,并在 2019 年发表 96 篇论文,达到其论文产出峰值,他的 AMiner 学术画像及年度论文发表量如下图所示。
▲2018 年图灵奖获得者 Yoshua Bengio 的 AMiner 学术画像
需要指出的是,部分图灵得主在获奖后的论文产出量减少除了其学术产出减少之外,还存在以下两个原因。
一是他们可能已不再全力进行学术研究,而是转向参与社会事业等,从而导致其获奖后的论文发表量减少。例如,Whitfield Diffie在 2015 年因密码学的贡献获得图灵奖后,转向致力于促进信息安全和隐私权的保护;Martin Hellman 因密码学的贡献获得同年的图灵奖后,转向致力于研究国际安全与核武器削减。
二是也有少量图灵得主在发表相关论文后早已投身于工业界,例如,计算机图形学先驱 Edwin Catmull 在研究生毕业后就在卢卡斯、皮克斯等公司就职,早已离开学术界,曾担任 Pixar 动画和 Disney 动画的总裁,四次获电影 Oscar 奖(1993、1996、2001 和 2008),其 AMiner 学术画像及年度论文发表量如下图所示。
▲2019 年图灵奖获得者 Edwin Catmull 的 AMiner 学术画像
3、媒体评选出的重大人工智能技术
自 2001 年起,《麻省理工科技评论》每年都会评选出当年的“十大突破性技术”。所评选出的技术榜单曾精准预测了脑机接口、智能手表、癌症基因疗法、深度学习等诸多热门技术的崛起,在全球科技领域具有举足轻重的影响力。
分析发现,媒体评出的人类突破性技术之中近 30% 与人工智能相关。通过分析挖掘 2010-2020 年《麻省理工科技评论》评选出当年的“十大突破性技术”,发现有 32 项 项 人工智能相关技术入选榜单,占比近 30%,其中包括:2013 年的深度学习、2014 年的神经形态芯片、2016 年的语音接口与知识分享型机器人、2017年的自动驾驶卡车与强化学习,2018 年的流利对话的 AI 助手、给所有人的人工智能和对抗性神经网络、2019 年的灵巧机器人,以及 2020 年的微型人工智能和人工智能发现分子。具体名单如下图所示。
▲2010-2020 年入选《麻省理工科技评论》“十大突破性技术”榜单的人工智能相关技术
4、国际顶会顶刊最佳论文授予领域分析
人工智能领域顶级期刊和会议每年都会在众多学术研究论文之中,通过“双盲评审”,评选出最有新意和价值的研究论文作为最佳研究论文,并授予“Best Paper”奖项。每年大会的最佳论文奖一般分两类,一类是最佳研究论文(Research track),另一类是最佳应用论文(Applied track)。部分会议在每年选出多篇最佳论文(分列第一、二、三名),也有部分顶会每隔几年才会选出一篇最佳论文。
从过去十多年的经验来看,国际顶会历年的最佳研究论文都会对之后很多领域的研究有着开创性的影响。因此,不论是从阅读经典文献的角度,还是从学习最新研究成果的角度来说,分析和探讨每年的最佳研究论文都极具价值。
本部分收集整理了2011-2020年期间的人工智能领域国际顶级会议最佳论文奖项第一名的全部论文(对于不区分名次的最佳论文则全部收录),再对这些论文所属领域进行分析。统计发现,过去十年荣获“最佳论文”奖项的论文来自 34个国际顶会、共计 440 篇,其中,research track 最佳论文 409 篇,占比 93%。
各会议最佳论文量的具体分布如下表所示,FOCS、IEEE VIS、ISSCC 等最佳论文数量较多主要是因为该会议每年颁发 3 篇杰出论文奖(Outstanding Paper Award)且不区分先后名次。ICASSP 等会议最佳论文量较少主要是由于存在缺失数据。
▲2011-2020 年人工智能领域国际顶级会议最佳论文授予量分布 (单位;篇)
从所属细分研究领域来看,这些最佳论文覆盖了机器学习、计算机视觉、自然语言处理、机器人、知识工程、语音识别、数据挖掘、信息检索与推荐、数据库、人机交互、计算机图形学、可视化、安全与隐私、计算机网络、计算机系统、计算理论、经典 AI、芯片技术等 18 个子领域。
(1)、顶会最佳论文奖呈现出较多跨领域授予现象
总体而言,尽管这些国际顶级会议将大部分的最佳论文奖都授予给了本会议所属的 AI 子领域,但是授予非本会议领域的最佳论文数量占比较高,达 22.3%。其中,WSDM 是数据挖掘领域重要国际会议,在它授予的最佳论文奖之中,有90.9%的最佳论文被授予给非数据挖掘领域的论文,在所有会议中占比最高。其次,KDD 会议将 88.9%最佳论文奖授予给非数据挖掘领域的论文,WWW 会议将 63.6%的最佳论文奖授予给非信息检索与推荐领域的论文。各个会议最佳论文授予情况具体如下表所示。
▲2011-2020 年人工智能领域国际顶级会议最佳论文授予其他 AI 领域比例
(2)、信息检索与推荐、机器学习和计算理论出现较多的跨领域授予
从跨领域授予最佳论文奖的整体数量来看,信息检索与推荐、机器学习和计算理论是获得最佳论文奖项数量较多的三个领域,占比均超过 10%,详细情况如下图所示。这反映出这三个子领域的跨领域研究成果所获的专业认可度较高,在一定程度上促进了相关技术在多个 AI 子领域的快速发展和进步。
▲人工智能领域国际顶级会议最佳论文奖跨 AI 子领域授予分布图
从来源会议来看,信息检索与推荐领域最佳论文除了被 RecSys、SIGIR 和 WWW 本领域会议最多授予之外,也较多被数据挖掘领域会议 WSDM、数据库领域的 SIGMOD和 VLDB 授予最佳论文奖,如下图所示。
▲信息检索与推荐领域最佳论文跨领域授予会议示例
(3)、机器学习技术成果集中在 2016-2018 年获得较多奖项认可
过去十年顶会最佳论文授予技术领域的年度趋势如下图所示,其中,色块颜色代表该项技术在某项会议所被授予的最佳论文数量,色块颜色越深表示论文数量越多。
从最佳论文奖被授予领域的年度趋势来看,机器学习领域过去十年内最佳论文在 2016 年被授予最多,为 9 篇,其次是 2017 和 2018 年,相关最佳论文数量均为 8 篇。从来源会议来看,共有 14 个顶会将最佳论文奖分别授予给机器学习领域。其中,最佳论文奖授予量较多的两大会议是 International Conference on Machine Learning (ICML)和 International Conference on Learning Representations(ICLR),分别为 13 和 12 篇。
▲人工智能领域国际顶刊顶会最佳论文授予领域年度趋势
4、安全与隐私领域最佳论文授予数量呈现增多趋势
随着人工智能快速发展和应用,许多领域开始注重技术的安全与隐私性。这体现在逐年增多的领域最佳论文数量上。尤其是 2014 年之后,安全与隐私领域年度最佳论文数量均超过 5 篇。
过去十年来,CCS、ICML、OSDI、S&P、SIGCOMM 和 WWW 等顶会均曾授予过安全与隐私领域的最佳论文奖。安全与隐私的最佳论文授予主要来自于IEEE Symposium on Security and Privacy (S&P)和 ACM Conference on Computer and Communications Security (CCS)两大会议。
5、国际顶会顶刊领域高影响力论文分析
论文引用量是衡量一个科研文献被业界认可度的标志,也是该文献影响力的重要体现。本部分针对人工智能国际顶会顶刊 2011-2020 年期间的所发表论文的引用量特征及所属领域进行分析。结果分析发现,某一学术会议中引用量最高的论文未必是该会议授予最佳论文奖的论文,反之亦然。
分析还发现, 人工智能不同子领域论文的最高引用量的量级跨度很大。如下图所示,2011-2020 年期间人工智能国际顶会顶刊最高引用量前十论文研究以机器学习领域为首,其次是计算机视觉领域研究论文。机器学习和计算机视觉领到域论文的引用量级均达到 25 万次以上,明显高于其他子领域最高引用论文的引用量。在所有子领域之中,知识工程领域论文的引用量级最少,不足于机器学习领域论文引用量的 2%。
▲2011-2020 年人工智能国际顶会顶刊各子领域最高引用量前十论文的引用量分布
具体来看,人工智能各个子领域在过去十年中出现在国际顶级会议期刊上的最高影响力论文相关信息如下表所示。其中,计算机视觉领域最高影响力论文是 2016 年 CVPR 上、以 Facebook AI Research 何恺明为第一作者的“Deep Residual Learning for Image Recognition”文章,其引用量已超过 6 万。
机器学习领域引用量最高的论文是发表在 2015 年 ICLR 会议上的“Adam: A Method for Stochastic Optimization”,该文是由 Google Brain 的 Diederik P., Kingma 和加拿大多伦多大学的助理教授 Jimmy Lei Ba 联合发表,目前引用量将近 6 万。
机器学习领域,影响力排名前 10 论文的引用率都超过万次,且半数以上论文引用率超过 2 万次,如表 4-6 所示。从论文研究主题来看,这 这 10 篇最高影响力论文全部都是与深度学习相关的。从论文来源来看,这 10 篇最高影响力论文之中,有 5 篇来自 NeurIPS 、3 篇来自 ICLR、2 篇来自 ICML。
居于首位的是2015 年 ICLR 会议上由 Google Brain 的 Diederik P., Kingma 和加拿大多伦多大学的助理教授 Jimmy Lei Ba 联合发表的“Adam: A Method for StochasticOptimization”论文。影响力排名第二位的是 Apple 公司研究员 Ian J.Goodfellow发表在 NeurIPS 2014 上的一篇论文“Generative Adversarial Nets”,该文也是 GANs的开山之作。影响力排名第三位的论文是 Facebook 科学家 Tomas Mikolov 发表在 NeurIPS 2013 上的“Distributed Representations of Words and Phrases and theirCompositionality”。
▲2011-2020 年机器学习领域最高影响力论文前十
计算机视觉领域,最高影响力前十论文如表 4-7 所示。其中,最高引用的论文是发布于 2016 年 CVPR 上、以 Facebook AI Research 何恺明为第一作者的“Deep Residual Learning for Image Recognition”文章,其引用量已超过 6 万。
这篇论文也荣获了当年 CVPR Best Paper 奖项,联合作者还包括旷视科技的研究员张祥雨、首席科学家与研究院院长孙剑,以及当时就职于 Momenta 任少卿。该文是一篇非常经典的神经网络的论文,主要通过构建了一种新的网络结构来解决当网络层数过高之后更深层的网络的效果没有稍浅层网络好的问题,并且做出了适当解释以及用 ResNet 残差网络解决了问题。
▲2011-2020 年计算机视觉领域最高影响力论文前十
自然语言处理领域,过去十年中最高影响力前十论文的具体信息如下表所示。其中,最高引用量论文是 Google 研究员 Jeffrey Pennington 在 2014 年 EMNLP会议发表的论文“Glove: Global Vectors for Word Representation”,这篇论文提出的单词表示模型是通过仅训练单词-单词共现矩阵中的非零元素,而不是整个稀疏矩阵或大型语料库中的单个上下文窗口,来有效地利用统计信息。该模型产生一个具有有意义子结构的向量空间,在相似性任务和命名实体识别方面优于相关模型。
▲2011-2020 年自然语言处理领域最高影响力论文前十
6、过去十年十大人工智能研究热点
过去十年十大 AI 研究热点分别为:深度神经网络、特征抽取、图像分类、目标检测、语义分割、表示学习、生成对抗网络、语义网络、协同过滤和机器翻译。
▲AMiner 评选出的近十年十大 AI 研究热点
(1)、深度神经网络
深度神经网络是深度学习的基础,又被称为深度前馈网络(DFN)、多层感知机(Multi-Layer perceptron,MLP),可以理解为是有很多隐藏层的神经网络。深度神经网络可以在没有大量标记数据的情况下解决问题。代表算法包括卷积神经网络、循环神经网络、递归神经网络等。
深度神经网络的被引用量保持了较长时间的稳定平稳增长;深度卷积神经网络技术则于 2014 年开始获得更多引用。目前,深度神经网络(DNN)是许多人工智能应用的基础,从自动驾驶汽车、癌症检测到大型游戏等。在这许多领域中,DNN 实现了超越人类的准确率。
数据显示,过去十年中,有 5405 篇以卷积神经网络为研究主题的论文在人工智能国际顶会顶刊论文中发表,其总引用量达 299729,并且在这些顶会顶刊论文引用量排名前十的论文中出现过 125 次。该技术的最终指数评分为98.16 ,位列过去十年最热门 AI 研究主题之首。
(2)、特征抽取
特征抽取(Feature Extraction)热门是信息检索与推荐中的一项技术,专指使用计算机提取一组测量值中属于特征性的信息的方法及过程,并将所抽取出的有效实体信息进行结构化存储。目前特征抽取已引入机器学习、深度学习、神经网络技术,其中,神经网络计算已应用于图片特征抽取。
针对某个特定图片,通过卷积神经网络对图片进行特征抽取得到表征图片的特征,利用度量学习方法如欧式距离对图片特征进行计算,对图片距离进行排序,得到初级检索结果,再根据图片数据的上下文信息和流形结构对图像检索结果进行重排序,从而提高图像检索准确率,得到最终的检索结果。
数据显示,过去十年中,有 1747 篇以特征抽取为研究主题的论文在人工智能国际顶会顶刊论文中发表,其总引用量达 95205,并且在这些顶会顶刊论文引用量排名前十的论文中出现过 8 次。该技术的最终评分为 21.51 ,位列过去十年 AI 研究热点亚军。
(3)、图像分类
图像分类(Image Classification)是指计算机利用算法从给定的分类集合中给某个特定图像正确分配一个标签的任务,其目标是将不同的图像划分到不同的类别中,并实现最小的分类误差,较多应用于计算机视觉、信息检索与推荐领域。2012 年,加拿大认知心理学家和计算机科学家 Geoffrey Everest Hinton 的博士生Alex Krizhevsky 在 ILSVRC 将深度学习用于大规模图像分类中并提出了 CNN 模型,其计算效果大幅度超越传统方法,获得了 ILSVRC2012 冠军,该模型被称作AlexNet。从 AlexNet 之后,涌现了一系列 CNN 模型,不断地在 ImageNet 上刷新成绩。目前的深度学习模型的识别能力已经超过了人眼。
数据显示,过去十年中,有 612 篇以图像分类为研究主题的论文在人工智能国际顶会顶刊论文中发表,其总引用量达 50309,并且在这些顶会顶刊论文引用量排名前十的论文中出现过 16 次。该技术的最终评分为 14.14,位列过去十年最热门 AI 研究主题第三名。
(4)、目标检测
目标检测(Object Detection)作为计算机视觉和图像处理领域一个分支,是指利用图像处理与模式识别等领域的理论和方法,检测出数字图像和视频中存在的特定类别的目标对象,确定这些目标对象的语义类别,并标定出目标对象在图像中的位置。对象检测是对象识别的前提,具有很大发展潜力。
对象检测已经有许多有用有趣的实际应用,如人脸识别、行人检测、视觉搜索引擎、计数、航拍图像分析等。深度学习模型在图像分类任务中碾压了其他传统方法。很多对象检测的新方法和新应用推动了深度学习最前沿的科技发展。
过去十年中,有 472 篇以目标检测为研究主题的论文在人工智能国际顶会顶刊论文中发表,其总引用量达 49602 次,并且在这些顶会顶刊论文引用量排名前十的论文中出现过 13 次。该技术的最终评分为 12.73,位列最热门 AI 研究主题第四名。
(5)、语义分割
语义分割(Semantic Segmentation)是让计算机根据图像的语义进行分割,判断图像中哪些像素属于哪个目标。近年来,许多语义分割问题正在采用深度学习技术来解决,最常见的是卷积神经网络,在精度上大大超过了其他方法以及效率。目前语义分割的应用领域主要有:地理信息系统、无人车驾驶、医疗影像分析和机器人等领域。
过去十年中,有 275 篇以语义分割为研究主题的论文在人工智能国际顶会顶刊论文中发表,其总引用量达 27893 次,并且在这些顶会顶刊论文引用量排名前十的论文中出现过 23 次。该技术的最终评分为 12.01,位列最热门 AI 研究主题第五名。
(6)、表示学习
表示学习(Representation Learning),是指将原始数据转换成能够被机器学习的一种深度学习技术。它能够从复杂的原始数据中提炼有效特征,剔除无效或者冗余信息,形成可用的数据表示。在知识表示学习中,词嵌入(Word Embedding)是自然语言处理的重要突破之一,它可以将词表示为实数域向量,进而为机器学习和深度学习提供模型训练的基础。
近些年很多专家和学者利用词嵌入的表示学习原理进行相关领域的研究,主要的表示方法包括 Word2Vec、One-hot、词共现等。这些方法已经成为当下人工智能技术应用的基础,为机器学习提供了高效的表示能力。
过去十年中,有 711 篇以表示学习为研究主题的论文在人工智能国际顶会顶刊论文中发表,其总引用量达 49892 次,并且在这些顶会顶刊论文引用量排名前十的论文中出现过 8 次。该技术的最终评分为 11.88,位列最具影响力 AI 技术第六名。
(7)、生成对抗网络
生成对抗网络(Generative Adversarial Networks, GAN)是用于无监督学习的机器学习模型,由 Ian Goodfellow 等人在 2014 年提出。由神经网络构成判别器和生成器构成,通过一种互相竞争的机制组成的一种学习框架。GAN 功能强大,学习性质是无监督的,也不需要标记数据。
传统的生成模型最早要追溯到 80 年代的 RBM,以及后来逐渐使用深度神经网络进行包装的 AutoEncoder,然后就是现在的生成模型 GAN。GAN 具有大量的实际用例,如图像生成、艺术品生成、音乐生成和视频生成。此外,它还可以提高图像质量,并且完成图像风格化或着色、面部生成以及其他更多有趣的任务。
过去十年在人工智能国际顶会顶刊论文中发表有 362 篇以生成对抗网络为研究主题的论文,其总引用量达 24536 次,并且在这些顶会顶刊论文引用量排名前十的论文中出现过 22 次。该技术的最终评分为 11.44,位列最热门 AI 研究主题第七名。
(8)、语义网络
语义网络(Semantic Network)是一种以网络格式表达人类知识构造的形式,是人工智能程序运用的表示方式之一,相关研究主要集中在信息检索与推荐、知识工程领域。语义网络是一种面向语义的结构,它们一般使用一组推理规则,规则是为了正确处理出现在网络中的特种弧而专门设计的。语义网络可以深层次地表示知识,包括实体结构、层次及实体间的因果关系;无推理规律可循;知识表达的自然性可以直接从语言语句强化而来。
过去十年在人工智能国际顶会顶刊论文中有 1192 篇以语义网络为研究主题的论文发表,总引用量达 44897 次,并且在这些顶会顶刊论文引用量排名前十的论文中出现过 2 次。语义网络技术的最终评分为 10.60,位列最热门 AI 研究主题第八名。
(9)、协同过滤
协同过滤(CF)是推荐系统使用的一种技术,通过收集来自多个用户的偏好、兴趣、评价标准等用户行为数据来过滤信息,并自动预测(过滤)用户兴趣的方法,为用户提供有针对性的推荐及其所需信息。大多数协同过滤系统都应用基于相似度索引的技术。协同过滤是解决信息超载问题的一个有效办法。无论是基于用户-用户的协同过滤,还是项目-项目的协同过滤,都有效地提高了用户信息的使用效率。
过去十年在人工智能国际顶会顶刊论文中有 289 篇以协同过滤为研究主题的论文,其总引用量达 36681 次,并且在这些顶会顶刊论文引用量排名前十的论文中出现过 12 次。该技术的最终评分为 9.98,位列最热门 AI 研究主题第九名。
(10)、机器翻译
机器翻译(Machine Translation),又称为自动翻译,是利用计算机把一种自然源语言转变为另一种自然目标语言的过程,通常指自然语言之间句子和全文的翻译。它是自然语言处理(Natural Language Processing)的一个分支,与计算语言学(Computational Linguistics)、自然语言理解(Natural Language Understanding)之间存在密不可分的关系。
机器翻译是人工智能的终极目标之一,其核心语言理解和语言生成是自然语言处理的两大基本问题。近几年来,随着深度学习技术的发展,神经机器翻译取得了巨大进展,其生成的译文接近自然语句,成为了主流语言学习模型。
过去十年在人工智能国际顶会顶刊论文中发表有 389 篇以机器翻译为研究主题的论文,其总引用量达 23119 次,并且在这些顶会顶刊论文引用量排名前十的论文中出现过 14 次。该技术的最终评分为 8.84,成为 AI 研究热点第十名。
02.AI领域高层次人才分析
1、全球 AI 领域高层次人才
过去十年,全球人工智能发展迅速。中国、美国、欧盟、英国、德国等国家纷纷从战略上布局人工智能,加强顶层设计和人才培养。本报告数据显示,全球人工智能领域学者数量共计 155408 位,覆盖 120 多个国家,主要集中在北美洲、欧洲、东亚地区。
人工智能领域论文发表量反映了一个国家在领域的科研实力。在 AI 领域论文发表量 TOP10 的国家之中,美国、中国和德国的论文产出量分别位前三名,其余国家(英国、加拿大、日本、法国、澳大利亚、韩国和新加坡)领域论文产出量均在 2 万篇以下。
其中,美国在 AI 领域的论文发表数量和人才数量都位于全球第一,有近四成的全球 AI 领域论文产出是来自美国,并且美国 AI 学者数量约占全球领域学者总量的 31.6%。
中国在人工智能领域的论文发表数量(25418篇)和人才数量(17368 位)仅低于美国,同时,大幅领先于其他国家。这反映出中国近年来发布的从产业发展、教育等各个方面支持人工智能发展的一系列支持政策,以及不断加强人才培养和补齐人才短板的行动已见成效。
从子领域的领先国家来看,美国在人工智能领域具有明显的科研产出优势,在几乎所有子领域的论文产出量均居于全球首位。中国的 AI 科研产出水平在自然语言处理、芯片技术、机器学习、信息检索与挖掘等 10 多个子领域都紧随美国之后,并且,在多媒体、物联网领域的论文产出量超过美国、居于全球第一;而在人机交互、知识工程、机器人、计算机图形、计算理论领域,中国还需努力追赶。
AI 高层次学者是指入选 AI2000 榜单的 2000 位人才。由于存在同一学者入选不同领域的现象,经过去重处理后,AI 高层次学者共计 1833 位。从这些高层次学者分布看,如下图所示,AI 领域全球高层次学者覆盖全球 37 个国家,主要集中在北美洲的美国地区;欧洲中西部也有一定的高层次学者分布;亚洲的高层次人才主要分布于中国、新加坡及日韩等地区;其他诸如南美洲、非洲等地区的高层次学者数量稀少。
从国家角度看 AI 高层次学者分布,美国 AI 高层次学者的数量最多,有 1244人次,占比 62.2%,超过总人数的一半以上,且是第二位国家数量的 6 倍以上。中国排在美国之后,位列第二,有 196 人次,占比 9.8%。德国位列第三,是欧洲学者数量最多的国家;其余国家的学者数量均在 100 人次以下。人工智能领域高层次学者人数 TOP10 的国家如下图所示。
▲人工智能领域高层次学者数量 TOP10 国家
总体来看,全球范围内,美国和中国的机构在人工智能领域的论文产出和学者数量较多,占据了 AI 领域论文量排名前 10 机构的全部席位。从 AI 高层次人才分布看,全球 AI 高层次人才隶属于各个国家的高等院校或高科技公司的科研部门。
如下图所示,全球人工智能领域高层次学者量TOP10机构之中,位居首位的是美国的谷歌公司,拥有 185 人,也是唯一一家高层次学者数过百的机构;从国家分布来看,清华大学是唯一入选 TOP10 的中国机构,其余均为美国机构,且美国机构高层次学者总体人数遥遥领先。
从子领域论文量来看,美国的大学和科技机构在 AI 各个细分方向上的发展较为均衡,且在自然语言处理、芯片技术、机器学习、信息检索与挖掘、人机交互等 10 多个子领域的发展居于全球领先席位。这反映出美国在人工智能领域的顶级实力。
中国的 AI 机构在语音识别、经典 AI、计算机网络、多媒体、可视化和物联网等领域实力较强,进入全球先进行列。这些机构主要是位于北京的清华大学、中科院和北京邮电大学,以及浙江大学。
2、中国 AI 领域高层次人才
过去十年,我国人工智能发展迅猛。2017 年,人工智能首次被写入全国政府工作报告,我国确定新一代人工智能发展三步走战略目标,并将人工智能上升为国家战略层面。本报告数据显示,我国人工智能领域学者数量共计 17368 位,覆盖 100 多个国内城市。从地域分布来看,我国 AI 人才主要集中在京津冀、长三角和珠三角地区。
国内AI领域高层次人才也主要分布在京津冀、长三角和珠三角地区,如下图所示。其中,京津冀地区(主要是北京市)在 AI 领域的高层次人才数量最多。长三角地区也有较多的 AI 高层次人才分布。相比之下,内陆地区领域高层次人才较为缺乏。在学者分布地图中,颜色越深,表示学者越集中;颜色越浅,表示学者越稀少。
从 AI 高层次学者分布来看,北京仍是拥有 AI 高层次学者数量最多的国内城市,有 79 位,占比 45.4%,接近于国内 AI 高层次人才的一半,如下图所示。北京作为政治中心、文化中心、国际交往中心、科技创新中心具有先天优势,拥有数量众多的 AI 企业和多所知名高校和研究机构,北京的高水平 AI 论文发表量和高层次学者量明显领先于其他国内城市。同时,从子领域发展来看,北京在AI 各个细分方向上的发展较为均衡,相关论文产出量均居于全国领先位置。
▲人工智能领域高层次学者数量 TOP10 的中国城市
国内人工智能领域研究领先的机构主要以北京、香港、杭州、上海等地的高等院校为主。北京在人工智能领域的资源优势,该城市拥有清华大学、北京大学、中国科学院等知名高校。杭州和香港的机构也处于 AI 子领域研究前列,主要由于前者拥有阿里巴巴和浙江大学,后者则因其香港科技大学和香港中文大学等实力高校。
在国内机构之中,北京的清华大学不仅拥有 AI 领域学者数量最多,而且所拥有的领域高层次人才数量也居于国内首位,有 27 位。国内高层次 AI 人才基本都隶属于高校。香港中文大学、浙江大学和中国科学院在人工智能领域的高层次学者数量分别为 16、14 和 11 位。其他的国内机构所拥有的 AI 领域高层次人才数量均不足十位,如下图所示。
▲人工智能领域高层次学者数量 TOP10 的中国机构
中国 AI 领域高层次人才培养从2018 年起开始重点发展,主要由高校通过成立AI 学院研究院立 、设立 AI 专业的方式进行培养。教育部在《高等学校人工智能创新行动计划》(教技〔2018〕3 号)中提出,要加强人工智能领域专业建设,形成“人工智能+X”复合专业培养新模式。
到 2020 年建设 100 个“人工智能+X”复合特色专业,建立 50 家人工智能学院、研究院或交叉研究中心,并引导高校通过增量支持和存量调整,加大人工智能领域人才培养力度。到 2020 年,高校要基本完成新一代人工智能发展的高校科技创新体系和学科体系的优化布局。到 2030 年,高校要成为建设世界主要人工智能创新中心的核心力量和引领新一代人工智能发展的人才高地。
教育部于 2019 年 3 月颁布《关于公布 2018 年度普通高等学校本科专业备案和审批结果的通知》 , 将人工智能专业列入 新增审批本科专业名单,专业代码为 080717T(T 代表特设专业),学位授予门类为工学。在此之前,国内没有高校在本科阶段设置人工智能专业。
2020 年 2 月, 教育部颁布《关于公布 2019 年度普通高等学校本科专业备案和审批结果的通知》 。统计结果显示, 人工智能方面,本次全国范围内获得人工智能专业首批建设资格的共有180 所,相比2018 年的 35 所,增加 414% , 反映出人工智能专业的热度攀升 。
截至目前,国内共有215 所高校成立“人工智能”本科专业。这些高校之中,有 60 所双一流大学(占比 28%),其他 155 所为普通本科院校。
从地域分布看,2019 年度新增人工智能专业较多的省份依次是 山东14所 、江苏13所 、 北京11所、安徽10所 、 河南10所 、 四川 10所,其余省份新增人工智能专业的高校数量均不足 10 所。但这些数字加起来占全国高校总量比例仍然较小,高校人工智能本科教育仍处于起步和发展阶段。
在 AI 人才紧缺,国家政策推动 AI 发展趋势等因素影响下,相比于建设人工智能专业,很多高校更愿意设立一个人工智能研究独立学院。截至 2019 年 6 月,至少有 38 所高校设立了独立人工智能学院,全面开展本科阶段、研究生阶段的教育,并且在 2019 年开始以人工智能专业招收本科生。
据统计 ,截止到 2019 年年底,我国已经有 66 所高校成功建设人工智能学院、研究院、研究中心或研究所,超额完成了教育部在《高等学校人工智能创新行动计划》中强调的到 2020 年在全国高校中建立 50 家人工智能学院、研究院或交叉研究中心的目标。
总之,中国各大高校设立人工智能一级学科、建立人工智能学院,有助于精准布点人工智能相关专业以满足国家和区域的产业发展需求,有助于加快建设一流人才队伍和高水平创新团队、进一步推动国际学术交流与合作、专业和教材建设,提高人才培养质量,推动科技成果转化。
03.人工智能专利分析
专利是创新成果的应用表现形式。本部分将通过人工智能领域专利分析,挖掘该技术的创新应用情况。以墨创全球专利数据库作为数据来源,使用行业专家和相关技术领域专利审查专家共同给出的人工智能领域关键词在标题和摘要中进行检索,搜索时间范围限定为 2011-2020 年。
专利数据分析发现,随着核心算法的突破、计算能力的迅速提升以及海量数据的支撑,过去十年的 人工智能专利申请量呈现逐渐上升态势。
1、全球 AI 专利分析
全球范围内,过去十年人工智能领域的专利申请量 521264,总体上呈逐年上升趋势,如下图所示。
▲全球人工智能专利申请量年度变化趋势
全球 AI 专利申请数量排名领先的国家/地区如下图所示。从图中可以看出,目前,全球人工智能专利申请集中在中国、美国、日本、韩国。其中,中国和美国处于领先地位,遥遥领先其他国家。中国专利申请量为 389571,位居世界第一,占全球总量的 74.7%,是排名第二的美国的 8.2 倍。
▲全球 AI 专利申请量 Top10 国家
过去十年,全球人工智能专利申请之中,将近一半的申请人是来自于企业。高校和研究所的相关申请量共计约两成。
▲全球 AI 专利申请类型分布
人工智能专利申请量前十的机构集中在日本、中国、韩国和美国。其中,日本的佳能是一家致力于图像、光学和办公自动化产品的公司,该公司的绝大多数专利都与成像有关,申请量最高的人工智能功能应用类别是计算机视觉。美国IBM 公司的专利申请很多都与 IBM 的自然语言处理和机器学习技术有关。中国的国家电网的专利申请多与电网控制、配电利用网络、风电场、绿色能源等领域的人工智能开发有关。
▲全球 AI 专利申请人排名 TOP10
2、中国 AI 专利分析
过去十年,中国人工智能领域的专利申请量 389571,约占全球申请量的74.7%。总体上,国内的人工智能相关专利申请量呈逐年上升趋势,并且在 2015年后增长速度明显加快,如下图所示。
▲中国人工智能专利申请量年度趋势
中国各省市 AI 专利申请数量的分布情况如下图所示。从图中可以看出,广东省的 AI 专利申请量以 72737 位居第一,比排名第二的北京市(50906)多出42.8%,具有突出优势。前十名的省份主要分布在东部、中部、西部等地区,分布较为均衡,但是以东部省市居多,江浙沪三省市均位居前五名。这与这些地区的经济水平、发展程度、科研投入及知识产权保护等因素密切相关。
▲全国AI专利申请量 TOP10省份
中国 AI 专利申请数量排名前十的机构如下图所示,包括 5 家企业和 5 所高校,主要分布在广东、北京、浙江和四川。目前中国在 AI 专利领域的创新主要还是依靠高科技互联网企业和高校科研机构等方面的共同努力。国家电网专利申请量最多,其次是腾讯科技,体现出这两家企业在 AI 领域的创新能力比较突出,对相关技术领域的引领作用较强。
▲中国AI专利申请量 TOP10机构
04.未来机遇与挑战
1、未来发展机遇
目前,全球已有美国、中国、欧盟、英国、日本、德国、加拿大等 10 余个国家和地区纷纷发布了人工智能相关国家发展战略或政策规划,用于支持 AI 未来发展。这些国家几乎都将人工智能视为引领未来、重塑传统行业结构的前沿性、战略性技术,积极推动人工智能发展及应用,注重人工智能人才队伍培养。这是AI 未来发展的重要历史机遇。
美国:指定AI研究为政府优先事项并调入更多支持资金和资源。美国高度重视人工智能全面发展,包括立法、研发投资、人才培养等多个方面纷纷给予支持。2016 年,美国国家科学技术委员会(NSTC)发布《国家人工智能研发战略计划》全面布局人工智能发展。与此同时,美国总统办公室发布报告《为未来人工智能做好准备》,以应对人工智能带来的潜在风险,以及《人工智能、自动化与经济报告》,强调人工智能驱动的自动化对经济发展的影响。
2018 年,美国白宫首次将人工智能指定为政府研发的优先事项,并且成立人工智能特别委员会,旨在协调联邦政府各机构之间人工智能研发优先事项,并向白宫提出行动建议,以确保美国人工智能技术的领导地位。美国国防部高级研究项目局宣布投资 20 亿美元开发下一代人工智能技术。美国国会两院讨论包括《人工智能未来法案》《人工智能就业法案》和《国家安全委员会人工智能法案》等法案。五角大楼成立了“联合人工智能中心”,确保国防部对人工智能相关数据信息的高效利用。
2019 年,美国白宫科学和技术政策办公室(OSTP)发布了由总统特朗普签署的《美国人工智能倡议》,将人工智能的重要性上升到美国经济安全和国家安全的层面,要求调配更多联邦资金和资源转向人工智能研究,并呼吁美国主导国际人工智能标准的制定,开展人工智能时代美国劳动力培养的研究。白宫还对《国家人工智能研发战略计划》进行了更新,确定了联邦投资于人工智能研发的优先事项。
美国防部网站公布《2018 年国防部人工智能战略摘要——利用人工智能促进安全与繁荣》,并成立联合人工智能中心(JAIC),旨在加快人工智能快速赋能关键作战任务,统筹协调人工智能研发项目,积极维持美国在 AI 方面的战略地位。同年,国防授权法案批准设立人工智能国家安全委员会,该委员会旨在全面审查、分析人工智能技术及系统;商务部成立白宫劳动力委员会,以帮助美国储备人工智能等新兴科技发展所需的人才;国家科学基金会持续资助人工智能基础研究领域。
欧盟:重视并推动 AI 发展中的伦理和安全理念。欧盟在人工智能发展战略中坚持推行以人为本的理念,在 2018 年发布了《欧盟人工智能战略》,推动欧盟人工智能领域的技术研发、道德规范制定以及投资规划,并计划在 2020 年底至少投入 200 亿欧元。随后,欧盟宣布在“地平线 2020”研究与创新项目中对人工智能研发投入 15 亿欧元的专项资金,将资助创建欧洲人工智能生态系统的支撑平台。
欧盟专门设立了高级别人工智能专家组(AI HLEG),就人工智能的投资和政策制定提出建议,为人工智能的道德发展制定指导方针。该专家组制定了《可信赖的人工智能道德准则草案》,提出实现可信赖人工智能的道德准则和具体要求,包括数据保护和数据透明度等问题。该草案是欧盟为增加政府和私营部门人工智能领域合作的提出的三大战略之一,三大战略包括:增加政府和私营部门对人工智能的投资、为人工智能可能引发的社会和经济变革做好准备、建立适当的人工智能道德和法律框架。
此外,欧盟成员国还于 2018 年签署了《人工智能合作宣言》,就人工智能可能引发的社会、经济、伦理道德和法律等重要问题开展合作,确保欧洲在人工智能研发和应用上具有强大竞争力。随后,又发布《促进人工智能在欧洲发展和应用的协调行动计划》,提出设计伦理和设计安全两大关键原则,旨在使欧盟成为发展前沿、符合道德伦理、安全的人工智能技术的世界领先地区,强调将通过以人为本的方式促进人工智能技术发展。
2019 年,欧盟启动了 AI FOR EU 项目,建立人工智能需求平台、开放协作平台,整合汇聚 21 个成员国 79 家研发机构、中小企业和大型企业的数据、计算、算法和工具等人工智能资源,提供统一开放服务。此外还发布了《人工智能伦理准则》,以提升人们对人工智能产业的信任。
英国:不断加大政策、资金、人才和国际合作方面的布局力度。英国政府在 2017 年发布的《产业战略:建设适应未来的英国》中,确立了人工智能发展的四个优先领域:将英国建设为全球 AI 与数据创新中心;支持各行业利用 AI 和数据分析技术;在数据和人工智能的安全等方面保持世界领先;培养公民工作技能。随后,发布了《在英国发展人工智能》,建议建立人工智能和数据科学的艾伦·图灵研究所,旨在与其他公共研究机构建立合作,统筹协调针对人工智能研究的计算能力。
2018 年,英国政府发布《产业战略:人工智能领域行动》,这是英国政府和产业界做出的首份发展人工智能的承诺,将采取切实行动推进人工智能发展,促进英国人工智能和数字驱动的经济蓬勃发展。英国政府在《人工智能领域行动》等多个人工智能方面的政策文件中,提出政府提高研发经费投入,优先支持关键领域的创新等措施。
这些举措包括:未来 10 年,英国政府将研发经费(包括人工智能技术)占 GDP 的比例提高到 2.4%;2021 年研发投资将达 125 亿英镑;从“产业战略挑战基金”中拨款 9300 万英镑,用于机器人与 AI 技术研发等。英国政府也积极推出针对初创企业的激励政策。
近年来,英国政府不断加大政策、资金、人才、国际合作等方面的布局力度。在政策方面,据英国政府 2018 年推出的《工业战略:人工智能产业政策》报告显示,过去 3 年英国发布了包括人工智能产业在内的工业战略白皮书、人工智能产业政策等各项措施,并成立了人工智能发展委员会、数据伦理与创新中心、人工智能发展办公室及工业战略挑战基金等相关机构,以推动人工智能的发展。在资金方面,英国规划制定了金额超 9 亿英磅(约 78.7 亿元人民币)的一揽子人工智能产业扶持计划,还将投资谷歌、亚马逊、“人工智能元素”(Element AI)以及“慧与科技”(HPE)等一系列跨国科技公司。
2019 年 2 月,英国政府宣布投资 1300 万英镑(约 1.13 亿元人民币)支持 40 个人工智能及数据分析项目,旨在提升生产力,改善英国的专业服务。在人才方面,自 2017 年起,英国计划将在 4 年内培育 8000 名计算机科学教师;未来 7 年,通过培训让 5000 名学生具备多样化的数字技术;支持新增 450 个与人工智能相关的博士点;加大包括人工智能人才在内的海外特殊人才引进力度,每年增加 1000 名至 2000 名人才引进。
在国际合作方面,2018 年 7 月,英国与法国签订五年协议,在人工智能等数字产业领域加强双方高端科研中心的合作;2019 年 1 月,英国决定与日本在机器人、数据等领域加强深度合作。
德国:用 AI+ 工业 4.0 打造“人工智能德国造”品牌。德国政府早在 2013 年提出的“工业 4.0”战略中,就已经涵盖了人工智能。2018 年,德国联邦政府颁布了《高科技战略 2025》,提出“推进人工智能应用,使德国成为人工智能领域世界领先的研究、开发和应用地点之一”,还明确提出建立人工智能竞争力中心、制定人工智能战略、组建数据伦理委员会、建立德法人工智能中心等。
在《联邦政府人工智能战略》中制定三大战略目标,以及包括研究、技术转化、创业、人才、标准、制度框架和国际合作在内的 12 个行动领域,旨在打造“人工智能德国造”品牌。在资金投入方面,德国政府宣布将首先投入 5 亿欧元用于 2019 年及之后几年的人工智能发展,并将在 2025 年底累计投入 30 亿欧元。德国经济和能源部在 2019 年发布的《国家工业战略 2030》(草案)中,也多次强调人工智能的重要性。
2020 年 1 月 15 日,德国柏林工业大学宣布成立新的人工智能研究所,进一步开展人工智能科研和人才培养。德国联邦政府将在人工智能战略框架内对该研究所追加预算,预计到 2022 年时,研究所将获得 3200 万欧元财政支持。柏林市政府也将为研究所新增人工智能岗位。
日本:主张构建有效且安全应用的“AI-Ready 社会”。日本政府积极发布国家层面的人工智能战略、产业化路线图。2016 年成立了人工智能技术战略委员会,作为人工智能国家层面的综合管理机构,以制定人工智能研究和发展目标以及人工智能产业化路线图,负责推动总务省、文部省、经产省以及下属研究机构间的协作,进行人工智能技术研发。该委员会有 11 名成员,分别来自学术界、产业界和政府。
2017 年,日本发布《人工智能技术战略》,确定了在人工智能技术和成果商业化方面,政府、产业界和学术界合作的行动目标。2018 年,日本发布《综合创新战略》提出要培养人工智能领域技术人才,确保在 2025 年之前每年培养和录用几十万名 IT 人才。此外,还发布了《集成创新战略》,将人工智能指定为重点发展领域之一,提出要加大其发展力度,同时强调要加强人工智能领域人才培养。
2018 年 12 月 27 日,日本内阁府发布《以人类为中心的人工智能社会原则》推进人工智能发展,从宏观和伦理角度表明了日本政府的态度,主张在推进人工智能技术研发时,综合考虑其对人类、社会系统、产业构造、创新系统、政府等带来的影响,构建能够使人工智能有效且安全应用的“AI-Ready 社会”,于 2019 年 3 月正式公布。
此原则是将人工智能(Artificial Intelligence, AI)视为未来的关键科技,但在研发应用上,须以联合国的持续发展目标(Sustainable Development Goals, SDGs)为基础,以落实日本“超智能社会”(Society 5.0)为准则,其基本理念是 Dignity、Diversity & Inclusion 及Sustainability,并且建构“尊重人类尊严”、“不同背景的大众皆能追求幸福”及“持续性”的社会。
韩国:提升领域竞争力发展成为“AI 强国”。韩国政府于 2019 年 12 月 17 日公布“人工智能(AI)国家战略”,以推动人工智能产业发展。该战略旨在推动韩国从“IT 强国”发展为“AI 强国”,计划在 2030 年将韩国在人工智能领域的竞争力提升至世界前列。
并且,提出构建引领世界的人工智能生态系统、成为人工智能应用领先的国家、实现以人为本的人工智能技术。在人工智能生态系统构建和技术研发领域,韩国政府将争取至2021 年全面开放公共数据,到 2024 年建立光州人工智能园区,到 2029 年为新一代存算一体人工智能芯片研发投入约 1 万亿韩元。
其他国家:
加拿大在 2017 年宣布了泛加拿大人工智能战略,承诺提供 1.25 亿加元的加拿大人工智能研究与开发。这一战略旨在增加加拿大的 AI 和毕业生人数。在埃德蒙顿、蒙特利尔和多伦多建立科学卓越中心。建立加拿大在 AI 经济、伦理、政策和法律研究方面的全球思想领导地位。
法国于 2018 年 3 月发布 AI 战略,将投入 1.5 亿欧元把法国打造成 AI 研究、训练和行业的全球领导者。该计划由四个部分组成,一是宣布国家人工智能计划,将在法国各地建立一个由四五个研究机构组成的网络;二是将制定一项开放数据政策,推动人工智能在医疗等领域应用;三是政府将创建一个监管和金融框架,以支持国内“人工智能冠军企业”的发展;四是政府将制定道德规范。
印度在 2018 年 6 月发布《人工智能国家战略》,探求如何利用人工智能来促进经济增长和提升社会包容性,寻求一个适用于发展中国家的 AI 战略部署。该战略旨在提高印度人的工作技能,投资于能够最大限度地提高经济增长和社会影响的研究和部门,以及将印度制造的人工智能解决方案推广到其他发展中国家。
以色列于 2019 年 11 月发布了国家级人工智能计划,提出以色列要成为人工智能的世界五大国之一。并且政府以五年为一期,每年投资 10 至 20 亿新谢克尔(约 2.89 亿至 5.8 亿美元)开发人工智能技术,总共投资 100 亿新谢克尔(约28.93 亿美元)于人工智能领域。
西班牙于 2019 年 3 月发布《西班牙人工智能研究、发展与创新战略》,认为最优先事项是建立一个有效的机制,以保障人工智能的研究、发展、创新,并评估人工智能对人类社会的影响。
中国AI发展支持政策:党和国家高度重视 AI 发展,从产业发展、教育等各个方面支持人工智能的发展。习近平总书记也曾多次强调用人工智能开辟社会治理新格局、人工智能为高质量发展赋能。早在 2015 年,《国务院关于积极推进“互联网+”行动的指导意见》就提出加快人工智能核心技术突破,促进人工智能在智能家居、智能终端、智能汽车、机器人等领域推广应用的目标。近年来发布了一系列的支持人工智能发展政策,如下图所示。
▲中国人工智能发展重要支持政策
进入 2020 年,国家大力推进并强调要加快 5G 网络、人工智能、数据中心等新型基础设施建设进度。人工智能技术被视为新一轮产业变革的核心驱动力量。此外,教育部、国家发展改革委、财政部联合发布了《关于“双一流”建设高校促进学科融合加快人工智能领域研究生培养的若干意见》,提出要构建基础理论人才与“人工智能+X”复合型人才并重的培养体系,探索深度融合的学科建设和人才培养新模式。7 月,国家标准化管理委员会、中央网信办、国家发展改革委、科技部、工业和信息化部联合印发《国家新一代人工智能标准体系建设指南》(国标委联〔2020〕35 号),以加强人工智能领域标准化顶层设计,推动人工智能产业技术研发和标准制定,促进产业健康可持续发展。
2、人工智能未来技术研究方向
人工智能经历几波浪潮之后,在过去十年中基本实现了感知能力,但却无法做到推理、可解释等认知能力,因此在下一波人工智能浪潮兴起时,将主要会去实现具有推理、可解释性、认知的人工智能。2015 年,张钹院士提出第三代人工智能体系的雏形。2017 年,DARPA 发起 XAI 项目,核心思想是从可解释的机器学习系统、人机交互技术以及可解释的心理学理论三个方面,全面开展可解释性AI 系统的研究。2018 年底,第三代人工智能的理论框架体系正式公开提出,核心思想为:
(1)建立可解释、鲁棒性的人工智能理论和方法;
(2)发展安全、可靠、可信及可扩展的人工智能技术;
(3)推动人工智能创新应用。
其中具体实施的路线包括:
(1)与脑科学融合,发展脑启发的人工智能理论;
(2)探索数据与知识融合的人工智能理论与方法。虽然还没有明确第三代人工智能是什么,但是其趋势是清晰的。
Gartner 2020 年人工智能技术成熟度曲线图显示,如下图所示。2020 年人工智能技术成熟度曲线共有 30 项技术出现,其中有 17 项技术需要 2 到 5 年才能达到成熟期,有 8 项技术需要 5 到 10 年才能达到成熟期。出现的这些技术基本处于创新萌芽期、期望膨胀的顶峰期和泡沫低谷期,而“稳步爬升的光明期”和“实质生产的高峰期”出现的技术寥寥无几,仅有 Insight Engines(洞察引擎)和 GPUAccelerators (GPU 加速器)。
▲Gartner 2020 年人工智能技术成熟度曲线图
通过对 2020 年人工智能技术成熟度曲线分析,并结合人工智能的发展现状,本报告认为人工智能下一个十年重点发展的方向包括:强化学习(Reinforement Learning)、神经形态硬件(Neuromorphic Hardware)、知识图谱(Knowledge Graphics)、智能机器人(Smart Robotics)、可解释性 AI(Explainable AI)、数字伦理(Digital Ethics)、自然语言处理(Natural Language Processing)等技术处于期望膨胀期,表明人们对 AI 最大的期待,达到稳定期需要 5-10 年,是 AI 未来十年重点发展方向。
(1)强化学习(Reinforement Learning。)。强化学习用于描述和解决智能体在与环境的交互过程中通过学习策略以达成回报最大化或实现特定目标的问题。强化学习不受标注数据和先验知识所限制,而是通过接收环境对动作的奖励(反馈)获得学习信息并更新模型参数。由于智能体和环境的交互方式与人类和环境的交互方式类似,强化学习可以认为是一套通用的学习框架,可用来解决通用人工智能的问题。
(2)神经形态硬件(Neuromorphic Hardware。)。神经形态硬件旨在用与传统硬件完全不同的方式处理信息,通过模仿人脑构造来大幅提高计算机的思维能力与反应能力。采用多进制信号来模拟生物神经元的功能,可将负责数据存储和数据处理的元件整合到同一个互联模块当中。从这一意义上说,这一系统与组成人脑的数十亿计的、相互连接的神经元颇为相仿。神经形态硬件能够大幅提升数据处理能力和机器学习能力,能耗和体积却要小得多,为人工智能的未来发展提供强大的算力支撑。
(3) 知识图谱(Knowledge Graphics。)。要实现真正的类人智能,机器还需要掌握大量的常识性知识,以人的思维模式和知识结构来进行语言理解、视觉场景解析和决策分析。知识图谱将互联网的信息表达成更接近人类认知世界的形式,提供了一种更好地组织、管理和理解互联网海量信息的能力,被认为是从感知智能通往认知智能的重要基石。
从感知到认知的跨越过程中,构建大规模高质量知识图谱是一个重要环节,当人工智能可以通过更结构化的表示理解人类知识,并进行互联,才有可能让机器真正实现推理、联想等认知功能。清华大学唐杰教授在知识图谱的基础上提出的“认知图谱=知识图谱+认知推理+逻辑表达”,为人工智能未来十年的发展提供了研究方向。
(4)、智能机器人(Intelligent Robot)。智能机器人需要具备三个基本要素:感觉要素、思考要素和反应要素。感觉要素是利用传感器感受内部和外部信息,如视觉、听觉、触觉等;思考要素是根据感觉要素所得到的信息,思考出采用什么样的动作;反应要素是对外界做出反应性动作。
智能机器人的关键技术包括多传感器信息融合、导航与定位、路径规划、智能控制等。由于社会发展的需求和机器人应用行业的扩大,机器人可以具备的智能水平并未达到极限,影响因素包括硬件设施的计算速度不够、传感器的种类不足,以及缺乏机器人的思考行为程序难以编制等。
(5)、可解释人工智能 (Explainable AI)。虽然深度学习算法在语音识别、计算机视觉、自然语言处理等领域取得令人印象深刻的性能,但是它们在透明度和可解释性方面仍存在局限性。深度学习的不可解释性已经成为计算机领域顶级会议(如 NIPS)火药味十足的讨论话题。一些方法尝试将黑盒的神经网络模型和符号推理结合了起来,通过引入逻辑规则增加可解释性。
此外,符号化的知识图谱具有形象直观的特性,为弥补神经网络在解释性方面的缺陷提供了可能。利用知识图谱解释深度学习和高层次决策模型,是当前值得研究的科学问题,可以为可解释的 AI 提供全新视角的机遇。张钹院士指出当前人工智能的最大问题是不可解释和不可理解,并提倡建立具有可解释性的第三代人工智能理论体系。
(6)、数字伦理(Digital Ethics。)。作为新一轮科技革命和产业变革的重要驱动力,人工智能已上升为国家战略,人工智能将会在未来几十年对人类社会产生巨大的影响,带来不可逆转的改变。人工智能的发展面临诸多现实的伦理和法律问题,如网络安全、个人隐私、数据权益和公平公正等。
为了让人工智能技术更好地服务于经济社会发展和人民美好生活,不仅要发挥好人工智能的“头雁”效应,也要加强人工智能相关法律、伦理、社会问题等方面的研究。数字伦理将是未来智能社会的发展基石,只有建立完善的人工智能伦理规范,处理好机器与人的新关系,我们才能更多地获得人工智能红利,让技术造福人类。
(7)、自然语言处理(Nature Language Processing )。深度学习在自然语言处理取得了巨大突破,它能够高效学习多粒度语言单元间复杂语义关联。但是仅仅依靠深度学习并不能完成对自然语言的深度理解。对自然语言的深度理解需要从字面意义到言外之意的跃迁,这需要引入复杂知识的支持。
丰富的语言知识能够提升模型的可解释性,可覆盖长尾低频语言单位的知识规则能够提升模型的可扩展性,而异质多样的知识与推理体系能够提升模型鲁棒性。因此有必要研究知识指导的自然语言处理技术,揭示自然语言处理和知识产生及表达的机理,建立知识获取与语言处理双向驱动的方法体系,实现真正的语言与知识智能理解。
3、 面临的问题
随着人工智能的快速发展和应用,人们越来越重视随之而来的安全和伦理问题。AI 发展面临着诸多安全和伦理方面的挑战。安全挑战主要包括三个方面:一是人工智能可以替代体力劳动和脑力劳动,相应的岗位替代作用影响着人类就业安全;二是建立在大数据和深度学习基础上的人工智能技术,需要海量数据来学习训练算法,带来了数据盗用、信息泄露和个人侵害的风险。
许多个人信息如果被非法利用,将会构成对隐私权的侵犯。三是人工智能具有强大的数据收集、分析以及信息生成能力,可以生成和仿造很多东西,甚至包括人类自身。随之而生的虚假信息、欺诈信息不仅会侵蚀社会的诚信体系,还会对国家的政治安全、经济安全和社会稳定带来负面影响。
人工智能发展面临的伦理挑战主要来自以下方面。一是人们对智能化的过度依赖。人工智能发展带来的简易、便捷的智能化工作和生活方式的同时,严重挤占了人们用于休息的自由时间、用于劳动的工作时间和用于个人全面发展的时间,由此催生了许多人的懒惰和对智能产品的过度依赖;同时,个性化新闻推荐或者自动生成的新闻,真假难辨的广告和宣传给人们封闭在“信息茧房”里。甚至逐渐失去了独立自由决策的能力,成为数据和算法的奴隶。
二是情感计算技术和类脑智能技术的创新融合发展, 可能扰乱人们对于身份和能动性的认知。人类大脑与机器智能直接连接,会绕过大脑和身体正常的感觉运动功能;增强型神经技术的应用也可能改变人的体能和心智。这是对人类社会的道德社会规范和法律责任的挑战。
三是智能算法歧视将带来的偏见。人工智能以大数据和深度学习为基础,数据、算法以及人为因素会导致计算结果的偏见和非中立性,比如性别歧视、种族歧视以及“有色眼镜”效应。数据和算法导致的歧视往往具有更大的隐蔽性,更难以发现和消除。例如,微软在 Twitter 上上线的聊天机器人 Tay 在与网民互动过程中,由于大量恶意数据的输入,成为集性别歧视、种族歧视等于一身的“流氓”,它不但辱骂用户,还发表了种族主义评论和煽动性的政治宣言。
四是人工智能对人类造成的威胁和伤害。智能武器是可自动寻找、识别、跟踪和摧毁目标的现代高技术兵器,包括精确制导武器、智能反导系统、无人驾驶飞机、无人驾驶坦克、无人驾驶潜艇、无人操作火炮、智能地雷、智能鱼雷和自主多用途智能作战机器人等,它将成为未来战场主力军,信息处理和计算能力成为战争胜负的决定因素。人工智能武器是继火药和核武器之后战争领域的第三次革命。人工智能如果被赋予伤害、破坏或欺骗人类的自主能力,将是人类的灾难,后果难以想象。
面对人工智能带来的安全和伦理问题,受到越来越多各方关注和应对。2020年,美国国防部下属的国防创新委员会推出了《人工智能伦理道德标准》,公布了人工智能五大伦理原则,即负责、公平、可追踪、可靠和可控。无论作战还是非作战人工智能系统,均须遵守上述原则,否则美国防部将不予部署。牛津大学成立了人工智能伦理研究所(Institute for Ethics in AI),并委任了由 7 位哲学家组成的首个学术研究团队。中国人工智能学会伦理专业委员会也正着手进行中国人工智能伦理规范研究。
科技是未来竞争的制高点。虽然科技无国界,但是科技公司有国界。当前世界各国对人工智能技术发展都不遗余力地投入和支持,同时,还使用不同方法保护自己的科技成果,封锁前沿技术和“卡脖子”技术外流路径,这将在一定程度上限制人工智能技术创新要素的自由流动。
从全球范围来看,中国和美国人工智能领域科研论文和专利产出数量最多的两个国家。但是近年来, 中美 两国在人工智能技术领域的 贸易关系 则存在 摩擦。2018 年11月19日美国商务部工业安全署( BIS )出台了一份针对关键新兴技术和相关产品的出口管制框架 ,其中在人工智能领域包括神经网络和深度学习、进化和遗传计算、强化学习、计算机视觉、专家系统、语音和音频处理、自然语言处理、规划、AI 芯片组、AI 云技术、音频和视频操作技术共计 11 项技术。
2019年 10 月 7 日, 美国 BIS 部门把 8家计算机视觉领域的 中国科技企业加入 “ 实体清单 ”。清单中的实体须在有许可证的情况下才可购买美国技术与产品,但美政府有权拒绝许可申请。
在字节跳动 TikTok 公司出售在美业务的谈判过程中,2020 年8 月28 日,》 中国商务部、科技部调整发布了最新版的《中国禁止出口限制出口技术目录》(商务部 科技部公告 2020 年第 38 号)。在最新目录中, 语音合成、人工智能交互界面、语音评测、基于数据分析的个性化信息推送服务、无人机、量子密码等技术均被列入“限制出口”名单。
根据《中华人民共和国技术进出口管理条例》,凡是涉及向境外转移技术,无论是采用贸易还是投资或是其他方式,均要严格遵守《中华人民共和国技术进出口管理条例》的规定,其中限制类技术出口必须到省级商务主管部门申请技术出口许可,获得批准后方可对外进行实质性谈判,签订技术出口合同。
在大型跨国公司的收购过程中, 相关国家政府批准出售是交易宣告成功的必要条件。对于字节跳动出售 TikTok 业务来说,有可能出现其中一个国家政府出面阻止交易的情况。
根据人工智能技术关键词获取中美两国的论文数据,生成中国和美国在不同领域的研究成果对比图,如下图所示。分析发现,在被限制出口的计算及服务业技术中, 中国在以人脸识别为代表的计算机视觉、语音识别与自然语言处理(特别是中文)上有着较美国领先的优势,主要体现在高水平论文发表量、专利申请量两方面。
▲中国和美国 2011-2020 年在三个 AI 子领域的高水平论文量和专利申请量对比图
在语音识别、图像识别、自然语言处理技术上,中国国内市场提供了稳定庞大的用户与数据供应,以及政策支持为产业发展带来的所需资源和资本聚集,这些本土化优势,对于外国企业来说是不可复制的。
中国目前在计算机视觉领域的领先企业以 SenseTime,Face ++,YITU 和海康威视为代表, 技术优势主要体现在人脸识别,在2017 年中国在 这一领域获得的专利数量大约是美国公司的6 倍,其应用场景多为安全监控系统。相比而言,由于隐私政策,欧美的 人脸识别技术难以发展实行,例如 2020 年 8 月 12 日英国法院裁决警察部门使用自动面部识别(AFR)违反了数据保护和平等法以及隐私权。
在语音识别领域,中国企业表现较优秀,特别是在中文识别和处理上。科大讯飞 iFlytek、依图科技 YITU、百度、腾讯、阿里巴巴等企业依靠中国庞大的中文用户,能获得远超美国能获得的中文语音数据库,这使得其语音识别 AI 有更好的语音识别学习条件。例如,腾讯可从其月活超 10 亿的微信用户那里获得中文语音数据。这一点是中国企业在中文语音识别技术上不可复制的优势 。
在自然语言处理领域,百度的能力被认为超过微软和谷歌。受 Google 的 BERT启发,百度的自然语言处理模型 ERNIE 最初是为理解汉语而开发的,但是它也能够更好地理解英语。
Google 的模型在学习时会在每个序列中隐藏 15%的单词,然后尝试根据上下文进行预测。基于类似的方法,百度团队通过让其 AI 模型预测文章中一串被隐藏的汉字,来学习文字组合的联系。不同于被微软和谷歌使用的英文,中文的特性要求 ERNIE 模型必须能够理解汉字组合后的出现的内在含义。结果显示,其在 GLUE 得分为第一名 90.1,超过微软和谷歌的模型得分。
▲中国和美国 2011-2020 年在三个 AI 子领域专利公开趋势
研究发现, 中国在人工智能和机器学习技术领域发展迅速,相关领域中在 国学者的论文发表量在 2008 年前后已经赶超美国。
值得注意的是, 中国杰出学者的国际合作对象国家不均衡,呈现出美国“一家独大”局面。以合发论文为产出指标看中国杰出学者开展国际合作的情况,中国杰出学者与美国合作紧密度最高,人数占比约 62.3%,其次是英国(14.7%)、德国(13.7%)、澳大利亚(9.5%)和新加坡(9.2%)。随着贸易战的不断升级蔓延,中美关系日益复杂,正常的科技与学术交流受阻,容易对我国的相关技术领域发展与人才培养造成不利影响。
在严峻的国际大环境下,未来人工智能技术自由交流发展将无疑受到影响。考虑到数据安全等多种因素,未来的基于数据分析的个性化信息推送服务技术,对外技术支持与技术服务出口都将受到限制。
智东西认为,每一次的经济大发展都与科技的突破紧密相关,近些年世界经济很大程度上都是由信息产业的发展带动起来。现在,人工智能技术的逐渐成熟,下游应用不断拓展等种种迹象表明科技正迎来新的爆发期,全球科技竞赛也将再次掀起高潮。中国想要在这轮科技革新中占得先机,就需要加强技术预判,找准方向,提早部署,特别是在一些基础性、突破性的领域精准布局。
原文标题:【行业前沿】人工智能十年发展总结,中国进步神速,专利占全球七成
文章出处:【微信公众号:山东省物联网协会】欢迎添加关注!文章转载请注明出处。
责任编辑:haq
全部0条评论
快来发表一下你的评论吧 !