人工智能，五角大楼的“大考”？

“颠覆性技术”和“高度关注”依然是2019年评价AI的两个关键词。虽然工业界落地艰难，但是，军事界热情不减。作为军事大国，美国的目标非常清晰。推动美国顶尖人工智能研究走向新的技术突破，促进科学新成果的发现、增强经济竞争力、巩固国家安全。

仅凭12个月的角力难分胜负，但是年度评估非常必要。花了美国纳税人这么钱，坐落在美国华盛顿波托马克河畔的五角大楼，2019年工作做的怎么样？

《国防授权法（2019）》（National Defense Authorization Act for Fiscal Year 2019）有细则特别提到，对人工智能进行专项研究，确定美国国防部在人工智能、机器学习等技术方面的竞争力。因此，第三方咨询机构兰德公司（RAND Corp.）受命于此。在2019年年末，他们对五角大楼的人工智能态势进行了独立、审慎的评估，出具一份重量级的报告《兰德咨询：美国国防部人工智能态势分析》。

一、人工智能是五角大楼的机会

报告开篇聚焦三个本质性问题。五角大楼目前在人工智能中的现状如何？五角大楼相关的人工智能处于什么状态？哪些内部行动，外部参与以及潜在的立法或监管行动可能会增强五角大楼在人工智能中的地位？这三个问题拷问五角大楼的灵魂报告对于五角大楼目前态势的判断，成为一面镜子，意在推动该机构深刻反思。

《报告》的分析框架分为“六大”维度，从六个不同的角度“照进”五角大楼要面对的现实。

组织，从五角大楼的执行层的视角提出，包括远景、战略、组织结构和承诺的资源。

进展，技术的研究、开发、原型、验证、确认、测试和评估。

应用，技术采购、部署和生命周期管理，重新设计概念和流程，以充分利用技术。

创新，内部创新文化和引进外部创新或创新者的机制。

数据，数据作为资源、数据治理和支持基础设施，数据的利用。

人才，五角大楼需要和培养和增长人才的机制。

众所周知，企业界的算法生而用于商业用途，比如谷歌广告推荐，优步打车路径规划。这些不是五角大楼所直接期望的用途，再加之目前算法存在一定的“手工打磨的性质”。简而言之就是模型的质量需要高质量的数据，而数据标注需要花费大量的人力物力。

此前也有百度公司的AI科学家在论坛中戏称“需要有多少智能，就需要配套多少人工。”所以，直接扩展企业AI的用途到军事上，并不是一件容易的事情。《报告》观点与业界观点一致，并做出提示，需要谨慎的策略和执行，同时在基础设施和支持方面进行大量投资。

尽管不可缺少谨慎的态度，但是，在《报告》看来，人工智能的技术进展，对美方，尤其是五角大楼这样的机构意味着机会。

《报告》站在积极的视角，鼓励五角大楼应该探索、寻求机会，特别强调利用好企业级人工智能、任务支持类人工智能和操作类人工智能（enterprise AI， operational AI and mission-support AI）这三类技术的新进展，尤其关注“验证、确认、测试和评估（verification， validation， testing， and evaluation，VVT&E）”的应用。

《报告》进行深入的调研，自然也充分理解了人工智能现在面临的短板，算法在很多应用中缺乏鲁棒性，不可能一蹴而就地找到大规模应用的爆发点，并给出戒骄戒躁的风险提示，也就是要对人工智能技术的性能提升不要心急，要付出耐心。

——“对于五角大楼来说，在从演示到大规模部署的过程中，保持对性能和时间表的现实预期是很重要的。”

不仅如此，除了保持对人工智能这一新兴技术正确的认知与态度，《报告》也做出了预判，明确指出了继续投资的方向。“为了确保成功，还需要对基础设施和设备以及识别、验证、测试和评估进行持续的配套投资。尽管离确保人工智能应用程序的性能和安全还差得很远，特别是在涉及安全关键系统方面。尽管这不是只有美国国防部一家机构面对的独特问题，但它是对美国国防部产生重大影响的关键性问题。”

二、像对待核武器技术一样对待人工智能

《报告》对于人工智能技术高度的评价，以今天的人工智能技术比作五十年前的核武器技术。并建议，“建立美国五角大楼研究人工智能和机器学习的中心，整合该领域专业知识和能力。就像过去确保五角大楼在核武器方面的技术优势一样。

众所周知，人工智能是属于贵族的游戏。科技巨头亚马逊公司，在2018年末股东信中已经将这一结论表达得非常清楚——“强化学习（机器学习重要分支之一）具有陡峭的学习曲线和众多的发展方向，这在很大程度上决定了它的效果，到目前为止，除了资金最充足和技术最先进的机构外，其他所有机构都无能为力。只有具有好奇文化和强烈愿意为客户尝试全新事物的企业才能达成……”

众所周知，人工智能是属于实力派玩家的游戏，上桌需要大筹码。只有最具实力的国家、企业、组织、机构才有资格。五角大楼拥有人工智能应用的天然场景当然不能例外，是人工智能“重点实施单位”。

例如，《国家安全战略》（NSS）有史以来第一次将人工智能列为优先事项，以及2020年研发预算的优先事项，并推动国防部成立人工智能中心（JAIC），设立人工智能国家安全委员会，加大美国国防高级研究计划局（DARPA）对人工智能的投资力度。

毫无疑问，这是“美国政府”的意思，尽一切努力让人工智能的地位在美国五角大楼不断地增强，没有人会对此视若罔闻。

兰德公司高级信息科学家丹妮尔·塔拉夫（Danielle Tarraf）表示，深度学习的成功目前是建立在海量、有标签的数据集能够使用的基础之上。在五角大楼整个机构范围内追求人工智能的发展，将要求五角大楼从根本上将其现有文化，转变为数据驱动的文化。

文化至关重要，战略也只是文化的早餐。这一在企业界通行的理论，在军事管理机构也同样适用。《报告》敦促五角大楼进行文化层面的转变，可以说是从根本上要将五角大楼扭转为“数字化”的思维方式。

另外，《报告》强调，美国五角大楼需要一个集中、专注、资源丰富的组织来推动人工智能和机器学习的应用研究中心。该中心应协调各部门的研究，并与企业和高效实验室保持联系，向通报这些进展对国防企业的影响。”

可以看出，一个名为“某某人工智能中心”的机构的存在，就是要做全美人工智能的研究信息中枢。这又是从组织结构层面要求五角大楼进行转变。面对变革，越是庞大、纪律性强的机构越是滞后。一个灵活、优秀的先遣部队对于机构整体变革会有良好的示范带头作用，可以被视为创新的发动机。一般这类机构的建立一开始就会给予高度的授权，以及丰沛的资源。因为他们将创造“明天”。

三、人工智能，五角大楼的“大考”？

2019年，美国国防部在人工智能方面获得了诸多政策与资源支持。五角大楼究竟是“地主家的傻儿子”还是“江山代有才人出”，人工智能无疑是五角大楼的一场大考。

首先，曾任美国五角大楼副部长帕特里克·沙纳汉（Patrick Shanahan）在一份备忘录中宣布成立联合人工智能中心（JAIC）后，五角大楼要求国防创新委员会（DIB）科学和技术小组委员会安排在2019年1月、3月和4月举办系列圆桌会议和公众聆听会议。

2019年伊始，美国国防部发布人工智能发展细则，确定将把人工智能引入军队训练等多个领域。

2019年1月16日，位于美国华盛顿特区的国家情报总监办公室发布了《使用机器增强智能的策略计划》（Augmenting Intelligence using Machines）。该计划使情报机构能够从根本上改变其产生情报的方式，军事情报理所当然包括在内。

2月，特朗普签署行人工智能总统行政命令，又称《美国人工智能倡议》，强调继续在对美国经济和国家安全方面，人工智能发挥领导力，将人工智能全球进化（global evolution）的方式塑造为符合美国价值观、原则。这是影响人工智能在美国发展的里程碑事件。

在总统签署行政命令的同时，五角大楼发布了人工智能战略的非机密摘要。该战略概述了提高人工智能能力、扩大人工智能影响、培养人工智能劳动力、积极与盟友和合作伙伴进行接触以及在军事、伦理和人工智能安全上发挥领导作用的五个方面的战略方法。

该战略还将联合人工智能中心指定为“五角大楼人工智能战略的重点”，以“加速交付人工智能能力，扩大人工智能的全局性影响，同步五角大楼人工智能活动，扩大联合部队优势”。

2019年3月，美国国家安全委员会（NSC）举行了首次全体会议。

2019年5月3日，美国国防创新委员会发布了软件采购和实践（SWAP）研究报告。

2019年6月，美国国家人工智能研发战略计划更新。

2019年7月12日，美国五角大楼于发布了其数字现代化战略。其目标是通过云计算、人工智能、命令、控制和通信和网络安全的优先计划来支持美国国防战略的实施。

2019年8月9日，美国国家标准与技术研究院（NIST）发布了人工智能计划，作为对特朗普的回应。

2019年9月6日，美国能源部宣布成立能源部人工智能与技术办公室。

2019年10月最后一天，美国国防创新委员会提出了人工智能原则，并在季度公开会议上投票批准了该原则。

2019年11月4日，美国国家安全委员会发布了关于人工智能的临时报告。

2019年美国国防授权法案签署成为法律。该法案包含两项关于人工智能的立法，第238条和第1051条，立法成立人工智能国家安全委员会。

回顾过去三年，美国五角大楼对自主能力产生了浓厚的兴趣。这种兴趣体现在美国国防科学委员会（DSB）的反制自主任务小组、现已解散的美国海军研究咨询委员会（NRAC）、美国陆军科学委员会（ASB）多个机构目前正在开展的研究项目上，比如“人工智能在战场上的应用”。同时，人工智能也渗透到美国空军科学顾问委员会（SAB）诸多研究中。

回望更久远的历史，美国五角大楼结缘人工智能并非始于过去几年。五十多年前，DARPA就一直支持人工智能研究。美国海军研究办公室，美国空军科学研究办公室和美国陆军研究实验室也在支持人工智能研究方面有着悠久的历史。

四、“六大槽点”，差评实至名归

人工智能受到五角大楼自上而下的重视，但是面对一种新技术，美国人也是在摸索中前进。在尚且无法判断之时，勤奋的工作未必能取得优异的成绩。

《报告》结论认为，美国五角大楼的人工智能态势在各个方面都受到了重大挑战，并严苛地指出工作中存在的“六大槽点”。

一、五角大楼没有人工智能愿景，并缺乏相关的基准和指标，并且内部沟通不畅。二、五角大楼内部对人工智能投资缺乏共识，五角大楼的收购战略在多大程度上支持人工智能发展仍不清楚。三、五角大楼牵头发展AI的部门权责受限，缺乏长期预算承诺，缺乏五年战略路线图，没有明确的目标，没有制定路线图。四、五角大楼内部的创新可能会受到现有实践和流程的阻碍，而现有管理及流程限制五角大楼引入外部创新。五、整个美国国防部内部系统缺乏互用性（interoperability）带来诸多问题。不能收集和存储好数据、数据的访问受限、有的数据不能追溯，涉及外部供应商的数据所有权含糊不清。六、在人才方面，五角大楼缺乏定义和跟踪AI人才的明确机制，难以发展和培养AI人才。

《报告》继续它的批评，特别指名点姓地评价了牵头部门——联合人工智能中心（JAIC），强调五角大楼需要一个集中、专注、资源丰富的应用研究中心来推动人工智能和机器学习的发展，而目前的牵头部门难堪当重任。

该中心曾在《国防部人工智能战略总结》中被指定为执行美国国防部战略的重点部门，并有望吸引和培养一支世界级的人工智能团队。然而，联合人工智能中心2019年表现平平，毫无亮点。

《报告》坦诚地讨论了研究人员评估工作的局限，“我们（兰德咨询的研究人员）没有采访美国国家级实验室和情报机构。也没有采访美国政府资助的研究和发展中心，以及美国大学附属的研究中心。

尽管根据研究的既定目标对受访者进行了系统的选择和接触，但仍存在样本偏差的可能性。例如美国国防工业基地，我们（兰德咨询的研究人员）本想在那里撒一张更大的网，但由于能力所限，无法采访。”

言下之意，如果评估工作做得再彻底一些，五角大楼槽点会更多。

另外，兰德咨询公司对五角大楼目前在人工智能领域的投资项目进行了定量的评估工作，但这部分资料并不允许公开。

最后，《报告》毫不留情面给出的决定性结论是，“尽管我们（兰德咨询的研究人员）看到了一些积极的迹象，但是，评估结果是，国防部在人工智能中的态势，在被评估的所有方面都受到了显著的挑战。”

除了批评与否定，《报告》提出了一系列建议，包括内部行动、外部参与以及潜在的立法，以及监管行动提出了11项战略建议。要求五角大楼明确使命，促进人工智能的应用，制定一项五年战略路线图以实现扩展人工智能用途，并要求五角大楼推进人工智能平台的测试和验证实践，扩展与学术界和工业界的合作。

综上所述，《兰德咨询：美国国防部人工智能态势分析》全面和彻底的，对五角大楼进行了不留情面地批评，从领导层到执行层，从文化到管理，以“差评”为美国国防部2019年人工智能的工作画上句号，但是，人工智能是一场全球性的技术变革，风起云涌之中，这场没有硝烟的战斗并不会因为新年的钟声响起而停止。