人工智能提供安全性承诺的同时也带来了风险

（文章来源：教育新闻网）

人工智能有望成为2019年的技术流行语，多家机构正在探索应对无数挑战的自动化解决方案，并开发了一些用例，以使它们能够更有效地实现其使命。但是，一些IT领导者告诫不要在未先确定正确的使用案例或不考虑其缺点以及优点的情况下追赶AI作为新兴技术中的新亮点。

空军首席技术官弗兰克·科涅奇尼(Frank Konieczny)在周二的FedScoop安全转型论坛上发表讲话说：“我们非常担心偏见。”“当我们查看一个系统时，请根据基准数据查看它的分析。您将为实际使用它提供什么数据……尤其是当我们使用救生系统时，我们对此非常关注。”空军正在研究人工智能和机器学习功能，但担心该技术涉及的一些风险，尤其是考虑到机器学习所需的基线数据。

“安全基准的问题是，'敌人已经在基准中了吗?'然后您就将敌人打入您的系统。”科涅奇尼说。“这是您必须提出的问题。另一个问题是，“您的基准是否有变化?”我们的基线一直在变化。因此，如果总是发生更改，您如何使用ML系统检测更改?”Konieczny解释说，提出这些问题使空军能够明智地选择AI和机器学习应用程序，从而确保它是一种力的乘数，而不是对用户没有实际好处的附加组件。

交通运输部CIO Ryan Cote同样在不首先考虑收益的情况下犹豫是否实施AI。他警告说：“我认为我们处于将AI应用于网络的早期，早期阶段。”“我认为我们今天能做的最好的事情就是看机器学习，并尝试自动化网络卫生的一些基本步骤。”Cote迅速关闭了有关AI / ML的宣传，鼓励客户将那些功能与数据分析和其他类似服务区分开。

他开玩笑说：“我会说营销炒作是10，交货是1。”但是，他的确感谢许多公司通过提供软件即服务(SaaS)而不是一次性购买的方式显示了对其产品的承诺。这种新模式使公司可以对其产品进行持续更新，而不必每隔几年就“签入一次”以销售更新版本。除了风险，AI及其短期表亲自动化确实提供了一些有希望的用例。一种是增加当前网络安全专业人员的工作，以缓解劳动力差距。

司法部CISO Nickolous Ward解释说：“即使我们有足够的[专业人士]，也无法[分析]进入任何SOC的数据量，并迅速采取行动。”“如果我们不能在几分钟之内采取行动，一旦他们做出了最初的妥协，一个好的民族国家演员就已经跳上了其他系统。”沃德说，司法部正在短期内探索自动化安全解决方案，包括机器人流程自动化和编排，以填补这一空白并认识到日益严峻的技术挑战。

他说：“我不能雇用足够的人，也不能足够快地训练他们，以便能够查看我们每天处理的数据量。”“能够拥有[自动化]……如果没有它，我们将无法赢得胜利。” Ward估计，司法部每天都会收到“数百万”的日志和警报。退伍军人事务部CISO保罗·坎宁安(Paul Cunningham)同意，新兴技术有助于缩小差距。

他说：“我们不会在一夜之间解决[劳动力问题]，但可以肯定的是，可能不会有人。它正在寻找技术来帮助我们减少进行可靠的网络安全所需的人员数量，并确保我们拥有合适的人员来查看这些事情是最重要的。那就是我认为AI将成为解决方案的一部分—但不是唯一的一部分。”坎宁安说，VA的底线是“从头到尾一直保护记录和体验。”Ward说，从长远来看，关键重点是确保网络安全专业人员了解AI和机器学习的攻守方面。

他说：“我的劳动力将不得不发展。”“攻击者越来越多地使用[AI]逃避我的安全技术。我们必须使用它来攻击他们并阻止他们。但不仅如此。攻击者开始学习如何利用AI自身的弱点来击败AI。我的安全团队需要能够充分了解AI，以便他们能够对抗针对AI本身的攻击，并…利用它来加快检测和防御的速度。”卫生与公共服务部CIO高级顾问Oki Mek建议使用区块链作为保护数据集免受攻击并同时利用它们进行AI和机器学习的一种方法。
        （责任编辑：fqj）