人工智能如何避免深度伪造的出现

如今，采用深度伪造（Deepfake）生成的视频和音频，人工智能生成的文本、诗歌和歌词，假网站和假新闻进入人们的世界。人们的生活还会真实吗？

行业专家Mike Elgan对于人工智能在伪造方面起到的作用进行了阐述。他举例说，“在我小时候，我和弟弟用纸碟、锡纸和大理石制成一个UFO（不明飞行物）。然后，我们将UFO悬挂在鱼线上，并登上楼顶采用家里摄像机拍摄UFO飞来的样子，并获得证明外星人的存在的确凿证据，这种游戏就是一种深度伪造。”

伪造和假冒事物一直存在。但是，当这一切都变得数字化时，其创建和分发都变得更加容易、更快以及更加广泛。人工智能（AI）会将其提升到一个全新的水平，使任何人都能创建完美的多媒体（如视频和音频）伪造品。

伪造者创建伪造品，然而采用检测器进行检测，从而向伪造者提供有关检测到的信息。伪造者然后调整他们的方法，并创造更好的伪造品。但是在充满伪造的世界中，人们将如何应对？

假新闻（或有关伪造的新闻）

很多人担心深度伪造（Deepfake）视频会被用于政治。例如近日发生的这样事情，印度人民党主席Manoj Tiwari以不同的语言对其支持者的讲话就是一个Deepfake视频，好在没有用来伪造对手的评论。不过，Deepfake现在已经用于政治领域，这是一个里程碑。

另一个采用人工智能伪造的例子是说唱歌手和词曲作者Travis Scott创作的一首新歌，这首歌名为Jack Park Canny Dope Man，采用人工智能生成的音乐和歌词，由Scott本人在一段音乐视频中演唱。

OpenAI GPT-2是一种语言创建人工智能技术，几乎可以使用任何样式编写文章。它可以模仿《纽约客》杂志的写作风格，甚至可以写诗。OpenAI是一家由特斯拉首席执行官埃隆•马斯克等创立的非盈利研究机构。

很多人担心人工智能创造的伪造品用于犯罪，但这已经发生了。

安全厂商赛门铁克公司已经通过模仿首席执行官的声音，验证了三个针对企业员工的Deepfake音频的案例。Deepfake技术可以从YouTube演讲和企业财务收益电话中获取首席执行官声音样本，诈骗者在电话中模拟其声音，欺骗员工给他紧急汇款。

人工智能将如何制造完美的Deepfake视频

目前有两种创建Deepfake视频的通用方法。第一个是换脸技术，它使用编码器和解码器来逐帧匹配和替换视频中的人脸。

第二种方法称为生成对抗网络或GAN。这种方法可用于创建各种令人信服却是伪造的数据，它使用两种人工智能算法。一个算法用来创建虚假数据;另一个算法进行判断，为创建者算法提供反馈。并大规模重复这种做法，两种算法都提高了它们的能力。最终，创建者算法变得如此出色，它可以产生视频、音频、文本、指纹等假数据。

伪造视频的制作变得越来越复杂。总部位于香港的一家名为SenseTime的初创公司与南洋理工大学和中国科学院自动化研究所合作，开发了一个名为SenseTIme的框架，该框架可以根据语音自动编辑视频。

韩国Hyperconnect公司构建了一个名为MarioNETte的工具，该工具可以实时将某人的脸部动作映射到其他任何人（例如政客或名人）的脸部。

与此同时，Deepfake技术变得越来越强大，并且也变得更加民主化，现在出现在消费者应用程序中。任何人都可以创建令人信服的Deepfake视频和音频，而这只是时间问题。

这就是为什么必须弄清楚如何检测伪造文件的原因。

伪造技术即将上线

科技孵化器Jigsaw公司最初是谷歌公司的一个部门，后来转到Alphabet公司的旗下，如今重新回到谷歌公司。Jigsaw公司创建了一个名为Assembler的平台，帮助核查人员核实图像。该工具结合了美国7所大学开发的不同技术和算法，加上Jigsaw公司自己创建的一个算法，通过发现由伪造照片的已知方法生成的证据来处理图像。

谷歌公司还利用人工智能技术和人类智慧相合，在Google Maps上查找并删除虚假、不道德或恶意的评论。该公司本月宣称，他们已经删除了超过7500万条违反政策的评论和400万份虚假的业务资料。人工智能会首先审核所有评论和业务概况，并自动删除明确的违规者。然后将难以处理的问题交给工作人员处理。

华盛顿大学和艾伦人工智能研究所的研究人员开发了一种名为Grover的算法，该算法可以识别出深度伪造的签名，其准确率高达92%。

Facebook公司最近让独立研究人员通过一个名为Social Science One的程序访问有关用户活动的某些信息。

哈佛大学和麻省理工学院的IBM Watson人工智能实验室的科学家发布了一个“巨型语言模型测试室”的软件，它是基于网络空间，用于确定给定的文本是否由人工智能编写。

由滑铁卢大学的研究人员创建的一家加拿大初创厂商DarwinAI公司开发了他们称之为DarwinAI的技术，该技术使用深度学习来检测虚假新闻。他们的技术将标题与文章内容进行比较。在以后的迭代中，DarwinAI会将文章的文字与其他文章进行比较。

采用假新闻推动政治进程的最疯狂的想法之一是，利用大量的著作和演讲资料，通过模拟他们在人工智能中的思维来“复活”美国开国元勋亚当斯、汉密尔顿、杰伊、杰斐逊、麦迪逊和华盛顿。

一些人提出将区块链作为验证内容的解决方案，但这可能让人难以接受。正如这些早期的产品、技术和试验所证明的那样，检测伪造事物的未来技术显然是人工智能。

人工智能应用在伪造与反伪造之间的竞争

有人估计，四分之一的新社交媒体账户将是伪造或欺诈的账户。假账户听起来无害，但它们往往与假新闻、垃圾邮件和网络犯罪密切相关。据报道，目前用于检测假账户的系统功能并不强大。北约的一项调查发现，他们创建的假冒个人资料中有95%在发布调查报告几周后仍然在使用。

这是一个惊人的事实，因为Twitter、Facebook和其他社交网站为此已经投资数十亿美元，并且多年来一直致力于开发检测假账户的系统。每次他们在检测方面取得新进展时，伪造者都会丢弃数百万个伪造帐户，这意味着伪造者将始终领先于检测。

在某种程度上，伪造者与检测者之间在进行猫捉老鼠的游戏。伪造者创建伪造品，而检测器对其进行检测，从而向伪造者提供有关检测到的信息。然后，伪造者调整他们的方法，并创建更好的伪造品。这种竞争很可能会无限期地继续下去。人类的感知能力将被完全抛在后面，而这种竞争将完全存在于人工智能系统之间。

真相就在那里，但是现在需要人工智能的帮助才能获得真相。

责任编辑：ct