人工智能秒变脸 需防范AI“野蛮生长”

核心提示：AI“换脸”爆红背后，一方面是人们对于新技术的好奇；另一方面，却是普通人在不知情时被“换脸”的担忧。人工智能技术要进一步发展，还需尽快厘清其在法律、伦理等方面的界限。

资料图。 CFP/ 供图

2月底，网友利用人工智能技术制作的杨幂和朱茵“换脸”视频，被顶上了微博热搜。视频火爆背后，网友一边感叹人工智能之强大，一边也不得不为之担忧。

未经本人同意“换脸”，是否构成侵权？如果视频流传网络，是否会损害当事人名誉？更重要的是，人工智能已具备某些自主能力，以后是不是也可以作为侵权的责任主体？

近年来，随着这项技术的飞速发展，对于其背后隐藏的法律和伦理问题，越来越受到公众关注。

今年的全国两会上，这一话题依然热度不减。AI医疗、自动驾驶以及人工智能伦理问题，都在代表委员议案提案和讨论中不断被提及。

人工智能“换脸术”

不久前，一条短视频在网络上迅速走红，视频中，1994年版《射雕英雄传》中黄蓉的饰演者，从朱茵换成了杨幂，而且表情神态契合度很高。

若单论“换脸”，在影视行业中，这样的“移花接木”并不鲜见。能够实现视频换脸的技术也有很多种。电影《速度与激情7》中，就应用一种“替身+动态捕捉+CGI动画”的方式，让已经去世的保罗·沃克“回归”。

而这次引起热议的换脸视频则有些不同，该视频是一位名为“换脸哥”的网友，用人工智能技术独自完成的。

当下，“人工智能”越来越成为科技领域一个举足轻重的关键词。从阿尔法狗接连打败人类棋手李世石、柯洁，到人脸识别技术的大量应用、自动驾驶汽车上路等等，这项技术已经融入智能家居、智能医疗、智能交通等日常生活的各个方面。

虽然对于国内公众来说，AI“换脸”不常见，但是对这种技术的研究应用，专业人士几年前就开始了探索。

2016年，纽伦堡大学一位教授研发出了一款名为Face2Face的应用，可以通过摄像头进行脸部追踪，实现实时“换脸”，让视频中的人跟着使用者说话。

这一应用问世后，许多人担心这一技术会成为网络诈骗，绑架等违法行为的帮凶。不过目前，Face2Face还只提供特定人物影像供人们试用，没有看到其造成社会危害。

把这一技术彻底用“歪”的，是一个ID名为deepfakes的网友。2017年12月，deepfakes利用人工智能技术，将《神奇女侠》的扮演者盖尔·加朵的脸，换到了色情影片女主角上。其后，更是有众多国内外女明星惨遭其“毒手”，被换脸到色情影片中。

这一技术的教程和深度学习代码、数据集等，也被其公开，有网友甚至还利用这些资料开发出了App应用。因为这一应用极大地冲击了人们的伦理观念并且涉嫌侵权，deepfakes创建的网络社区后来被封禁。

在国内，在朱茵“换脸”杨幂的视频之前，也有一段同类视频在网上流传：某直播平台女主播“阿冷”的唱歌视频，在网友的创作下，先后“换脸”刘亦菲、杨幂、唐嫣、范冰冰等众多明星，部分片段几乎难以识别出破绽。

普通人也能被“换脸”？

《射雕英雄传》“换脸”视频在网上走红之后，引发了一部分人的担忧：明星可以被人换脸，是不是意味着普通人的脸也能换？

中国传媒大学计算机与网络空间安全学院副教授冯爽肯定了这一说法。不过，她同时也表示，对普通人而言，换脸技术仍然存在使用门槛。

“组建一台最低档配置的人工智能机器，成本在人民币五六万元左右，而如果是大型公司或者机构较为精密的人工智能设备，价格则在人民币百万元以上。”冯爽说。

换脸视频的制作者“换脸哥”本人也对这个视频进行了回应：“因为AI神经网络有一定的准入门槛，比如云服务器一个小时40块钱，起步要做7天。”他在接受媒体采访时表示，杨幂换脸的视频，他做了大约一个月左右。

此外，冯爽解释说，制作换脸视频，首先要获得大量换脸对象双方的照片数据，来对人工智能模型进行训练。

对于所需照片，也有很严苛的要求：不仅需要有不同角度、不同表情，还需要有经过扭曲变形的本人照片；如果是从视频中截取图片，还需要用到人脸识别技术，清除桌椅陈设等无关背景。

因此，冯爽认为，对于普通人而言，视频制作者很难获取到其足够数量的合格照片，即使制作出换脸视频，也比较粗糙，很容易被识别出来。相反，由于明星在公众场合出现较为频繁，对他们进行换脸，相对就容易得多。

此外，AI换脸带来的另一个问题，则是其是否会威胁到人脸支付安全。

之江实验室人工智能研究院技术负责人单海军在接受媒体采访时认为，目前使用人脸识别技术完成支付等手段，通常使用“活体检测”，也就是说，刷脸背后系统还会检测是否是真人，AI换脸技术也就不会对这一类支付行为产生威胁。

而冯爽则表示，目前生物识别技术还不太成熟，当下AI“换脸”技术的发展，还是可能对人脸识别应用产生一定影响，所以可以借助短信验证码等手段辅助人脸支付。此外，目前国内外也都在研究“反AI换脸”的检测工具，并且取得了一定成效。

需防范AI“野蛮生长”

除了对人工智能带来的技术挑战，人工智能背后的法律和伦理问题，也受到公众密切关注。未经本人同意就进行“换脸”，是否已经构成侵权？

西南政法大学民商法学院院长赵万一接受民主与法制社记者采访时表示，前述“换脸”视频首先侵犯了朱茵和杨幂的肖像权。但是由于该视频很难认定为是出于商业使用或者推广相关程序等目的，所以对于是否侵犯1994年版《射雕英雄传》的著作权，还有待商榷。

AI换脸视频的制作者“换脸哥”也意识到了侵权问题。2月27日，其在微博上发布了道歉声明并下架了相关视频，他在声明中说：“AI换脸应该被以正确的方式对待，大家应该尊重版权与肖像权，专注于技术本身。”

未经当事人允许进行换脸，构成了很明显的侵犯肖像权。而此前，对于人工智能是否侵权问题的讨论，由来已久。

“大数据时代，个人隐私受侵害的可能性太大了。”赵万一表示，当下，以手机App为例，政府形态、企业形态、征信机构、金融服务机构等各类App，都要求提供大量信息，这种个人信息的搜集一旦形成大数据之后，都可以实现对人的行为轨迹、爱好取向等进行分析。

另外，对于人工智能民事主体地位的认定，即人工智能可不可以认定为“人”，在国内外也存在很大争议。

2017年10月26日，沙特阿拉伯授予香港汉森机器人公司生产的机器人索菲亚公民身份，这是人类历史上首个获得公民身份的机器人。

“如果承认AI是人，就带来一个比较大的问题。”赵万一说，人除了具有行为能力，还要具有承担责任的能力，法律要对其进行约束，人工智能当下还是一种产品，对它进行惩罚，起不到实质效果。

但是，如果人工智能本身不能作为责任主体，那么一旦发生侵权问题，人工智能的设计人、使用人，还有很多相关人，谁该来承担相关责任，也是法律界在探讨的问题。

对于当下人工智能行业的发展，赵万一建议，对其应用范围、生产和设计等方面，应出台基本规制和要求。另外人工智能的发展也可以效仿医疗行业，建立伦理委员会，涉及伦理问题，必须要经过其审批。

赵万一认为，行业自治也是一条规范人工智能发展的重要途径。“从业人员对人工智能更有发言权，他们出台带有自治性的规范标准，自我约束，也可以防止人工智能野蛮生长、不当发展对社会可能产生的灾难性后果。”

此外，对人工智能的法律规范工作，我国也已经提上了日程。

3月4日，十三届全国人大二次会议发言人张业遂在新闻发布会上表示，人工智能技术是引领新一轮科技革命和产业变革的战略性技术，但是人工智能技术的应用具有不确定性，可能会给人类社会带来新挑战。全国人大常委会已将数字安全法、个人信息保护法和修改科学技术进步法等与人工智能密切相关的立法项目，列入本届五年立法规划，同时把人工智能方面立法列入抓紧研究项目。