刷屏的“换脸”，有什么风险？_风闻

一夜之间，人们仿佛被“克隆人”占领：一款主打视频换脸功能的应用软件“ZAO”刷屏了。

这个功能并不新鲜，但会成为现象，恰恰在于“ZAO”的功能极简、难度极低，人人皆可快速上手，又可利用社交网站病毒式传播。

据悉，“ZAO”应用由陌陌科技旗下的“孙公司”长沙深度融合网络科技有限公司开发。另有消息称，“VC已经在排着队约见团队要投资了。一堆仿的APP也已经连夜在提交审核，很快就可以上线。”

该应用在iOS商店里排在前列的评论

但也正因为太过火爆，它引发了很多争议。

01

你看过它的“用户协议”吗？

👆“ZAO”用户协议（部分）

很多用户并没有仔细去看“ZAO”这份非常有中国互联网特色的“用户协议”——从协议中可以发现：

6.1的授权充斥着“完全免费”“不可撤销”“永久”“可转授权”等字眼，这意味着它可将你的肖像和资料，任意授权给自己想授权的第三方，并且可修改；

还有第6.2项，“如果您把用户内容中的人脸换成您或其他人的脸，**您同意或确保肖像权利人同意授予‘ZAO’及其关联公司全球范围内完全免费、不可撤销、永久、可转授权和可再许可的权利，**包括但不限于：人脸照片、图片、视频资料等肖像资料中所含的您或肖像权利人的肖像权，以及利用技术对您或肖像权利人的肖像进行形式改动。”

这意味着将明星肖像权问题甩给了用户。

第7项则是在说：一旦有纠纷产生，技术无罪，要用户来承担。

……

换脸视频会侵犯肖像权、著作权、影视改编权等，还待法律意义上的厘清。

部分用户意识到了隐私问题。

如果不经提醒，很多人都没有查看这些协议的习惯。

百度CEO李彦宏之前就说过：**“中国人对隐私不敏感，愿意用隐私交换便捷性”。**他只是说出来了，更多的人是默默地干着。

看得出来，“ZAO”在功能设置考虑过一些安全问题，比如需要人脸安全认证；上传照片不支持低像素和下载的照片；拍照方式上传，仅支持前置摄像头，并且会识别公众人物。未认证过的人脸生成的视频无法分享，并且在视频上面会有动态水印。

但这些限制，通过录屏等第三方软件，不难绕过去一些。

更重要的是，包括面部识别在内的重要隐私数据和权利让渡出去，一旦泄露，就极易被用于违法行为。

央行科技司司长李伟在一个论坛上表示，“人脸是非常敏感的个人信息，一旦泄露或被盗取，会带来非常大的影响……有技术也不能滥用，有技术也不能任性。****”

大数据专业人士也提醒存在的风险：👇

对换脸技术表示担忧的声音。

8月31日午间，支付宝回应称，目前换脸技术无法突破刷脸支付。虽然如此，将自己的面部识别信息交出去，还是留下了巨大的安全隐患。

在“ZAO”之前，已经有不少类似的软件存在，但多数还属小众。不妨把它的火爆，视作一种提醒：

**这种技术离我们如此之近，未来某天，如果发现自己出现在某条色情视频中、**被人指控从事诈骗，或者听说有人替你和亲朋好友通过话，你都不要太过惊讶……

话题的讨论让人们注意到同类技术中的安全问题

​

02

挡不住的技术

其实，恰恰因为AI换脸是一项很好用的技术，门槛很低，很容易上手，才会带来这么剧烈的冲击。

早在2017年12月，一个ID名为“deepfakes”的Reddit用户首次将自己制作的AI换脸视频发在网上，其中包括将情色电影里的女主角换成盖尔·加朵等好莱坞明星。

情色片女主角的脸被换成盖尔·加朵

这让人们第一次见识到AI换脸的强大，也引来众多受害者的投诉。

“deepfakes”账号因此被封杀后，直接开源了其AI换脸项目的代码，此后，这项技术就被命名为“deepfakes”。

它后来的发展也呈星火燎原之势，门槛越来越低。

AI换脸在国内火起来，是年初一段94版“射雕”视频。饰演黄蓉的朱茵的脸被替换成杨幂。

因为是机器学习，“deepfakes”的技术进化极快。比如下面这段换脸画面，是将节目嘉宾比尔·哈德的脸和汤姆·克鲁斯的脸来回切换：视频连接请戳https://mp.weixin.qq.com/s/6eSsj3IUfX2EPH9Ba3xk9w

👆两位演员脸部切换频繁而顺滑，极难发现瑕疵

《经济学人》的一篇文章里指出：“毫无疑问，换脸技术出现后，制作假视频的门槛已经大大降低了。以前，只有专业人士才能做出来；而现在，只要能连上网，手头有几张照片，人人都可以做。”

**生成式对抗网络（GAN）让假视频变得更真。**这是一种机器学习技术，一个系统不断生成虚假的图像，另一个系统不断识别图像的破绽。两个系统相互博弈，最终制作出统计学意义上完美的虚拟图像。

现在的假视频，早就不是把几张现成图片粗制滥造地混在一起。深度学习的软件可以在分析现有图片后，做出一张完全不依赖它们的新图。

的确，技术本身是无辜的，它可以被用于很多正面的用途，比如像《速度与激情7》，因为主演保罗·沃克遭遇车祸，就是靠换脸技术完成了他余下的戏份。

但利用它来作恶的，也已形成了完整的产业链。

03

情色片早就盯上这个技术

下面的动图截自早前一些使用 AI 换脸技术制作的情色片。现在的技术已经更为强大。

“艾玛·沃森”

“娜塔丽·波特曼”

“斯嘉丽·约翰逊”

今年初，斯嘉丽·约翰逊就在多个场合，炮轰这种假色情片行为。她说：

“互联网是一个巨大黑暗的虫洞。我没法阻止一个陌生人把我的照片拼接到另一个人的身体上。这件事对我个人造成的影响不大，因为大家都知道那不是我。****但是我希望，女性和小孩们今后在网上能够倍加小心。****因为很快就会有普通人被盯上。”

事实上，针对普通人的假色情片制作已经形成了一个灰色产业。

在国内很多网络交易平台上，100元就可打包200部换脸情色片，囊括国内一二线女明星；定制换脸视频，低于1小时只需100元，可为你制作自己同事、同学或朋友的假色情片。

“ZAO”的app宣传页上写着“仅需一张照片”。假色情片制作同样只需要照片而已——而你的这些个人照片，网上可能很容易找到，对吧？

有一天，如果你中招出现在某个不可描述的画面里时，连嫌疑人都很难锁定。

换脸视频的受害者几乎没有反击的工具。美国法律专家表示，换脸视频往往难以追踪，无法调查，而且存在一个法律灰色地带：它们建立在公开照片的基础上，实际上是新的创作，这意味着它们可以作为言论自由受到保护。

几个月前，有个ID为“阿尔贝托”（Alberto）的程序员开发了一款名叫DeepNude的应用：只需要上传一张女性照片，该应用就能自动移除女性身上的衣服并“填补”出裸体。

这种“一键脱衣”使用的是和AI换脸类似的算法。后来，迫于全网压力，DeepNude宣布下线。

但就像开发者辩解所说，“技术已经发展到这一步了，如果我不这样做，别人也会在一年内做出来。”

技术本身是挡不住的，所以更需要人们来予以约束。

谷歌公司在这个问题上的态度也很有代表性。他们说自己很重视道德责任，但认为如果对新技术严加限制，可能会让延缓开发出一些对人类有益的用途。

计算机科学家法里德认为这是一种狡辩：“你能想象一个生物学家对人们说：‘嘿，这有一种非常酷的病毒，我们看看如果人人都能感染它会怎么样’吗？”

法里德说：“这项技术太不成熟了，科技公司必须放慢推广它的步伐。”

04

它会摧毁我们对外界的信任吗？

“ZAO”在图片上传时，对公众人物的照片进行了拦截。有用户疑问说：“它如何充分定义和识别公众人物呢？”

这种拦截，是因为公众人物的换脸视频危害更大，特别是利用他们来发表一些观点。奥巴马、特朗普，都曾是此类视频受害者。

今年6月初，一则以Facebook总裁扎克伯格为素材的换脸视频在Instagram上传播开来。在视频里，假的扎克伯格说：“试想一下，一个人拥有几十亿人的数据，他知道这些人的秘密、他们的生活，甚至他们的未来。而这些数据全是偷来的。”

👆扎克伯格的“受害”视频，以及AI如何干扰美国政坛。

它以扎克伯格的名义讽刺了他自己。

此前，扎克伯格一直对Facebook上的假视频态度暧昧，强调不应该由平台来判断什么是真假。

到6月底，扎克伯格宣布，Facebook已经在制定新的换脸视频监管政策，来预防它们造成恶劣影响，并且表示：在未来，Facebook可能会完全禁止换脸视频。

而与此同时，“语音克隆”也取得了突破，现在，只需提供几秒钟的语音样本，就可以模拟出非常相似的人声。百度，谷歌、Adobe等公司都在开发相似的项目。

视频加上声音，恐怕你自己来鉴别都会有难度。

“人在家中坐，祸从天上来。”未来不要感觉太奇怪。

当这种换脸视频的泛滥，耗尽人们去核查辨别的耐心之后，这种新技术很可能会摧毁公民社会里的相互信任。

你如何看待换脸AI？