从爆火到侵犯用户面部隐私，AI换脸程序ZAO到底做错了什么？

8月30日晚，一款名为ZAO的AI换脸App在朋友圈刷屏，其在苹果应用商店的标语为，"仅需一张照片，出演天下好戏"。这也让它轻松登顶App Store免费娱乐榜第一的位置。用户通过手机注册，然后上传照片和本人进行动态对比识别后，就可以在其APP中选用自己喜欢的影片角色，把经典影视剧主角的脸替换成用户自己的脸。与病毒式疯狂传播随之而来的，是ZAO因用户协议涉嫌过度收集用户个人信息问题而备受质疑，深陷隐私风波。

从一夜蹿红到全民声讨，隐私风险备受质疑

但伴随着ZAO的蹿红，开始有人质疑ZAO在隐私等方面存在的风险。用过ZAO之后，你的脸的肖像权很可能就不属于你自己了，甚至还有可能被非法使用。

"ZAO"的这股风潮来得快去得也快，用户协议中的条款（下图）让无数人担心——在人脸识别环境下自己的肖像会被非法使用，甚至被用于人脸支付继而造成经济损失，或是肖像被直接用于非法视频制作导致名誉权受损。从Appstore下载量前3到目前的用户评论不足，从爆红到质疑缠身，"ZAO"只花了不到24小时的时间。

ZAO修改用户协议回应质疑，用户内容不会用作他用

8月31日，一夜爆红的AI换脸软件ZAO修改了用户协议。关于此前备受争议的有关用户安全与隐私的条款，增加了"特别提示"：用户使用ZAO生成的内容，ZAO将仅用于修改并生成新短视频，除非获得用户再次同意，不会以任何其他形式使用上述内容。用户如果删除了上传内容，"ZAO"也会依据相关法律从服务器中删除。此外，用户如果使用ZAO"换脸"，需确保肖像权利人授权ZAO对人像进行处理。

官方正式发声明致歉：不会存储个人面部特征信息

9月3日，针对外界的隐私争议，从上周末开始爆红的AI换脸软件ZAO发出声明称，ZAO不会存储个人面部生物识别特征信息，同时表示不会产生支付风险。

ZAO将AI换脸的风潮刮遍全球

在推特上，有无数外国网友也在用ZAO完成AI换脸。正当换脸风潮席卷全球，大家玩得不亦乐乎的同时，质疑声也随之而来。

其实在今年年初，一位叫做"换脸哥"的UP主便利用Deepfakes上传过一条关于换脸的社交动态，视频中，他将94版《射雕英雄传》中朱茵的脸换成了杨幂的，在网络上瞬间一石激起千层浪。

将朱茵的脸换成杨幂之后的94版《射雕英雄传》

外国媒体评论说："无论它看起来多么酷，任何需要某人脸部照片的技术都应该引起人们的注意，而不是让所有公民在一个很酷的应用程序的幌子下，'愉快地'泄露他们的所有数据。即使应用程序最终没有将用户数据用于恶意手段，或是将它出售给第三方，你仍然会感觉到害怕。"

AI换脸不是新技术，换脸到底安不安全？

"AI换脸并不是新技术。"一位长期研究人脸识别和分析技术的专业人士称，AI换脸所使用的核心技术是人脸关键点检测GAN（生成式对抗网络模型），这项技术目前已相对成熟，ZAO的换脸功能使用"deepfake"+移动端优化就可以做到，不过并不确定ZAO是否使用了"deepfake"的开源代码。

"deepfake"是国外一项开源AI换脸软件。据《智东西》报道，2017年12月，国外某ID名为"deepfakes"的Reddit论坛用户首次将自己制作的AI换脸视频发布在了网络上。当时"deepfakes"把情色电影里的女主角换成了盖尔·加朵等好莱坞明星。由于大量受害者的投诉，Reddit论坛迫于压力封杀了"deepfakes"的账号，不过这次封杀却让"deepfakes"直接开源了其AI换脸项目的代码。

AI换脸技术兴起之初，受影响最大的是服务业，它将女星的面孔与色情演员的身体合成，合成之后不堪设想，如果你不知道真相，很可能会认为这是一起"艳照门"。

女明星"出演"情色电影里的女主角，AI换脸存在的伦理道德风险可见一斑。

而换脸背后的隐私安全风险也极大。比如，犯罪分子可以替你和你家人通话了，你的脸还可能出现在色情视频之中，甚至还可以代替你进行人脸识别、实名认证，个体的信息便可能透明，生活就会处于极大风险之中。此外，你在朋友圈传播着的视频，也可能侵犯着相关明星的肖像权以及相关影视作品的版权。你的脸就不再是你的“脸”了。