周末你ZAO了吗？ZAO是做什么的？

经过一个周末的发酵，一夜爆红的换脸app“zao”已经被推到了舆论的风口浪尖，在娱乐的同时，涉及的技术问题、隐私问题、安全问题备受关注。现在我们冷静下来再审视这个zao。
周末你zao了吗？
8月30日晚间，一个名为“zao”的app一夜爆红，有的人尝鲜乐此不疲、有的人则对其中涉及到的隐私问题忧心忡忡。到了第二天，这个app已经被推到了舆论的风口浪尖。目前，zao的微信分享链接显示已停止访问，页面显示“网页存在安全风险，被多人投诉，为维护绿色上网环境，已停止访问”。
经过一个周末的发酵，我们现在冷静下来再审视这个zao。
zao是做什么的？
“仅需一张照片，出演天下好戏”，正如这句广告语，zao其实是一个换脸app。用户只需上传一张面部照片，再选一个自己喜欢的影片片段和角色，就可以把这些角色的面孔换成自己的模样，简直是不费吹灰之力过了一把“明星”瘾。
因此，zao瞬间走红的原因不外乎两个：第一，使用门槛低；第二，可以满足大家的“明星梦”。从一夜爆红到几乎全民声讨，zao的用户协议“细思极恐”
从一夜爆红到几乎全民声讨，zao到底做错了什么？其实，最主要的原因就是“隐私”二字。
知乎的一则相关提问：“如何看待 ai 换脸软件「zao」的爆火？”已经被浏览了576万次，引发网友热烈讨论。
知乎网友“法山叔”看了zao的用户协议后得出了两个结论：
1、“zao”app涉嫌过度攫取用户授权，让你在无形中将自己的肖像权拱手让人，以后你的脸将完全有可能被别人随意使用，变换；
2、zao并未获得换脸明星们的肖像权授权，你变脸涉嫌侵权，但当明星认为自己的权利受到侵害时，“zao”app将完全有可能将法律的锅全部甩给你，让你自己承担侵权苦果。
“法山叔”为我们解读了用户协议中“细思极恐”的地方：
用户协议第6条第1款规定：“在您上传及/或发布用户内容以前，您同意或者确保实际权利人同意授予zao及其关联公司以及zao用户全球范围内完全免费、不可撤销、永久、可转授权和可再许可的权利，包括但不限于可以对用户内容进行全部或部分的修改与编辑...”以及对修改前后的用户内容进行信息网络传播以及著作权人享有的全部著作财产权利及邻接权利。
这是什么意思呢？你在正式使用该app以前，是要上传自己肖像的，不仅静态，还有动态，而当你选择使用这个app以后，根据协议内容，该app除了可免费使用并修改你的肖像，还可以将它任意授权给自己想授权的第三方，当做信息进行贩卖。所以当有一天，你在zao或者其它关联平台上发现你的脸被随意变换、不再属于自己的时候，你想起诉zao，不好意思，它会拿出这个协议来堵你的嘴，告诉你你自己早已同意。
“法山叔”还为我们解读了关于侵权的规定：
第6条第2款明确规定：“如果您把用户内容中的人脸换成您或其他人的脸，您同意或确保肖像权利人同意授予‘zao’及其关联公司全球范围内完全免费、不可撤销、永久、可转授权和可再许可的权利。”
这是什么意思呢，比如现在你将杨幂的脸换成自己的脸，你除了要保证自己永久、不可撤销地把自己的肖像免费给zao使用，还要保证杨幂同意zao及关联公司使用她的肖像...但你又不是杨幂，你怎么能确保？这不搞笑吗。而他这么做，说白了，就是因为自己没钱拿到明星们的授权，日后侵权，他们可以将锅甩给你们。
而在此情形下，协议第七条第7款规定：若您侵害他人名誉权、肖像权、知识产权等合法权利的...zao可以诉诸行政执法机构或司法机关，追究相应法律责任。若因您违反本协议或zao平台的其他规则导致任何第三方损害的，您应当独立承担法律责任并承担损害赔偿责任；zao及其关联公司遭受损失的，您也应当一并赔偿。
意思即，如果杨幂状告zao，主张自己的肖像权被zao平台滥用，那zao完全可能说这不怪我，技术无罪，要怪就怪这些换你脸的用户，并且，即使zao承担了平台责任，其也完全可以起诉具体用户进行追偿。总的来说，他们把自己的屁股擦得非常干净，将侵权的苦果全部甩给了用户。
“法山叔”还提醒道：现在人脸支付，手机人脸解锁正逐渐普及，如果它拥有你的动态肖像权，那背后可能出现的问题岂不是更令人不堪设想。
新智元经授权引用“法山叔”的知乎回答，原回答链接：
链接：https://www.zhihu.com/question/343647357/answer/808994379
这又引发了一个新问题，现在的人脸支付、手机人脸解锁会因为zao的出现而有安全风险吗？玩这个软件会不会导致自己的支付宝刷脸被冒充？
根据“支付宝”的回应：不会的。因为“支付宝「刷脸支付」采用的是3d人脸识别技术：在进行人脸识别前，会通过软硬件结合的方式进行检测，来判断采集到的人脸是否是照片、视频或者软件模拟生成的，能有效地避免各种人脸伪造带来的身份冒用情况。”而且，支付宝表示：即便出现账户被冒用的极小概率事件，资金损失也会通过保险公司进行全额赔付。
“换脸”不新鲜，deepfakes技术详解
虽然zao没有公布使用的具体技术，但其实，ai换脸并不是非常新鲜的技术了。前一阵子便有朱茵变杨幂，海王变徐锦江的相关报道。
《射雕英雄传》中，朱茵变杨幂
海王变徐锦江
这些技术的背后，是2017年年底的deepfakes软件带来的结果。当时reddit用户deepfakes，将《神奇女侠》的女主角盖尔·加朵、以及艾玛沃森、斯嘉丽等众多女明星的脸跟av女优进行了交换，制作出足以以假乱真的爱情动作片。
接下来我们来了解下deepfakes的技术内容：
deepfakes 使用生成对抗网络(gan)，其中两个机器学习模型进行了较量。一个ml模型在数据集上进行训练，然后创建伪造的视频，而另一个模型尝试检测伪造。伪造者创建假视频，直到另一个ml模型无法检测到伪造。训练数据集越大，伪造者越容易创建可信的deepfake视频。
上图显示了一个图像(在本例中是一张脸)被输入到编码器(encoder)中。其结果是同一张脸的低维表示，有时被称为latent face。根据网络架构的不同，latent face可能根本不像人脸。当通过解码器(decoder)时，latent face被重建。自动编码器是有损的，因此重建的脸不太可能有原来的细节水平。
程序员可以完全控制网络的形状：有多少层，每层有多少节点，以及它们如何连接。网络的真实知识存储在连接节点的边缘。每条边都有一个权重，找到使自动编码器能够像描述的那样工作的正确权重集是一个耗时的过程。
训练神经网络意味着优化其权重以达到特定的目标。在传统的自动编码器的情况下，网络的性能取决于它如何根据其潜在空间的表示重建原始图像。
训练deepfakes
需要注意的是，如果我们单独训练两个自动编码器，它们将互不兼容。latent faces基于每个网络在其训练过程中认为有意义的特定特征。但是如果将两个自动编码器分别在不同的人脸上训练，它们的潜在空间将代表不同的特征。
使人脸交换技术成为可能的是找到一种方法来强制将两个潜在的人脸在相同的特征上编码。deepfakes通过让两个网络共享相同的编码器，然后使用两个不同的解码器来解决这个问题。
在训练阶段，这两个网络需要分开处理。解码器a仅用a的人脸来训练；解码器b只用b的人脸来训练，但是所有的latent face都是由同一个编码器产生的。这意味着编码器本身必须识别两个人脸中的共同特征。因为所有的人脸都具有相似的结构，所以编码器学习“人脸”本身的概念是合理的。
生成deepfakes
当训练过程完成后，我们可以将a生成的一个latent face传递给解码器b。如下图所示，解码器b将尝试从与a相关的信息中重构b。
如果网络已经很好地概括了人脸的构成，那么潜在空间将表示面部表情和方向。这意味着可以为b生成与a的表情和方向相同的人脸。
请看下面的动图。左边，ui艺术家anisa sanusi的脸被从一个视频中提取并对齐。右边，一个训练好的神经网络正在重建游戏设计师henry hoffman的脸，以匹配anisa的表情。
显然，deepfakes背后的技术并不受人脸的限制。例如，它可以用来把苹果变成猕猴桃。
重要的是，训练中使用的两个主体要有尽可能多的相似之处。这是为了确保共享编码器能够泛化易于传输的有意义的特性。虽然这项技术对人脸和水果都有效，但不太可能将人脸变成水果。
你还敢“zao”吗？
zao不仅国内火爆，国外用户也纷纷被这一app惊艳到了，不少人也分享出自己用zao做的“好莱坞大片”。
比如这个在twitter上已经播放了50多万次的视频，就是一位印度游戏开发工程师用zao做出的《泰坦尼克号》，视频中，他化身jack，融入到一幕幕经典场景中。
在评论中，外国网友也热议这个app。
“太疯狂了...从现在开始，这个世界再也不知道什么是真的了”
“嘿伙计们，来玩有趣的新ai学习算法，绝对不会用来训练面部识别软件带来可怕的安全问题并奴役我们所有人！”
“说实话，每个允许用户发布自拍的平台都可以做到。问题是人们永远不会停止发布自拍。”
“deepfake的演变是不可思议的。该技术仅用了3年时间，现在它已经用于公共应用程序中。” 对于zao，你怎么看？