zao带来的麻烦，超出你想象

文 | 万珮

编辑 | 蔡逸枫

来源 | 投中网

8月的最后一天，一款名叫“zao”的AI换脸App刷屏了，你只需要将照片上传到App上，就可以和张柏芝、秦岚等一众明星换脸。这款App的背后推手是大众熟悉的移动社交App陌陌，据官方透露，700万元租来的服务器一晚上花掉近1/3。

投中网在体验的时候，也经常被提示“服务器繁忙”，一位社交软件创业者对投中网称，“（这款App）有一定的魔性，有比较大众的可玩性和娱乐性，尤其适用在社交媒体场景，一夜刷屏是自然现象。”

在zao火爆的同时，关于版权和隐私安全问题的质疑也随之而来。App上的素材是否有版权方授权、如何保证用户的隐私不被滥用等问题引发了大量的争议。

更令人担忧的是，AI换脸技术正在挑战我们身处的“眼见为实”的世界，因为这些视频足够以假乱真。zao背后的AI换脸技术其实不是一个新鲜的词汇，此前，Deepfakes、Face2Face都曾有着类似的功能——将一张脸替换成另一张脸。

zao们究竟会给我们带来多大的麻烦？

卡内基国际和平基金会曾发布文章称，Deepfakes正在给政府与企业带来破坏性的影响，比如煽动政治暴力，破坏选举和扰乱外交关系。

据《华尔街日报》报道，部分初创企业、美国政府机构和学术界都在与“deepfakes”作斗争，通过新闻事实审核、图像验证技术等手段来对抗这项让人忧心忡忡的技术。

换脸，怎么玩？

zao这款App的玩法非常简单。App分为“造视频”、“造表情”、“好友”和“我的功能”四个部分。在“造视频”区域，有丰富的“换脸”视频素材可供选择。你点击其中一个就可以开始换脸之旅了。

不仅如此，zao还添加了“好友”功能，你可以通过微信和QQ来邀请你熟悉的人一起“变脸”，官方在微博上透露，这才是zao的精髓。投中网选中了一个玛丽莲梦露的演唱视频，进入视频播放页面后，在视频下方，有一个“替换”按钮，这时你可以选择用手机拍照，也可以从相册中选择照片上传，成功上传后就可以一键生成视频了——你的脸也就此和玛丽莲梦露的身体融合在一起了。

一位社交软件创始人对投中网称，有一定的魔性，有比较大众的可玩性和娱乐性，尤其适用在社交媒体场景，一夜刷屏是自然现象。此类软件技术门槛并不高，丰富多彩的视频素材是关键。

资本和模仿者也开始行动。金沙江创投董事总经理朱啸虎在朋友圈表示，一夜刷屏之后，十余家VC开始约见团队，有抄袭者在今日凌晨就提交了审核。

“以假乱真”会带来多大的麻烦？

伴随着海量的换脸视频一起刷屏的，还有对于AI换脸所带来的版权和隐私安全问题的质疑。

zao的版权说明称，zao产品上存在的短视

北京同清律师事务所合伙人何磊对投中网表示，“AI换脸”如未获得相关权利人的许可，可能侵犯视频作品版权人享有的修改权、保持作品完整权等著作权权利，同时，还涉嫌侵犯原视频中明星、演员的肖像权等权利。频和表情等素材，除了特别声明是ZAO跟合作方进行版权合作的之外，均来源于ZAO用户自发的上传，ZAO不享有素材的商业版权。

知名法律博主法山叔称，“zao”app涉嫌过度攫取用户授权；zao并未获得换脸明星们的肖像权授权，用户变脸涉嫌侵权，并且当明星认为自己的权利受到侵害时，“zao”app将完全有可能将法律责任推卸给用户。

比如，zao用户协议第6条第1款规定：“在您上传及/或发布用户内容以前，您同意或者确保实际权利人同意授予zao及其关联公司以及zao用户全球范围内完全免费、不可撤销、永久、可转授权和可再许可的权利，包括但不限于可以对用户内容进行全部或部分的修改与编辑，以及对修改前后的用户内容进行信息网络传播以及著作权人享有的全部著作财产权利及邻接权利。”

何磊认为这种格式条款是典型的霸王条款，属于明显的单方强加对方责任义务，而逃避或减免自身责任义务的格式条款，违反了合同双方平等原则，并且条款内容宽泛，指定不明确，比如所谓授权的范围、时间等都不明确，属于可撤销甚至无效的条款。

一名网友称，色情视频换脸、视频欺诈很快会成为最为流行的犯罪玩法，对骗术识别能力差的老人有极高的杀伤力。保护自己的声纹和面部图像，尽量不要给任何App做此类精细化采集。也建议加快相关隐私数据法律法规建设。

其实早在zao问世之前，它的“前辈”Deepfakes已经给大洋彼岸的用户造成了很大的麻烦。

比如，通过Deepfakes，你的脸可以被随意嫁接到色情视频上。此前斯嘉丽等明星受到过被移花接木的苦恼。斯嘉丽在接受《华盛顿邮报》采访时称，对于充斥网络的换脸色情片“很愤怒”，但她和她的团队却无能为力。

Deepfakes这个“杀伤力”极强的功能，甚至惊动了美国国防部。美国国防部研究机构为了应对换脸软件存在的问题，特地研制出了首款“反变脸”的AI刑侦检测工具——DARPA Media Forensics，研究人员发现，用AI技术生成的假脸，由于是使用静态的照片进行训练的，所以极少或者不会眨眼。在这种方法之下，准确率达到99%。

除了会造成上述这些已知的麻烦，换脸技术还可能带来更多不确定影响。一些国内网友就开了这样的脑洞:是不是我们的肖像信息会被滥用到“刷脸支付”上？这会让直接侵犯到我们的财产安全。

对此，支付宝下午回应称：目前，网上各类软件有很多，但不管换的有多逼真，都无法突破刷脸支付的。“刷脸支付”采用的是3D人脸识别技术、在进行人脸识别前，也会通过软硬件结合的方式进行检测，来判断采集到的人脸是否是照片、视频或者软件模拟生成的、能有效地避免各种人脸伪造带来的身份冒用情况。

除了这些问题本身，zao们带来的麻烦背后是一个需要我们警惕的现实：人类正身处一个技术爆炸的时代，诸如脑机接口、AI换脸这样以商业化为目的科技发展迅猛且不可逆，你并非不能抵挡它，但代价可能太高了。

也许你可以完全忽视他们，拒绝使用任何可能侵犯隐私权的产品，但这样的同时，也失去了科技带来的便利和乐趣。

或者，你愿意花费大量时间，仔细研究每一个条款，尽最大可能避开这些“陷阱”。但这首先要求具备强大的法务知识储备和自我隐私保护能力，光是辨别这些鱼龙混杂的信息，就很有可能让你精疲力尽。

但更接近现实的情况是，我们不会永远活在过去，也不可能把很多精力消耗在与AI技术“斗智斗勇”上。

技术本身是中性的，但前提是保证技术不被滥用，这就要求商业化的科技公司们更为主动地去守住自己的责任边界，并且用更为先进的技术手段和规范的制度来甄别这些虚假的信息。就像英国创业公司Serelay创建了应用于照片和视频的验证系统，并正在开发标记真实图片的方法。可Serelay这样的公司毕竟不是多数。

接受科技生活是否意味着要放弃隐私？在这样的隐患下，大数据和用户隐私如何平衡？这或许是zao们，以及每个致力于商业化的科技公司都需要思考的核心问题。