![cover]()
你离成为色情片主角，竟只差一个朋友圈头像(图)
“当你在国外一些XX网站上看到杨幂、刘亦菲做女主角的视频时，你看到的其实是通过AI换脸技术加工后的视频” 换脸App突然火爆网络 但随后有人发现霸王条款 涉嫌侵犯用户隐私 这隐私漏洞 让你离成为色情片主角 可能只差一张朋友圈头像 昨日晚间，一个名为“ZAO”的AI换脸APP忽然火爆全网！用户只需要在APP中上传一张照片，就能将自己的脸替换成“小李子”“周润发”“白展堂”“玛丽莲梦露”“绯红女巫”等人的脸，其人脸融合效果非常棒，几乎可以以假乱真。▲被AI换脸后的视频 ▲人物原图这个APP从昨晚开始在微信朋友圈等社交媒体上迎来了病毒式的疯狂传播，截止至8月31日凌晨2点，该APP在苹果商店的下载量已经飙升到了免费APP下载榜的138位、娱乐APP第13位，并仍有持续上升的趋势——朋友圈也被无数换脸视频“攻占”了。智东西在调查后发现，“ZAO”背后的大老板竟然是著名线上交友软件“陌陌”，其两位实际控股股东雷小亮 与王力分别是陌陌公司联合创始人兼游戏业务部总裁；以及陌陌公司联合创始人兼COO。 当前，在安卓与苹果的应用商店都可以下载该款APP，名为“ZAO”或“ZAO -逢脸造戏”。用户在下载完APP后，首先要用手机号码进行验证注册。 ▲侧脸将会被系统拒绝注册后，系统将会提示你选择一张图片——注意，不够清晰的、非正脸的照片是会被系统否决的，不允许上传的。 ▲使用前要先验证在选择完照片后，APP还会要求你进行一项特殊的操作——肖像验证。 用户需要在摄像头前进行眨眼、扭头、张嘴、低头等三个指示动作，在系统判断你上传的这张照片就是你本人之后，才能进行下一步操作。这一举动是为了避免该技术被恶意运用，要确保“你”没有拿其他人的照片来恶意AI换脸。 随后，在系统确认后，用户可以在APP中提供的众多模版中选择自己喜欢的，既可以将自己的脸换成经典角色——比如“小李子”“谢耳朵”“绯红女巫”，也可以将自己换脸成偶像的搭档，还可以与好友两人一起进行换脸。 在换脸视频完成后（需要1-10秒左右的处理时间），用户可以把这个视频分享到微信、微博、QQ等平台上。 ▲老白表情包上线同时，用户也可以通过这张软件制作GIF动画表情。而且用户选过一次照片之后，后面制作视频或GIF时不用再选，可一键换脸。 在APP商城上，ZAO的开发商显示为长沙深度融合网络科技有限公司。 通过天眼查我们可以看到，长沙深度融合网络科技为海南喵咖网络科技的全资子公司，而海南喵咖网络的两个的实际控制人为雷小亮与王力（分别占股50%）。 ▲雷小亮雷小亮是著名线上交友APP“陌陌”公司的联合创始人兼游戏业务部总裁，全面负责陌陌的游戏业务，此前主要负责陌陌的产品。加入陌陌之前，曾就职于网易、21世纪财经报道工作。 ▲王力王力则同样是“陌陌”公司的联合创始人兼COO，全面负责陌陌的产品、运营、市场、商业等业务。加入陌陌之前，曾就职于NEC、网易。 智东西进一步发现，雷王二人已经把所持有的海南喵咖网络科技股权质押给了北京1602信息技术有限公司——这家公司是陌陌的全资子公司。换句话说，“ZAO”背后的大老板其实就是著名线上交友软件“陌陌”。值得一提的是，ZAO的开发商显示为“长沙深度融合网络科技有限公司”，而陌陌创始人兼CEO唐岩本人就是湖南人。 其实，AI换脸视频并不是新鲜事了。早在2017年12月，国外某ID名为“deepfakes”的Reddit论坛用户首次将自己制作的AI换脸视频发布在了网络上，它能够把照片和视频中的人脸替换成任何想要替换的人脸，且效果十分逼真，有些肉眼甚至难以分辨真假。 ▲deepfakes在Reddit上上传的部分换脸视频当时，“deepfakes”把情色电影里的女主角换成了盖尔·加朵等好莱坞明星，这也是世界上所有人们第一次公开见识到AI换脸的强大。随后，由于大量受害者的投诉，Reddit论坛迫于压力封杀了“deepfakes”的账号，不过这次封杀却让“deepfakes”直接开源了其AI换脸项目的代码。在代码开源后，AI换脸技术已经有如普罗米修斯盗来的火种，一瞬间撒遍了世界各地。只要具备基础的电脑知识，即使一个“菜鸟”也能在几个小时内做出一部换脸视频，该项技术立刻风靡全球。人们为了纪念“deepfakes”，就采用它的ID命名了AI换脸技术，称之为“deepfakes”。而AI换脸真正在国内火起来还要说今年年初，B站UP主“换脸哥”发布的一段94版射雕英雄传视频。 ▲饰演黄蓉的朱茵的脸被替换成杨幂视频中，原本饰演黄蓉的演员朱茵的脸被用“deepfakes”技术替换成了杨幂的脸，从流出的视频和动图看，虽然是用AI合成的，但是整体效果十分逼真。
虽然ZAO并没有表示其换脸技术源自开源的“deepfakes”代码，但其技术有着强烈的相似性。“deepfakes”技术背后的来源是一种名为GAN（生成式对抗网络）的AI模型，它在2014年10月由前谷歌著名神级技术大咖Ian Goodfellow发布的一篇GAN论文而奠定了地位，GAN是当前人工智能学界一个最热门的研究方向。
（论文地址：https://arxiv.org/abs/1406.2661）
今年4月，Ian Goodfellow正式宣布加盟苹果，他将在苹果公司领导一个“机器学习特殊项目组”，担任总监级别职务。 当下，AI换脸技术已经蓬勃爆发，并且被一再恶意使用。
国内外都有用户使用该技术进行明星人物的换脸恶搞、甚至生成虚假视频——比如今年6月时，Facebook首席执行官马克•扎克伯格的一段被篡改过的视频浮出水面，在视频中他对该公司的用户数据隐私提出了质疑。 ▲扎克伯格视频被篡改在这些事件发生后，扎克伯格上个月在Aspen Ideas Festival上向观众讲述了Facebook正在考虑制定应对deepfakes的政策。
（详见：美国刮起“反AI换脸”热潮，创企各出奇招，联合对抗deepfakes） 更有甚者，目前AI换脸黑产已经在国内形成了完整的产业链，从下游成品情色视频、中游定制视频到上游软件及教程都有提供，有的卖家甚至提供全产业链产品和售后服务。
（参见智东西深度报道：AI换脸黑产：100元打包200部换脸情色片，5张照片就可定制视频）
据部分卖家透露，现在定制视频要排队，因为前面有很多人也有这个需求，可见AI换脸黑产已经发展到一定程度。
对于目前火爆的ZAO软件，智东西也有两大疑问：1、视频素材的版权如何保证？视频素材的版权是个关键点，软件的版权声明中说：“ZAO产品上存在的短视频和表情等素材，除了特别声明是ZAO跟合作方进行版权合作的之外，均来源于ZAO用户自发的上传，ZAO不享有素材的商业版权。”
很少有看到有特别声明的素材，言下之意说素材都是用户传的，这有甩锅的嫌疑。 但奇怪的是，在上传素材的菜单下，显示上传素材需要通过权限认证，但认证并没有开放，灰色按钮显示“暂停申请”，那现有的这些用户上传的素材是哪来的呢？
2、如何保障用户隐私，不被随意换脸虽然APP在开始时需要进行活体验证，且软件的长长隐私保护协议对可能对用户隐私有影响的地方做了说明，但是否能完全避免用户拿到一张别人照片后恶搞存疑。 很快Zao的用户协议里的近似“霸王条款”的部分引发了网上巨大的争议 简而言之就是，一旦你同意了这个用户条款，Zao将拥有你上传头像的几乎所有权利。你的头像可能会被用来做任何盈利的动作。
再联系上你同时也输入了手机号，这相当于把自己重要的隐私托付给了这个第三方。很快这个协议引发了科技圈的争议。 你怎么看这个换脸App呢？你是否觉得这是一个隐私漏洞呢？可以在评论区留言讨论 AI换脸技术在国外社交媒体上初登场，便是在一部“色情片”中。 这部“色情片”有些不同，她的女主角，不是广为人知的“各位老师”，而是著名女演员、《神奇女侠》的主演盖尔·加朵。 以上动图并非盖尔·加朵本人 这当然不是盖尔·加朵本人为了赚钱、或者是其他的商业拍摄，而是有人利用了AI技术，将她的脸P到了一位色情女演员的脸上。 遭此恶意丑化不仅只有盖尔·加朵一人，还有其他几位著名的好莱坞女演员。 艾玛·沃特森 以上动图并非艾玛·沃特森本人 娜塔莉·波特曼 以上动图并非娜塔莉·波特曼本人 艾玛·沃特森、斯嘉丽·约翰逊、二丫等人也纷纷中枪。 在国外论坛Reddit上，甚至有一个专门的deepfakes板块，聚集着一批网友，互相交流分享最新的“影片”。 还有人在上面“开班授课”，讲解如何通过AI换脸，将自己喜欢的女明星P到视频中。 国内的明星也没能“逃过一劫”。 在一些色情网站上，便有网友们自己制作的换脸影片。 Angelababy、范冰冰、杨幂……只有你想不到，没有他们做不了。 AI换脸技术的，听起来复杂，但实际操作起来并不难。 有知情人透露，给“色情片女主角换脸”这样的视频需要的硬件配置并不高，只要一个普通的显卡，加上一点基本的知识就能操作。 也不需要太多的材料，只要几十张照片就可以。照片越多，相似度越高。 曾经有人便给女主播阿冷做了“AI换脸”，视频中，女主播的脸不断变换成唐嫣、杨幂、范冰冰等人，毫无违和感。 如此低的门槛和成本，意味着人人都可以参与其中。 AI也成为了一把双刃剑，在推动着科技发展的同时，也将女性群体推入了深渊。 科技，本该带给人类美好。AI技术，可以在电影拍摄中提供极大便利，还可以复原逝去的人。 张国荣纪念日时，便有粉丝利用AI换脸技术，缅怀先人。 但总有邪恶之人，利用美好的东西来做污秽之事。 “AI换脸”的“色情黑色产业链”宛如一颗种子，正在黑暗处悄悄萌芽。 今天的“女主角”是Angelababy、范冰冰、杨幂…… 明天，“女主角”有可能是任何一个人。 你的前男友、和你闹翻了的朋友、工作上有矛盾的同事……任何一个人，都可以用“色情”的方式来报复你。 女性，也将再次被置于危险的境地。 下一个受害者，又会是谁？
6年前
温哥华天空
