您当前的位置: 首页 > 新闻 > 科技

ZAO的爆红与沦陷:AI换脸并不是一款APP那么简单

来源: 编辑:vbeiyou 时间:2019-09-05 05:37 人阅读
今年年初,B站UP主“换脸哥”发布了一段94版《射雕英雄传》视频,其将原本扮演黄蓉的演员朱茵的脸换成了杨幂的,彼时看着“黄蓉”变成杨幂,吃瓜群众还仅仅是感叹一句,太逼真了,AI太厉害了。 但当一款名为“ZAO”的AI换脸软件在社交网络刷屏,用户只需要一张正脸照就可以将视频中的人物替换为自己的脸时,人们才发现事情在朝着失控的方向发展,“换脸”技术门槛降低的同时,诸多隐患也随之暴露。 ZAO的爆红与沦陷:AI换脸并不是一款APP那么简单(图1) 眼看ZAO起高楼,眼看它楼塌了 上周末,ZAO迎来它的高光时刻,随之又凉凉了。 ZAO的使用规则特别简单,用户通过上传照片,用AI换脸功能,将视频中的演员换成自己的脸,然后分享朋友圈,号称“仅需一张照片,出演天下好戏”。由于操作方便,又能和“偶像同框”,ZAO迅速火爆,8月31日,#ZAO AI换脸#已快速登上微博热搜榜,在iOS商店内的APP下载量也攀升至娱乐类一位。 ZAO的突然蹿红,引起广泛关注,凑热闹的忙着“换脸”,业内人士则扒出了部分底细,ZAO由长沙深度融合网络科技有限公司开发,该公司为海南猫咖科技有限公司的子公司,高管同时是陌陌的高管。虽然陌陌官方并未正式回应其与ZAO的关系,但后来发生的一些事,不言自明。 与此同时,ZAO的用户协议引起质疑,其在协议第六条第1款提到:“在您上传及/或发布用户内容以前,您同意或者确保实际权利人同意授予ZAO及其关联公司以及ZAO用户全球范围内完全免费、不可撤销、永久、可转授权和可再许可的权利,包括但不限于可以对用户内容进行全部或部分的修改与编辑(如将短视频中的人脸或者声音换成另一个人的人脸或声音等)以及对修改前后的用户内容进行信息网络传播以及著作权人享有的全部著作财产权利及邻接权利。" 该条款直指ZAO及其关联公司将获得用户上传内容的著作权利,包括其中的人脸肖像照!也是这条协议引爆了对于ZAO的质疑。 ZAO的爆红与沦陷:AI换脸并不是一款APP那么简单(图2) 广泛流传的一张网络截图显示:“ZAO的用户协议太离谱了”、“有手机号,有面部画像,通过技术合成,犯罪分子可以替你和你的家人通话了。” 此后,ZAO的微信分享链接被停止访问,页面显示“网页存在安全风险,被多人投诉,为维护绿色上网环境,已停止访问”。不少网友在ZAO的官方微博下留言,要求注销账号,删除本地面孔,其在App Store上的评分也由之前的4.6分将降至1.9分。 用户面部信息泄露引监管部门关注 9月3日,针对ZAO用户隐私协议不规范,存在数据泄露风险等问题,工信部网络安全局对北京陌陌科技有限公司(简称陌陌科技)负责人进行了问询约谈,要求其开展自查整改,依法依规收集使用用户个人信息,规范协议条款,强化网络数据和用户个人信息安全保护。 ZAO回应称,将严格按照法律法规和各主管部门的要求,按照更加严格的标准,全面加强内容管理、完善各项管理机制,确保用户个人信息安全和数据安全。 ZAO的爆红与沦陷:AI换脸并不是一款APP那么简单(图3) 而在此之前,ZAO更改了这段备受争议的用户协议,并增加了“特别提示”称,用户授权内容“仅限用于为您提供上传/发布短视频以及利用技术对平台上的短视频进行局部修改生成新的短视频的服务,相关的内容将严格按相关法律法规的规定保留在“ZAO”上,除非为了改善“ZAO”为您提供的服务或另行取得您的再次同意,否则“ZAO”不会以任何其他形式或目的使用上述内容”。 在其官方微博上,ZAO表示,ZAO不会存储个人面部生物识别特征信息;没有采集任何个人生物识别特征;使用ZAO不会产生支付风险;用户删除信息或注销账号,ZAO均会依据相关法律法规的规定删除相应信息。 ZAO风波未平,AI换脸技术已经被滥用 对于ZAO的质疑,从更深的层面来说,其实是对AI换脸技术的质疑。用户在ZAO平台上上传个人信息照,图像信息大概率是要留下来,那这些图像会被用来做什么呢?AI人脸识别亦或是继续被换脸,谋取更多非法利益。 在二手交易平台闲鱼APP上,有多位卖家通过AI换脸技术制作出当红女明星的不雅视频,进行售卖。据澎湃新闻报道,其中一位卖家称,他有视频100部,里面包括30多位明星,还有一位类似卖家报价称,75元套餐中有40多位女明星上百部的AI换脸视频。 ZAO的爆红与沦陷:AI换脸并不是一款APP那么简单(图4) 对此,中国政法大学知识产权研究中心特约研究员赵占领表示,这种售卖明星换脸不雅视频的行为,毫无疑问是构成肖像侵权的,也涉嫌构成名誉侵权。而且还涉嫌构成刑事犯罪,它属于传播淫秽物品牟利罪,情节严重者可判无期徒刑。 而在更早之前,国外某ID名为“deepfakes”的Reddit论坛用户就首次将自己制作的AI换脸视频发布在了网络上,其将情色电影里的女主角换成了盖尔·加朵等好莱坞明星。 欧美国家也率先认识到这一技术的弊端,监管也趋于严厉。不仅Facebook、Google 等科技巨头面临来自立法者和其他人对其隐私做法的强烈反对,微软更是删除了此前全球最大公开人脸识别数据库。 不可否认,随着刷脸支付、刷脸乘车等运用的普及,在一定程度上方便了我们的生活,但生物特征数据具有唯一性,一旦被非法窃取利用,隐私泄露等问题随之而来。此次ZAO AI换脸所带来的争议也给广大厂商和监管者提了个醒,技术始终要被用于以合法化利益为目的的情况下,随着AI技术的快速发展,监管也应到位。

本站所有文章、数据、图片均来自互联网,一切版权均归源网站或源作者所有。

如果侵犯了你的权益请来信告知我们删除。邮箱:business@qudong.com

相关文章