每日经济新闻
头条

每经网首页 > 头条 > 正文

道高一尺,“ZAO”高一丈 “换脸”之后如何保证“要脸”?

每日经济新闻 2019-09-04 22:59:57

近日,一款名为“ZAO”的App火了。这个可以“换脸”的App在满足用户好奇心的同时,也隐藏了较大的风险因素。

每经记者 张虹蕾    每经编辑 梁枭    

从迅速走红社交网络,用户竞相尝鲜,到因隐私协议广受外界争议,再到最新被工信部约谈,在不到一周的时间里,“ZAO”App的境遇可谓“冰火两重天”。

伴随着“ZAO”App站在新的“十字路口”,用户们也逐渐从狂热变得谨慎又忐忑……这不禁让人心生疑问,看起来很美的AI换脸,其背后究竟有怎样的风险?

从走红到质疑,“ZAO”App的风险在哪儿?

“眼看他起朱楼,眼看他宴宾客,眼看他楼塌了。”

作为“ZAO”App的尝鲜者,新媒体从业者王丽丽(化名)告诉《每日经济新闻》记者,让她意想不到的是,自己刚尝到AI换脸带来的乐趣,转眼就面临着个人隐私泄露的风险。

8月31日晚,王丽丽在朋友圈看到自己的多个好友都在展示“换脸”小视频。在几秒钟的小视频中,有人可以实现和偶像同框演戏的愿望、有人扮演明星角色进行一场“cosplay”。兴趣使然,王丽丽也加入了AI换脸的“阵营”。在手机验证注册后,王丽丽在摄像头前进行眨眼、扭头等动作后,才可使用相关功能。通过App模板,王丽丽可根据自身的喜好换成影视剧中的经典角色。除了把生成的小视频发在朋友圈,还可以做成GIF动态表情。

王丽丽是“ZAO”App众多的AI换脸用户之一。从8月30日上线开始,“ZAO” App就迅速走红。不到24小时,这款APP就在各应用商店免费应用排行榜中蹿升至前列,同期更入选微博热搜话题。那几天,AI换脸成了社交平台上一道频繁出现的风景线。王丽丽也和朋友们沉浸在ZAO新奇的玩法中。

不过,随着AI换脸走红,质疑之声接踵而至。

根据“ZAO”App用户协议内容中的必要授权协议:用户上传发布内容后,意味着同意授予“ZAO”App及其关联公司以及“ZAO”App用户在“全球范围内完全免费、不可撤销、永久、可转授权和可再许可的权利”,“包括但不限于可以对用户内容进行全部或部分的修改与编辑(如将短视频中的人脸或者声音换成另一个人的人脸或者声音等)以及对修改前后的用户内容进行信息网络传播以及《著作权法》规定的由著作权人享有的全部著作财产权利及邻接权利”。

这一协议很快引起了用户的争议和讨论,包括王丽丽在内的多数用户认为,这一协议存在泄漏个人信息的风险,情况严重还可能导致人脸识别支付等场景被盗用的风险。

北京大成(成都)律师事务所律师庞彦燕对《每日经济新闻》记者表示,这涉及用户肖像权的法律侵权问题和隐私问题。在互联网和AI技术迅速发展的当下,用户的肖像可能被用于制造假图片、假视频,甚至随着科技的发展可直接用于人脸识别支付,存在一系列风险。

内心产生担忧的不只是王丽丽,不少先前充满热情尝鲜的用户,都开始担忧自身的隐私泄露。甚至有用户在APP下载界面对于相关协议作出“过分了”、“霸王条款”等评论。

致歉声明后用户仍担忧

根据微博认证信息,“ZAO”App的运营主体为长沙深度融合网络科技有限公司。工商资料显示,长沙深度融合网络科技有限公司法定代表人为雷小亮。此外,长沙深度融合网络科技有限公司股东为海南喵咖网络科技有限公司,后者法定代表人为也是雷小亮,股东为雷小亮与王力。

工商资料显示,今年7月19日,长沙深度融合网络科技有限公司发生股东变更,北京陌陌科技有限公司退出,新增海南喵咖网络科技有限公司。由此可见,北京陌陌科技有限公司是“ZAO”App原股东。而雷小亮则是陌陌的联合创始人和产品总监。

随着舆论的不断发酵,今日(9月4日),工信部官网发布消息称,3日,针对媒体公开报道和用户曝光的“ZAO”App用户隐私协议不规范,存在数据泄露风险等网络数据安全问题,工信部网络安全管理局对陌陌相关负责人进行了问询约谈,并要求其严格按照国家法律法规以及相关主管部门要求,组织开展自查整改,依法依规收集使用用户个人信息,规范协议条款,强化网络数据和用户个人信息安全保护。同时,要进一步加强新技术新业务安全评估,切实采取有效措施,积极防范自有业务平台被利用实施电信网络诈骗等风险隐患。

而据36氪今日(9月4日)报道,针对工信部的约谈,“ZAO”App运营团队回应称:“ZAO上线以来,我们和各主管部门保持着积极顺畅的沟通。非常感谢大家对于新技术新应用的关注,我们也在第一时间回应了大家的核心关切,将严格按照法律法规和各主管部门的要求,按照更加严格的标准,全面加强内容管理、完善各项管理机制,确保用户个人信息安全和数据安全。”

9月3日,“ZAO”App运营团队通过微博发声明并致歉称,“ZAO”App不会存储个人面部生物识别特征信息。“ZAO”App所呈现的“换脸”效果,是根据用户提交的头像照片,按照用户选定的素材场景,通过后期技术叠加所实现的虚构图像,并没有采集任何个人生物识别特征。使用“ZAO”App不会产生支付风险。用户删除信息或注销账号,“ZAO”App均会依据相关法律法规的规定删除相应信息。

不过,这一说法尚未平息用户心中的怒火。目前,在上述微博的声明下,大量用户依然在追问:注销后个人信息和照片的数据安全泄露隐患如何消除?

AI换脸可能“昙花一现”?

事实上,关于互联网用户隐私安全问题,业界早有关注。

渤海证券研报指出,当前全球在线文件暴露问题日益严重,外部存储数据量的增加给原有的数据安全策略带来了新的挑战,预计未来3年会有更多企业和政府机构在防止隐私泄露和保护个人数据上加大投入。

今年2月末,一个运用AI换脸技术将94版《射雕英雄传》电视剧中朱茵饰演的黄蓉,换“脸”成了杨幂的小视频,一经发布便在网络上收获巨大点击量和引起热议。4月,《民法典人格权编(草案)》二审稿提请十三届全国人大常委会第十次会议审议。而此次草案二审稿针对技术“换脸”侵犯自然人肖像权的问题,专门增加规定:任何组织和个人不得以利用信息技术手段伪造的方式侵害他人的肖像权。而今年8月,在草案三审稿中,也进一步升级了隐私权和个人信息保护。

艾媒咨询创始人兼CEO张毅对《每日经济新闻》记者表示,AI换脸等产品可能在诞生初期迅速带给用户新鲜感,很容易达到“一夜走红”的效果。但纵观行业的发展和综合因素,该运用场景很可能是昙花一现。在平台被媒体曝光存在隐私安全隐患的同时,大部分用户也会考虑可能面临的风险,尝试欲望也会进一步降低。

张毅表示,通过近几天的抽样调查发现,目前,使用“ZAO”App的用户多为一些年轻女性,相对而言,年龄层偏成熟的人士对于软件的使用度较低。因而,该APP的应用场景更多是切入细分市场,很难普及。

张毅还分析道,AI换脸等技术虽已日渐成熟,但从宏观层面看,仍然存在多方面风险,受到监管和法律层面的制约。未来能够占据市场主流的仍然是有政府授权、安全性高的企业,一些初创和小众的平台,如果不能达到较高的安全系数,很难取得用户长久信任,立足市场。

新智元创始人兼CEO杨静对《每日经济新闻》记者表示,AI换脸并非新鲜事,支持这种场景的机器学习技术——Deepfakes已经相当成熟。Deepfakes指的是用人工智能软件制作的虚假视频,由FakeApp程序创建而成,FakeApp则可实现AI换脸。在该项技术的发展过程中,也存在一些争议,AI换脸是否会侵犯到用户隐私和信息安全备受关注。

不过,杨静也指出,“道高一尺,魔高一丈”,技术进步也会推动科技向善。为了保障AI换脸等场景的安全性,国内外的研究者和团队也推出了AI防伪克星、AI侦测工具等AI“打假武器”。此外,AI技术进步驱动行业升级和效率提升,但要高效安全地运用AI技术,法律的进一步完善、监管部门的规范管理、用户的隐私保护意识缺一不可。

封面图片来源:摄图网

如需转载请与《每日经济新闻》报社联系。
未经《每日经济新闻》报社授权,严禁转载或镜像,违者必究。

版权合作及网站合作电话:021-60900099转688
读者热线:4008890008

特别提醒:如果我们使用了您的图片,请作者与本站联系索取稿酬。如您不希望作品出现在本站,可联系我们要求撤下您的作品。

人脸识别 ZAO 换脸

欢迎关注每日经济新闻APP

每经经济新闻官方APP

0

0