365bet扑克技巧网-ZAO火爆却注定短命背后:换脸攻击一直都存在?
2019-09-01 13:17:02 来源:本站

文 | 锌刻度,作者 | 许伟,编辑 | 黎盛荣

一夜间,从爆火到众多质疑、甚至厌恶,互联网圈已经很久没出现这个盛况了。

8月30日晚,一款主打视频换脸功能的、名为“ZAO”的APP“点燃”社交网络。其操作十分简单,用户只需上传一张照片,用AI换脸功能,就可将照片上的脸“换”到张柏芝、王祖贤等各大明星的身上,然后分享朋友圈,甚至“可以和自己的偶像同框”。

经过一夜发酵,到8月31日早上9点过,#Zao AI 换脸# 话题快速登上微博热搜榜第7位,iOS商店内的App下载量也在当日下午超越爱奇艺、腾讯视频两大国民级应用,攀升至娱乐类第二位——ZAO服务器也因此数次崩溃。

不过,伴随刷屏的,是业内外无数人士的质疑,甚至厌恶和反感——引起巨大争议用户隐私保护条款背后,是我们的脸早就被滥用,甚至攻击都一直存在。

ZAO或将步前辈短命后尘

其实,因攻陷用户朋友圈及多个社交媒体平台而一夜爆火的ZAO,并不是第一个搭载“换脸”技术的平台。

早在今年5月,Snapchat就已经推出了一款“变性滤镜”,这让它一度爬升至总榜第三位。但随着用户新鲜感的丧失,现在Snapchat已跌至总榜1000名之外。

无独有偶,今年7月,俄罗斯的AI换脸产品FaceApp曾一度位居App Store总榜第2名、摄影与录像榜第1名。它复制了Snapchat的崛起之路,不仅能将人脸进行转化,还能在此基础上实现男性变女性、哭脸变笑脸、老年变青年等更为复杂的操作。可惜的是,FaceApp的火热并没有因此得到延续,截至目前,FaceApp在App Store总榜排名已跌至600名开外。

就拿以上两个案例来说,“AI换脸”技术虽然为平台带来了流量,但都好景不长。

目前来看,当红的ZAO正在进行引流工作,那么它能不能将这流量转换为实打实的长久用户?

围绕“AI换脸”技术,ZAO目前只有视频换脸、视频分享朋友圈及表情制作三大功能。很显然,如Snapchat和FaceApp一样,这些简易功能通常难以让用户的热情持续下去。

而根据其设置,用户直接上传照片就可以将平台上多个知名影视剧片段中原来人物的脸替换成照片人物的脸,毫无疑问,对用户来说极大的降低了使用门槛。但它对照片高清晰度的要求又带来了新门槛:若是照片不符合平台要求则不能进行“换脸”操作,这必然会让用户丧失一定的体验感。

相较于内置功能是否能够留住用户的不确定性,ZAO带来的风险是现在就能看到的。

首先,ZAO用户协议中包含的多项条款都有着巨大的法律风险。而使用ZAO换脸功能后(必须同意用户协议后才能使用),ZAO不光借此免费获得了上传资料中所包含肖像信息的使用权和转授权,还将侵权的风险转嫁给了用户。

ZAO用户协议中的多个条款备受争议

知名法律博主“法山叔”表示,ZAO涉嫌过度攫取用户授权,让用户在无形中将自己的肖像权拱手让人,“以后你的脸将完全有可能被别人随意使用,变换”。

其次,ZAO上有大量国内外影视综艺内容片段,还能支持用户自主上传素材,这些海量素材也带来了版权隐患。

知名IT与知识产权律师赵占领分析认为,ZAO上的视频素材和表情素材的来源主要是两种:一是与权利人进行合作,获得权利人对于素材的版权及其中包含的肖像的权利人的授权;二是由用户上传,通过用户协议约定用户将上传的素材以及修改后的素材的版权中的修改权、信息网络传播权等权利以及转授权授予平台。

他表示,“其中第一种来源有效解决了ZAO的商业模式的合规问题,但是毕竟获取授权是有代价的,限制了平台所获取的素材的种类和数量,而第二种方式通过从用户处获得授权,大大降低了平台获取内容的成本,丰富了平台上的素材,有助于满足更多用户的需求。”

总的来说,虽然目前ZAO是一个免费应用,但不论是从用户体验角度,还是出于使用风险考虑,ZAO都不会是用户长久使用的必选项。

绕过人脸识别并不难?

值得关注的是,无论ZAO是否一款短命火爆产品,其背后却是一个严重问题:我的脸还好吗?

央行科技司司长李伟上个月就曾表示,“人脸是非常敏感的个人信息,一旦泄露会带来非常大的影响。”

相较指纹等其他生物特征,人脸识别最大不同就在于,它能无需接触,就远距离发生作用——这意味着,相关机构和个人可能未经当事人同意、甚至完全不知情的情况下读取并搜集其数据,进而非法使用。

2011年,谷歌母公司Alphabet董事长埃里克·施密特说,人脸识别“很可怕”,并承诺谷歌公司不会建立用户照片的数据库;去年7月,科技巨头微软总裁史密斯( Brad Smith)发表官方博文,谈到了人脸识别给社会带来的复杂影响。他表示,人脸识别进入了一个关键性时刻,这种技术可能被滥用,给社会带来不良影响,美国国会应该讨论立法,对人脸识别进行监管。

据国外媒体披露,亚马逊公司将人脸识别技术和服务销售给了美国警方,这一做法引起亚马逊部分员工抗议,要求拒绝将人脸识别技术提供给警方。微软也遭遇了类似的争议,被指和美国移民海关执法局签署合同,提供了人脸识别技术。

更担心的是非法利用——这种担心并非杞人忧天。实际上,利用Deepfake造假技术,艾玛·沃森等一众欧美女明星,此前就被“换脸”在了不可描述的小电影上,一时轰动全网。

ZAO也是如此。有用户担心,ZAO采集了用户面部信息,同时也在注册时获得了自己的手机号,是否会有可能被不法分子用于支付宝、网上银行等APP的实名认证,从而危及自己的金融财产安全。

一位反欺诈领域专家认为,只要不法分子掌握了人脸照片,通过将静态的照片进行动态化处理,再绕过人脸识别环节并不难。一位国有大行网络金融部负责人也表示,其团队今年年初找权威机构做过人脸识别相关的检测,活体检测、视频攻击等方面存在一定风险,虽然后台算法升级会使防控效果有一定提升,类似换脸的攻击威胁还是会一直存在。

不过,上述人士也强调,人们也没有必要太过担忧,因为“目前在手机银行应用人脸识别是作为辅助认证,要辅以短信等其他认证工具。小额支付领域风险较小,强调便捷,在有相关赔付保障情况下采取人脸识别问题应该也不大。”

此外,蚂蚁金服方面也回应称,“目前,网上各类换脸软件有很多,但不管换得有多逼真,都是无法突破刷脸支付的。

据了解,“刷脸支付”采用的是3D人脸识别技术,在进行人脸识别前,也会通过软硬件结合的方式进行检测,来判断采集到的人脸是否是照片、视频或者软件模拟生成的,能有效地避免各种人脸伪造带来的身份冒用情况。

“AI换脸”已形成黑色产业链

有网友表示,ZAO这次之所以引起如此大的关注,是因为以往的换脸视频,对技术有着比较高的门槛要求,而ZAO一下子把门槛降到了最低,普通手机用户都可以玩了。

其实,这背后还有一个难以否认的事实是——目前,“AI换脸”已经形成一个非法牟利的地下黑色产业链。

此前新京报就有报道称,互联网上大量出现通过“AI换脸”实现的由知名女艺人“主演”的不雅视频,在百度贴吧、闲鱼等主要网络平台均有出售。

有的商家不仅提供成品的视频,还接受买家的订制,只要买家提供20张照片,就可以制作出任何人的“小电影”。还有的商家“授人以渔”,售卖教学视频供人学习,出示学生证还能打七折。

而据“智东西”此前报道,目前AI换脸黑产已经形成了完整的产业链,从下游成品情色视频、中游定制视频到上游软件及教程都有提供,有的卖家甚至提供全产业链产品和售后服务。

根据锌刻度最新了解的情况来看,这种情况并未得到好转。比如,在浏览器搜索“换脸教程”,有多个教程详述制作细节,足够教会用户如何使用“换脸”技术;在淘宝、咸鱼等平台搜索“换脸”,大部分商家显示可售卖成品照片及提供定制服务,部分商家还售卖软件和教程;至于在deepfake吧里,则可以找到明显带着暗示性字眼的资源帖。

换头换脸成本不高

这些不法商家之所以如此明目张胆,与早前监管的缺失不无关系。值得庆幸的是,相关监管部门已经注意到了“AI换脸”技术带来的危害性。

今年4月,民法典人格权编草案和物权编草案的二审稿新增了这样一条规定:任何组织或者个人,不得以利用信息技术手段伪造的方式侵害他人的肖像权。

国家网信办会同有关部门在5月底发布的《数据安全管理办法(征求意见稿)》中也提到,“网络运营者利用大数据、人工智能等技术自动合成新闻、博文、帖子、评论等信息,应以明显方式标明"合成"字样;不得以谋取利益或损害他人利益为目的自动合成信息。”

由于人工智能技术所具有的高度的不确定性、创新性和复杂性,面对千变万化的应用场景,目前想要所有乱象得到根治也绝非易事。

毕竟技术本无罪,全看使用技术的人想拿它做什么。目前来看,更重要的是相关AI企业应该坚守自身底线。著名学者吴伯凡就认为,科技本身是不能向善的,应该是让科技向善,人在使用技术的时候一定要有初心,让科技向善。“之前的技术没有自主性和主动权,比如火、核能都不能自主做事,但人工智能是有自我学习能力的,是非常特殊的,就一定要解决向善的问题。”