换脸APP一夜爆火,关于它的安全问题,浙大人工智能专家这样说

全文艺

钱江晚报·小时新闻记者 汪佳佳

一款名为“ZAO”的AI换脸APP昨晚一夜之间刷爆朋友圈。在朋友圈和微博里,我看到了“各种各样”的韩商言、甄嬛、小燕子……而关于的热搜,也在微博里一路走高。甚至火到今天,迅速有同类型的app模仿秀跟着推出。

在这些换脸app中,只要一张你的正面图片,就可以迅速帮你完成换脸,让你的五官可以和爱豆的五官完美融合,或是与爱豆同台飙戏,分分钟穿越进各种影视剧中的名场面。

WechatIMG117.jpeg

截至8月31日中午12点,ZAO已经跃居苹果商店的免费APP下载榜的第二位。这款APP的简介是:仅需一张照片,出演天下好戏。

记者忍不住也试了一下。记者选择了“甄嬛”这个角色,用一张临时拍摄的照片制作出一段甄嬛与华妃那段“从天黑等到天亮”的经典桥段。

下面请看记者的倾情出演⬇️

制作完这个视频之后,记者深刻体会到,明星之所以是明星,不是没有道理的。虽然在美人众多的娱乐圈,很多明星的颜值显得也并不算惊艳,但是他们能够被选择上镜,并不仅仅是因为拥有“乍一看”就能看出的美颜,而是他们的五官比例都相当完美,符合中国传统的“三庭五眼”的分割标准。

所以普通人即便将看起来还不错的五官放到明星的脸上,真正融合之后也会发现,到底还是有差距。

WechatIMG121.jpeg

据了解,ZAO背后的大老板原来是著名线上交友软件“陌陌”,其两位实际控股股东雷小亮与王力分别是陌陌公司联合创始人兼游戏业务部总裁;以及陌陌公司联合创始人兼COO。

其实,早在2017年,国外某ID名为“deepfakes”的Reddit论坛用户就首次将自己制作的AI换脸视频发布在了网络上,它能够把照片和视频中的人脸替换成任何想要替换的人脸。

WechatIMG123.jpeg

后来,由于大量受害者的投诉,Reddit论坛迫于压力封杀了“deepfakes”的账号,不过这次封杀却让“deepfakes”直接开源了其AI换脸项目的代码。

代码开源后,AI换脸技术已经无可阻挡地蔓延到世界各地。人们为了纪念“deepfakes”,就采用它的ID命名了AI换脸技术,称之为“deepfakes”。

今年年初,B站UP主“换脸哥”发布的一段94版射雕英雄传视频。视频中,“换脸哥”将朱茵的脸换成了杨幂的脸,实现了完美切换,让人几乎看不出违和感。

640.gif

ZAO发布之后,很快又有好几款AI换脸APP也紧随其后地问世了,速度之快令人咋舌,也侧面反映出这一技术的复制难度并不大。

火爆的同时,诸多问题也随之而来。

首先是版权问题。根据其版权声明,ZAO产品上存在的短视频和表情等素材,除了特别声明是ZAO跟合作方版权合作的之外,均来源于ZAO用户自发的上传。这就意味着,平台上很多影视片段没有版权授权。

WechatIMG122.jpeg

同时,ZAO还面临着对肖像权的侵犯。根据其用户协议:如果您把用户内容中的人脸换成您或其他人的脸,您同意或确保肖像权利人同意授予“ZAO”及其关联公司全球范围内完全免费、不可撤销、永久、可转授权和可再许可的权利,包括但不限于:人脸照片、图片、视频资料等肖像资料中所含的您或肖像权利人的肖像权,以及利用技术对您或肖像权利人的肖像进行形式改动,这意味着用户的肖像有可能被盗用以及滥用。

此外,如今面部识别功能已经深入到生活的方方面面,很多账户都是直接绑定面部信息,如果上传到ZAO的面部信息遭到泄漏,是否会埋下巨大的隐患,导致别人可以用你的信息刷脸登陆支付宝等,造成不可估计的财产损失。

除了娱乐的用途之外,AI换脸技术还被用到了色情产业中,这也引发了不少争议。据了解,目前AI换脸黑产已经在国内形成了完整的产业链,从下游成品情色视频、中游定制视频到上游软件及教程都有。

640.jpeg

为此,记者联系了浙江大学人工智能研究所所长吴飞。吴飞给记者举了一个例子。曾有实验人员将一张熊猫图片交给机器识别,机器以55.7%的置信度认为这是熊猫。但是,一旦对这张图片加入一些人眼无法察觉的随机噪音后,机器竟然以99.3%的置信度认为这张图片是长臂猿图片。 

吴飞举的这个例子,是想说明人工智能算法在识别方面存在安全隐患。对于ZAO这样的APP,他认为,大家担心的风险,是有可能存在的。“如果用户面部信息被别有用心的人获取后,再对这些信息进行编辑,就有可能用修改后的图像注册电子ID,造成不利影响。比如,在一个视频场景中,通过换脸技术,在语音驱动下,让‘你’说出一些与场景吻合的话,但其实这并不是你说的。如果只是娱乐一下,倒也无所谓,但是如果这被用到金融乃至政治中,那就有可能产生不可估量的影响。” 

对于大家担心的“被人刷脸登陆支付宝”这样的问题,吴飞则表示,这个可能性并不大。“像支付宝一类的金融APP,它的安全性是非常高的,光有图片信息还不够,它还会要求你做一些动作,会要求扫描对象必须是一个三维的活物才可以顺利登陆、支付等。但是对一些安全性并不高的APP,比如有些学校的校园通,它也要求父母刷脸才能接走孩子,但是要求并不严格,这样就有可能会出现一些隐患。” 

“一旦数据被编辑,那么它就不再是原始真实的数据,就有可能产生眼见并不为实的情况。而对于这样的情况,普通老百姓是无法辨别的,因此还是要从技术层面进行防范,通过多种渠道进行验证,才能防范面部信息被别有用心的人盗用,产生危害。”


钱江晚报新闻资讯客户端“小时新闻”出品,未经授权不得转载,版权合作请联系qbwl@8531.cn。

作者 Author

评论区 Comment

最新评论
不爱小笼包的包小泷
不爱小笼包的包小泷

看看看看

一花一世界
一花一世界

高科技时代

胡瞎子赶集
胡瞎子赶集

无聊生事端

胡瞎子赶集
胡瞎子赶集

无聊生事端

130****1985
130****1985

不安全啊

查看更多精彩评论,打开小时新闻APP

打开微信扫一扫
即刻分享至微信好友

打开微信扫一扫
即刻分享至微信朋友圈