中青在线新闻网

AI换脸APP问题太多 火得快凉得更快

8月31日,一款名为ZAO的人工智能变脸应用程序整夜流行。

而不是莱昂纳多对你的玫瑰,一个深情的“你跳,我跳”;一秒钟与“现在的男朋友”李现在在盒子里,让他遮住你的太阳;变成了吴燕祖.“只需要一张照片,出演好玩的世界,通过人工智能换脸技术,你只需上传一张照片,就可以成为梦想中的”玩家“。因为新奇有趣的是,为了满足普通用户的小虚荣心,ZAO一夜之间迅速席卷了朋友圈。

出乎意料的是,火势很快,寒冷也很快。在ZAO发布的下午,ZAO的默认用户协议引发了对其隐私安全风险的质疑,包括支付人脸识别的隐患。工业和信息化部也对此表示关注和采访。

有一系列热点问题引发了这个问题,脸部等视频资料是否具有合法版权?支付面子是否安全? AI骗局会不会尴尬.

手机上的自拍可以“成为主角”

改变面子并不新鲜。

2017年底,ID为“deepfakes”的外国用户在业余时间创建了一个AI面部更改算法。后来,这种算法被广泛称为深度伪造。

deepfakes首先在科技界流行起来。一开始,它只是技术爱好者的休闲游戏。后来,一些人用它来代替色情的主人公用明星脸。这种做法在技术界引起了很多争议,并且完全被关闭了。但人工智能面临的变化技术已经发展到今天。今年年初,B台UP主力“换面兄弟”,利用这项技术取代了黄蓉在94版《射雕》中的朱寅面对杨幂,看过它的人惊讶于“众神”。

ZAO的应用程序整晚都是红色的原因正是因为它将“改变面部技术”的门槛降低了很低。 ZAO包含了大量的视频资料,用户不必拥有PS,甚至美图秀秀的水平也省略了。您可以通过上传头像照片直接更改原始视频片段,只需点击一下即可将其分享给朋友圈。

事实上,ZAO的本质是满足用户的好奇心和虚荣心。相比具有特殊效果的照片附加的Faceu脸部,预览你的老式FaceApp和其他简单的功能,它将是一个热门的在线美容,变脸应用程序,手机,自拍,ZAO直接把你放入经典重磅炸弹作为主角,怎么能不开火?

潜在风险很高,很容易造成“赔钱”和“失去白色”

可以立即注意到强大的面部改变AI功能的潜在危险和威胁。就像上面提到的“黄蓉”一样,在微博Da V的侵权抗议之后,UP的“变脸兄弟”迅速删除了相关视频,并呼吁大家尊重版权和肖像权,注重技术。本身。

有了这个先例,许多用户在玩ZAO时都特别注意他们的用户服务和隐私保护协议,他们突然发现了大问题。

“在您上传和/或发布用户内容后,您同意或确保实际权利人同意授予ZAO及其关联公司和ZAO用户全球范围内完全免费,不可撤销,永久,可许可和可许可的权利。包括但不限于不限于,用户内容可以全部或部分地修改或编辑(例如用另一个人的面部或语音替换短视频中的面部或声音)和修改之前和之后的用户内容。信息网络通信和版权所有者享有的所有版权产权和相邻权利。“

本文直接引用ZAO及其关联公司将获得用户上传内容的版权,包括脸部的肖像,引起公众对ZAO的广泛质疑:“ZAO的用户协议过于离谱”“有一个手机号码有面部肖像。通过技术综合,犯罪分子可以和你和你的家人交谈.“

潜在风险是不言而喻的。首先是面子方兴未艾,会不会导致“赔钱”?目前,大多数银行和其他金融机构都开通了人脸识别登录APP功能。 “刷脸”支付和远程签名的场景也越来越普遍。例如,今年的“315”派对演示了“直播”的使用。 “照片成功突破了手机的”刷脸“登录系统。

此外,通过3D打印等技术,“面罩”可以获得更高程度的模拟。以前,人们使用3D打印面具来通过知名在线支付平台的面部验证。

此外,目前,许多在线贷款机构在进行“生活测试”(如“点头”,“摇头”,“张嘴”等)时仍然使用人工审核或低技术机器审核。公众的面部识别信息由犯罪分子控制,很可能这些黑人技术将允许用户“被在线贷款”保护并承担巨额债务。

另一个重大风险是“可耻”可能导致“失去清白”。目前,在涉嫌犯罪的某些地区使用变脸技术的情况并不少见。一些网站使用“人脸改变”和“改变面貌的视频”来提供由着名艺术家“面孔”“嫁接”的视频。这些视频经常被怀疑是色情和淫秽,很难区分真假,这往往使受害者难以争辩。声誉受损。

有很多问题,改变面貌的APP将成为未来的魅力

事实上,ZAO最初用户协议的流氓并没有停止对用户肖像权的无知和侵犯。事实上,在ZAO运营团队接受了工业和信息化部的采访后,经过四次解释,ZAO团队和团队后面的Momo公司太急于推出这项技术来引爆市场,并没有考虑它一点都没有。新技术可能带来的法律和道德风险。

用户隐私保护用户在平台上使用ZAO并替换新的头像。图像信息是否保留在服务器中?如何确保这些图像信息不被滥用,泄露或出售?

北京师范大学法学院网络与智慧社会法治研究中心主任刘德良近日表示,针对人工智能技术的前瞻性立法,未来需要跨过的一个坎是首先要转变观念,从关注个人信息的泄露转到滥用的方向(现在的主流看法都在强调泄露,而不在防止滥用上),现在我们的个人信息已经存在于N个商家和机构中,防止泄露几乎不可能,所以关键在于不能滥用。在观念转变之后,再组织专家商讨、提案,系统地规范什么叫滥用,滥用有哪些类型,如何从民法、行政法、刑法上有效防止滥用。相关法律法规的建立完善要具有可操作性,不能不利于大数据和AI产业的发展。

刷脸支付、设备解锁的安全性 一键换脸技术如此成熟,我们是不是要担心一下钱包安全和智能设备解锁问题?

刘德良表示,从立法上要让进行身份识别的机构或者平台(比如银行、支付平台、电信公司、保险公司)去承担责任。如果法律有这种规定,就会倒逼这些机构、平台认真核查比对,要想方设法开发更新的技术手段,有效避免身份假冒滥用。如果不这样立法,掌握个人信息的机构、平台就会把风险转嫁给被假冒者,让个人承担风险。

监管风险 ZAO让用户自行上传照片或视频,如果用户上传了不符合法律要求的照片或视频,通过网络传播,而ZAO并没有阻止,那么它将面临极大的监管风险。甚至,假如用户利用该平台进行涉嫌犯罪的行为,ZAO又该如何监管?

日前就有外媒报道,今年3月,一群窃贼使用AI语音模仿软件,仿冒某公司高层电话该公司员工,让其把钱打到一个异地账户中,电话中高度仿制了这名高层的音调、停顿甚至是德国口音,最终成功盗走了24万美元。研究者称,这是全球首例公开报道的AI诈骗案。有联合国区域间犯罪与司法研究所负责人就此表示,将机器学习技术应用于欺骗性声音使网络犯罪变得更加容易,“想象一下,以CEO的声音进行视频通话,这是你熟悉的面部表情,这样的话你根本不会有任何疑虑”。

可以说,以上这些问题,短期内都非ZAO能够解决的,因此,就更别谈什么商业模式了。

(责任编辑:DF120)

http://www.sugys.com/bdsfWQ9b.html