被严加管控的人工智能应用程序 Deepfake几乎可以与任何人交换面孔

Zao是一款由人工智能驱动的应用程序,允许用户与视频和GIF图像中的演员和其他名人交换面孔,由于其令人信服的转换能力,它引发了严重的隐私问题。

Zao上周五上载到iOS App Store,仅过了两天时间就成为该平台上排名第一的下载应用程序,了解它能够做什么,然后就会很容易理解为什么它的下载量如此巨大。得益于人工智能,该应用程序可以拍摄用户的简单图片,并将其叠加到视频或GIF中任何角色的脸上,从而获得真正令人叹为观止的结果。例如,一个用户声称,他们只花了不到8秒的时间就与莱昂纳多·迪卡普里奥(Leonardo DiCaprio)换了脸,实现了他们在泰坦尼克号(Titanic)等大片中出演的梦想。

Zao-face-swapping-750x422.jpg

由于Deepfake技术因其可能会被不法分子通过展示著名人物的言论或所做的事情而欺骗无数人,因而引起了人们的广泛争议,因此Zao引发了合理关于隐私的关注。到目前为止,deepfake技术尚未广泛使用,但中文应用程序确实可以很好地进行互换,并且很容易被大众使用,许多人认为这会存在安全风险。

尽管大多数专家担心Zao的隐私方面的问题,但该程序的用户协议依然使开发人员每天都对生物特征数据和通过该应用程序创建的免费图像(此规定已由公司更改)授予全球使用权。用户对欺诈的可能性感到更加恐惧。

Zao-face-swapping2-750x422.jpg

许多人使用支付宝的“微笑付款”面部识别系统,就是允许用户看着相机进行支付验证,许多人担心现实的一些问题会欺骗支付宝的算法。实际上有人向阿里巴巴发送了相关的电子邮件,阿里巴巴不得不发表声明,澄清无论换脸多么现实,deepfake应用程序都不可能对阿里巴巴的支付系统构成威胁。

Zao的开发人员也亲自向用户保证,该应用程序在其Deepfake视频和GIF中使用了静止图像,并且基于单张照片的人脸交换不希望人们用它愚弄先进的人脸识别系统软件。

一些官方媒体也表达了对以假乱真的换脸技术的担忧,有人质疑它是否会被恶意使用,甚至构成“对国家安全的威胁”。换脸视频技术很有趣,但潜在的安全隐患却值得重视。

[由Www.000blog.Com整理发布]

转载请注明:三零网 » 被严加管控的人工智能应用程序 Deepfake几乎可以与任何人交换面孔

评论 0

  • 昵称 (必填)
  • 邮箱 (必填)
  • 网址