中关村在线

热点资讯

Deepfake:隐藏在人脸识别下的乌云

==无处不在的人脸识别==

国内COVID-19疫情正在逐步得到控制,各大写字楼的人开始熙熙攘攘,为了提高人员进出写字楼的效率,大多物业都配置了面部识别+体温测量的智能机器人。事实上,带有面部识别功能的机器在最近这些年大有雨后春笋之势:坐飞机、坐高铁需要人脸识别验证身份,住酒店人脸登记,在超市买个东西也要人脸支付,进入一些小区现在都需要刷脸开门。不难发现,我们普通人的生活也似乎被人脸识别全面占领了。

人脸识别设备

最近在国外著名论坛reddit上,有一个视频被迅速顶上了热门:爱因斯坦用他特有的德国口音提醒人们待在家里,保持社交距离和勤洗手,共同努力战胜新冠病毒。视频里爱因斯坦标志性的发型十分瞩目,说话的语气和口音也十分逼真。

爱因斯坦“复活”视频(图片来源:Reddit)

事实上,这段视频确实是人造的,它出自一位视频特效师Chris之手,据这位视频特效师介绍,他使用了DeepFake技术搭配上自己的视频特效,最终制作出了这个令人大吃一惊的视频。

就在去年,同样有一段视频在互联网上掀起了轩然大波,这段视频节选自《权力的游戏》,但与原本的版本不同的是,雪诺在向四周的人群道歉之后,将第八季的剧本扔到大火里烧掉了,这段视频在互联网上斩获了多达2000万的播放量,虽然视频片段里的琼恩·雪诺是假的,但看起来和本人没什么两样。而这一切都归功于DeepFake。

DeepFake技术

DeepFake最早源于一个匿名的reddit用户“DeepFake”,随后他在GitHub开源了自己的代码,其他开发者们也实现了一些类似的算法并不断改进,到现在,略微有一些计算机编程和机器学习基础的人都可以用DeepFake制作以假乱真的视频。

==DeepFake阴影笼罩人脸识别==

首先要弄明白的是,人脸识别事实上是一种身份识别技术,也是目前广泛被使用的三种身份识别的方法之一:另外两种分别是密码识别和证书验证。密码识别是最古老的身份识别工具,也是最主流的工具,但是存在被破解的风险,最近由于疫情影响而被大范围使用的Zoom就被曝出密码泄露,在暗网被公开售卖;而广义上的证书验证则是指能够证明身份的信息,例如进入小区的门禁卡甚至身份证等等,但一旦人卡分离、人机分离的情况出现,就面临很尴尬的境地。

人脸识别属于生物识别技术的一种,通过将计算机与光学、声学、生物传感器等等科技手段相结合,利用人体固有的指纹、脸相、虹膜等身份特征进行个人身份的鉴定。而因为生物识别具有非强制性、非接触、成本低等优点,成为了近些年身份识别中最热门的领域。

但与人脸识别一同发展的,还有借助机器学习、音视频内容直接更改人脸、物体或环境呈现方式的DeepFake,该技术借助海量的训练数据,生成众多虚假音视频,使生物识别变得困难,成为一种困扰全世界的“反识别技术”。

DeepFake的发展源于生成对抗网络(GAN)的出现和发展。该算法可以看做是一个基于数据库自动生成模拟数据库中数据的样本,之后通过识别器评估生成数据的真伪,通过生成器和识别器之间的互相博弈与不断学习,进而产生大量高精度的数据。

DeepFake原理

NVIDIA在2018年年底推出过GauGAN用以生成本来并不存在的人脸图像,而在去年年底,NVIDIA则公开了StyleGAN的2.0改进版,解决了生成图像伪阴影的同时得到细节更好的高质量图像。现在我们可以用NVIDIA开源的代码生成各种以假乱真汽车、人脸等等图像,是不是感觉细思极恐?

GauGAN生成的假脸(图片来源:NVIDIA)

事实上,DeepFake的作者刚刚在reddit上发帖的时候,他的帖子多是一些利用DeepFake生成的国外明星的色情片段,这部分也在后来有了一个单独的名字——DeepNude。而在国内,曾经在朋友圈风靡一时的ZAO也因为侵犯用户隐私被光速下架。

==DeepFake与人脸识别的未来==

随着DeepFake技术算法的日趋成熟,到如今,无论是人像还是声音、视频都可以通过伪造生成,并可以达到几乎不能被分辨出来真伪的程度,与此随之而来的便是各种社会问题,人脸识别也面临被欺骗的考验。这对个人隐私、媒体公信力和司法取证方面都带来了困扰,并引发了不小的社会担忧。

一方面,由于安全问题凸显,人脸识别的信息安全将面临严峻的挑战,由于人脸识别技术本身发展不够完善,在识别精度、信息存储标准以及应用范围等问题上仍待规范,DeepFake将会使仿冒身份、用户授权被盗用等安全问题爆发,威胁到公民的人身安全和金融安全。

人脸识别(图片来源:International Airport Review)

另一方面由于信息不再有可信度,将有潜在的引发秩序混乱的风险,虚假信息不仅可能影响个人声誉,还可能引起政治、市场秩序的混乱。

由于这些潜在的威胁,各国政府也在加强对相关技术的监管:美国于去年6月12日提出《深度伪造责任法案》以限制DeepFake技术,同年9月加州通过了阻止利用伪造视频影响大选的法令,我国也在年底发布了《网络音视频信息服务管理规定》、《网络信息生态内容治理规定》等法规;今年年初欧盟委员会也在草拟禁止在公共场所使用人脸识别技术的计划,美国旧金山则在去年就成为了第一个禁止警察使用面部识别的城市……

虽然各国都在法律层面加强了监管措施,但在技术层面,各大科技巨头也在研究“反伪造技术”的技术:Google去年就与科技孵化器JigSaw合作整合了“FaceForenesicsBenchmark”项目用来帮助研究人员设计更好的检测方法;而Facebook则与Microsoft、MIT、Amazon等公司合作共同打击DeepFake,该项目被称为“DFDC”,旨在创建能用于“打假”模型训练的开源工具;12月,Facebook的人工智能研究部门宣布已经开发出一套反识别系统以辨别实时影像的真伪。

人脸识别

正如我们都知道的那样,人脸识别和DeepFake都是人工智能发展下的产物。需要警惕的是,我们在享受新兴科技带给我们的便利的同时,也要留心技术滥用可能带来的潜在风险。

你是如何看待“刷脸时代”的利与弊呢?目前的你是对人脸识别保持信任还是有所怀疑呢?欢迎大家留下自己的看法。

展开全文

联想ThinkSystem SR530(Xeon 银牌4208*2/16GB*4/4TB*3)

联想ThinkSystem SR530(Xeon 银牌4208*2/16GB*4/4TB*3)

[经销商] 京东商城

[产品售价] 28199元

人赞过该文
内容纠错

相关电商优惠

评论

更多评论
还没有人评论~ 快来抢沙发吧~

读过此文的还读过

点击加载更多
说点什么吧~ 0

发评论,赚金豆

收藏 0 分享
首页查报价问答论坛下载手机笔记本游戏硬件数码影音家用电器办公打印 更多

更多频道

频道导航
辅助工具