微软推出反Deepfake换脸检测工具

百度已收录   阅读次数: 124
2020-09-0207:26:03 发表评论
摘要

此前伯衡君有了解过一种叫做Deepfake的换脸技术,而这次微软则是反其道而行之,推出了一款反Deepfake应用,大致意思是使用它能够检测出视频或者照片是否使用了Deepfake技术,地表上再次上演毛与盾的对决,让我们来了解一下这个工具到底是如何形成和运作的……

微软推出反Deepfake换脸检测工具

开篇寄语

此前伯衡君有了解过一种叫做Deepfake的换脸技术,而这次微软则是反其道而行之,推出了一款反Deepfake应用,大致意思是使用它能够检测出视频或者照片是否使用了Deepfake技术,地表上再次上演毛与盾的对决,让我们来了解一下这个工具到底是如何形成和运作的。

开源地址

内容详情

该软件会分析照片和视频,以给出关于该材料是否可能是人为创建的置信度分数。该公司表示,希望这项技术能够帮助“打击虚假信息”。一位专家表示,由于Deepfake技术的发展步伐,它有可能很快过时。为了解决此问题,Microsoft还宣布了一个单独的系统,以帮助内容制作者在其素材中添加隐藏的代码,以便可以轻松标记任何后续更改。

侦测换脸

Deepfakes在开发人员采用了先进的人工智能技术开发出可以将一个人的脸换成另一个的软件后,于2018年初变得举世瞩目。该过程通过向计算机提供许多一个人的静止图像和另一个人的视频镜头而起作用。然后,软件使用它来生成一个新视频,该视频以匹配的表情,口型同步和其他动作来代替前者的脸部。

从那时起,该过程得到了简化,向更多用户开放,现在所需的照片更少。存在一些仅需要一个自拍照即可将好莱坞明星电影片段中用户的电影明星脸替换为电影明星脸的应用。

但令人担忧的是,该过程也可能被滥用来制造误导性的片段,其中要使一个杰出人物以从未发生过的方式发表言论或采取行动,以谋取政治或其他利益。今年早些时候,Facebook禁止过Deepfke,这可能会误导用户以为某个主题说了他们没有说过的话。Twitter和TikTok后来遵循了自己的类似规则。Microsoft的“视频身份验证器”工具通过尝试检测是否有人为生成图像的蛛丝马迹来工作,该图像可能是人眼看不见的。

微软推出反Deepfake换脸检测工具

这些包括在计算机创建的目标脸部版本与原始对象的身体版本合并处的边界处的微妙褪色或灰度像素。为了构建它,该公司将自己的机器学习技术应用于约1,000个深层伪造视频序列的公共数据集,然后针对由Facebook创建的甚至更大的人脸交换数据库测试了所得模型。

一名技术顾问指出,deepfake视频目前仍然相对较少,而且大多数被操纵的剪辑都涉及到人为的粗加工。即便如此,她还是欢迎微软的介入。“到目前为止,我们唯一真正广泛使用的是针对女性的非自愿色情内容,”《深度假货与信息论》一书的作者尼娜·希克(Nina Schick)评论道。“但是合成媒体有望在三到五年内普及,因此我们需要继续开发这些工具。“但是,随着检测能力的提高,生成能力也将提高,微软永远不会发布一种可以检测各种视频操作的工具。”

微软推出反Deepfake换脸检测工具

微软已经承认了这一挑战。在短期内,它表示希望其现有产品可能有助于在11月美国大选之前确定深造货。它不是将其发布给公众,而是仅通过第三方组织提供,该组织反过来将其免费提供给新闻出版商和政治活动。这样做的原因是为了防止不良行为者掌握该代码,并使用它来教其Deepfake生成器如何逃避该代码。

为了应对长期挑战,Microsoft与BBC等媒体组织合作,为Project Origin提供支持,该倡议旨在“标记”在线内容,从而可以自动发现对材料的任何操纵。这家美国科技公司将通过两部分过程来做到这一点。

首先,它创建了一个互联网工具,以证书和“哈希”值的形式向媒体的元数据添加数字指纹。其次,它创建了一个读取器,以检查是否有任何证据证明指纹已受到第三方对内容的更改的影响。微软表示,人们将能够使用浏览器扩展程序形式的阅读器来验证文件的真实性,并检查是谁产生了该文件。

照片和视频处理对于经常令人信服的虚假信息在社交媒体上的传播至关重要。

微软推出反Deepfake换脸检测工具

但是,现在并不总是需要复杂的或深层的技术。简单的编辑技术通常是不受欢迎的选项。最近美国总统候选人乔·拜登(Joe Biden)的一段操纵视频就是这种情况,该视频在社交媒体上的观看次数超过200万次。

剪辑显示电视采访中拜登似乎正在入睡。但这是假的,主持人的剪辑来自其他电视采访,并且添加了视频效果。另一方面,计算机生成的人脸照片已经成为复杂的外国干预运动的普遍标志,这些运动过去曾使假账看起来更真实。可以肯定的是,在对抗在线虚假信息的斗争中,有更多方法可以发现被操纵或更改的媒体并不是一件坏事。

分享至:
  • 我的微信
  • 微信扫一扫加好友
  • weinxin
  • 我的微信公众号
  • 扫描关注公众号
  • weinxin

发表评论

:?: :razz: :sad: :evil: :!: :smile: :oops: :grin: :eek: :shock: :???: :cool: :lol: :mad: :twisted: :roll: :wink: :idea: :arrow: :neutral: :cry: :mrgreen: