安基网 首页 资讯 互联网 查看内容

伪造视频变得越来越容易?为何这项技术如此可怕

2018-9-11 10:37| 投稿: lofor |来自: 互联网


免责声明:本站系公益性非盈利IT技术普及网,本文由投稿者转载自互联网的公开文章,文末均已注明出处,其内容和图片版权归原网站或作者所有,文中所述不代表本站观点,若有无意侵权或转载不当之处请从网站右下角联系我们处理,谢谢合作!

摘要: 自今年4月份以来,涉及美国前总统巴拉克·奥巴马(Barack Obama)的一段一分钟长视频已被观看过480万次。视频中,奥巴马坐在椅子上,背景中可以看到美国国旗,他直接对着观众发表讲话,并用淫秽下流的语言攻击其继任 ...

自今年4月份以来,涉及美国前总统巴拉克·奥巴马(Barack Obama)的一段一分钟长视频已被观看过480万次。视频中,奥巴马坐在椅子上,背景中可以看到美国国旗,他直接对着观众发表讲话,并用淫秽下流的语言攻击其继任者唐纳德·特朗普(Donald Trump)。

或者更确切地说,当奥巴马发表上述演讲时,他的嘴唇会随之而动。这段视频实际上是由演员兼导演乔丹·皮勒(Jordan Peele)模仿奥巴马的声音制作的所谓“深度伪造”(Deepfake)内容。皮勒制作这段视频是为了说明伪造音频和视频内容所带来的危险,实际上这些内容并非奥巴马所说。纽约大学的研究人员将“深度伪造”描述为“即将到来的威胁”。

“深度伪造”由何而来?

虽然操纵数字文件并不是什么新鲜事儿,但这种可信的伪造行为是通过使用一种人工智能(AI)形式的计算机程序完成的。一个算法被训练来识别特定人的实际音频或视觉记录中的模式,这个过程被称为深度学习。就像修改过的图片一样,一段音频或视频内容可以通过更换新元素(比如更换别人的脸或声音)来改变,并无缝地将两者结合起来。

与语音克隆技术结合使用时,这种手法最容易让人产生误导。语音克隆技术将音频录音分解成半音节的片段,然后可以重新组合成新词,与苹果的Siri和亚马逊的Alexa等语音助手的创建方法相同。

为何“深度伪造”更可信?

深度学习算法所包含的内容库越大,它就显得越真实。奥巴马的“深度伪造”视频需要56小时的录音样本,而苹果公司录制了10到20个小时的演讲来制作Siri。许多报道现实,语音克隆只需用几秒钟的材料就能制成。

“深度伪造”如何传播?

Vice旗下出版物《Motherboard》去年12月份报道称,一个名叫“深度伪造”的Reddit用户已经公开提供了一种使用开源代码制作假视频的算法。以前,这项技术主要供学术和研究人员使用,但现在任何人都可以利用它。“深度伪造”开始成为一种制造虚假色情内容的手段,通常是把女明星的脸换到色情明星的身体上,以伪造从未发生过的色情场景。Reddit禁止用户使用“深度伪造”技术,但这种技术却得到了推广,现在可以在FakeApp等应用程序上使用。

谁在伪造视频?

在所谓的“技术军备竞赛”中,大学和研究公司都在开发自己的技术,以测试“深度伪造”的威力,并以此击败邪恶的伪造视频从业者。卡内基梅隆大学的研究人员最近开发了一种系统,可以将特征(比如面部表情)从某人的视频传输到另一个人的合成图像上。许多初创公司包括Lyrebird和iSpeech,一直在销售用于人机界面商业应用的语音克隆技术。

为何“深度伪造”引发担忧?

令人担心的是,“深度伪造”技术可能会过度损害声誉,甚至引发骚乱。想象一下,在伪造的视频中,总统候选人猥亵儿童,警察局长煽动针对少数群体的暴力行为,或者士兵犯下战争罪,结果会如何?政治家和商界领袖等知名人士面临的风险尤其高,因为他们的录音大多数是公开的。

对于普通人来说,尤其是女性,这项技术使“色情报复”成为可能,即使没有真实的裸体照片或视频存在。一旦一段视频在互联网上疯传,几乎无法控制。另一个值得关注的问题是,随着“深度伪造”技术的广泛传播,将使那些真正被录下做坏事或说令人反感言论的人更容易指出,这些针对他们的证据都是伪造的。

“深度伪造”如何检测?

制造出“深度伪造”内容的机器学习方式很难逆转用以检测它们。研究人员已经确定了一些线索,这些线索可能表明视频不是真实的。例如,如果说话者有一段时间没有眨眼睛,或者看上去有点儿呆板,但这样的细节很容易被观众忽略。

通过提高某人视频的色彩饱和度,可以从面部皮肤几乎看不见的变化中检测出他或她的脉搏,而由杂乱剪辑合成的图像会有不规则或不存在的血流。美国国防部正在开发一种工具来对付那些“深度伪造”内容。

有仁慈的用途吗?

的确有。苏格兰公司CereProc为因疾病而失去自我的人们创造了数字声音,声音克隆可以通过再现历史人物的声音来达到教育目的。北卡罗莱纳州立大学的一个项目就综合了马丁·路德·金(Martin Luther King)的一篇未录音演讲。

CereProc公司制作了约翰·肯尼迪总统( President John F. Kennedy)的最后一次演讲,他在发表讲话前就遇刺身亡。然而,约翰·肯尼迪图书馆拒绝收录这段录音,称其不符合规定。

Tag标签:

小编推荐:欲学习电脑技术、系统维护、网络管理、编程开发和安全攻防等高端IT技术,请 点击这里 注册账号,公开课频道价值万元IT培训教程免费学,让您少走弯路、事半功倍,好工作升职加薪!

本文出自:https://www.cnbeta.com/articles/tech/766565.htm

免责声明:本站系公益性非盈利IT技术普及网,本文由投稿者转载自互联网的公开文章,文末均已注明出处,其内容和图片版权归原网站或作者所有,文中所述不代表本站观点,若有无意侵权或转载不当之处请从网站右下角联系我们处理,谢谢合作!


鲜花

握手

雷人

路过

鸡蛋

相关阅读

最新评论

最新

返回顶部