深度伪造
本文标签: 深度伪造 Deepfake 信任 参照物 

20184月,涉及美国前总统巴拉克·奥巴马的一段一分钟长视频被观看了480万次。视频中,奥巴马坐在椅子上,背景中可以看到美国国旗,他直接对着观众发表讲话,并用淫秽下流的语言攻击其继任者唐纳德·特朗普。或者更确切地说,这段视频实际上是由演员兼导演乔丹·皮勒模仿奥巴马的声音制作的所谓“深度伪造”(Deepfake)内容。当奥巴马发表上述演讲时,他的嘴唇会随之而动。皮勒制作这段视频的目的是为了说明伪造音频和视频内容所带来的危险。对于此类现象,纽约大学的研究人员将“深度伪造”描述为“即将到来的威胁”。

据报道,OpenAI作为一家研究“安全人工智能之路”的非营利性研究机构,其研发的一种机器学习系统能够根据简短的写作提示生成文本,其结果非常接近于模仿人类的文字,完全可以达到以假乱真的地步,研究人员发现它不但可以制造“假新闻”为“出版商”赚钱,还可以传播错误信息从而破坏公众辩论方向,研究人员被他们自己的工作吓到了,于是赶紧关闭了这个“深度伪造文本”的“潘多拉魔盒”。

“声明:Deepfakes是人工智能技术的一个形像应用,只涉及AI技术的研究,请勿用于制造和传播任何**、政治等违法音视频文件。”打开一个深度换脸教程网站,网页上赫然写着这样的提示。

可以想象,假如没有乔丹·皮勒的说明,或者某个深度换脸技术作品的作者故意或者疏忽了提示,其后果将会怎样?

我们无法想象,当站在我们面前的某个人需要必须声明自己是真的还是假的,而我们又没有办法和能力辨别其真假的时候,这样的声明本身是否还有意义?试想,如果乔丹·皮勒不是指正自己模仿的巴拉克·奥巴马的演讲,而是巴拉克·奥巴马的就职演说,那么美国社会必将会一片大乱,陷入恐慌。

不难发现,深度伪造(Deepfake)是人工智能的一体两面,它一面向善,闪耀着人性的光辉,一面是恶,释放着魔鬼的诅咒。深度伪造的危害和可怕程度远远超过秦二世时赵高的指鹿为马。赵高专权混淆是非颠倒黑白,但事实仍然是得以保存和可以鉴别的,而深度伪造(Deepfake)却让我们失去了参照物——人类的信任与价值认定。人类经过亿万年的进化发展使得人类由混沌走向文明,树立起天文、地理、宗教、政治、文化、科学等各个领域的路标,让我们知道往哪里去的同时还记得从哪里来,而深度伪造一旦大行其道,我们恐怕又要重新陷入混沌了——没了信任、参照物缺失——信任危机。
发表于: 2019-03-27 11:36 阅读(24) 评论(0) 收藏 好文推荐

本博客所有内容,若无特殊声明,皆为博主原创作品,未经博主授权,任何人不得复制、转载、摘编等任何方式进行使用和传播。

作者该类其他博文:

发表评论(网友发言只代表个人观点,不代表本网站观点或立场。)

您尚未登录,请先【登录或注册