哪里是真相，哪里是谎言？深度伪造如何改变我们的世界

科技巨头已拨出数百万美元，用于打击虚假内容。

「深度伪造」一词频频出现在我们的信息流和世界主要电视台的节目中。亚马逊、Facebook等科技巨头正携手应对这一问题。我们将介绍它是什么，以及它将如何改变我们的世界。 

什么是深度伪造，以及它的应用方式 

这是一种借助人工智能运作的技术。它能够生成或彻底改变内容，从而产生从未存在过的视频。由此，可以伪造政治家、企业家、科学家以及任何人的声明。这项技术的水平日益提高，很可能会变得极为逼真，以至于即便是专家也无法判断视频是否真实。 

深度伪造是通过一种名为生成对抗网络（GAN）的深度学习方法制作的，该方法使用两种算法，使伪造内容更加逼真。第一个模型通过学习以训练数据形式呈现的人物图像和视频来生成视频，第二个模型则试图发现其中的缺陷。两个模型并肩工作，直到生成出逼真的视频为止。

它们可能被用于政治、演艺圈，甚至日常生活中的威胁和勒索。事实上，如今几乎每个互联网用户都能制作假视频，而且随着时间推移，这将变得更加容易。

这项技术若用于良善目的，也有其优点。例如，可以生成更多训练数据，以改进自动驾驶汽车。但与其他任何技术一样，人们会按照自己的方式使用它——用来制作假视频，并在社交网络上传播虚假信息。 

深度伪造看起来是什么样的

美国导演乔丹·皮尔（电影《逃出绝命镇》和《我们》的导演）利用奥巴马此前的采访和神经网络，制作了一段奥巴马的数字复制品视频。这之所以可能，要归功于奥巴马此前的采访和神经网络。

在视频中，导演与“总统复制品”警告说，危险的时代已经到来，用户需要更加警惕，不要相信他们在互联网上看到的一切，而应只信任经过核实和验证的新闻来源。

「我们生活在一个敌人可以装成任何模样、说任何话、在任何时候出现的时代。比如，他们可以让我说，《黑豹》中的死敌基尔莫格是对的！或者，最简单的——特朗普总统就是个彻头彻尾的混蛋。你们明白，我绝不会说这些话，至少不会当众说。但别人可能会说。那个人就是乔丹·皮尔。」——巴拉克·奥巴马在一段假演讲中如是说。假奥巴马以这样的话结束讲话：「谢谢大家，永远保持警惕，婊子们。」

深度伪造如何干预选举 

明年美国将选举总统。政界已开始恐慌，担心假视频可能严重影响投票结果。考虑到去年剑桥分析公司（Cambridge Analytica）的丑闻，美国人不希望总统选举再次出现外部势力明显干预的情况。 

此类假视频尚未广泛传播，但美国政府担心外国对手可能利用它们试图干预2020年选举。在一月的国际威胁评估中，美国国家情报总监丹·科茨警告称，想要破坏选举的人中，很可能包括骗子或假新闻媒体。众议院情报委员会甚至就伪造技术可能带来的潜在威胁举行了听证会。

为遏制与深度伪造相关的虚假信息传播，达特茅斯学院的教授、法医学专家哈尼·法里德正在开发能够识别深度伪造的软件。他表示，希望在十二月借助一个网站，将其假视频检测工具推广给记者，使他们能够核实视频真伪。「如果你是记者，在报道一段视频之前，必须有核查机制。」他说。

科技巨头将如何应对深度伪造 

Facebook、微软和亚马逊已联手打击深度伪造。其中，亚马逊计划在未来两年内向研究人员提供100万美元。 

早在今年九月，Facebook就宣布与微软以及康奈尔科技学院、麻省理工学院和牛津大学等学术机构合作，参与DeepFake Detection项目。该倡议的合作方承诺投入1000万美元，并发布了包含5000段视频的数据集，以帮助人们开发检测工具。 

阿莱克谢·西蒙丘克