内容摘要：

本报告介绍了深度伪造技术的技术原理、应用示例、检测办法及其产品作用机理，分析了该技术在国际冲突中的潜在用途，并针对防范、使用、管理深度伪造等问题提出了相应的政策建议。报告指出，对于深度伪造应当采取更加积极有效的防范措施；深度伪造虽然在国际冲突中可以起到独特作用，但它将从根本上破坏道德准则和价值观，因此民主国家应当尽力避免使用该技术；如果确要使用，则应当建立起“公平裁决流程”等强有力的管理机制。

深度伪造简介

1.1深度伪造技术原理

深度伪造的出现，是因为机器学习最近取得了突破。在过去的15年中，机器学习实现了其最初潜力；多模态数据（例如新闻文章、社交媒体、音频、图像、视频等）的广泛可得性，以及高性能CPU和GPU计算集群成本的大幅降低，则使机器学习技术无处不在。

最近的机器学习革命的核心是深度神经网络，通常称为“深度学习”。如果有足够的数据和计算能力，深度学习模型将极其强大，包括生成逼真的图像、音频、文本等。这也就是“深度伪造”技术的来源。

深度伪造通常使用的深度学习算法被称为GAN，即“生成对抗网络”。GAN于2014年开发，随着计算能力、可用数据和算法的提高，已迅速成熟，现可用于从静态的图像、文本到音频、视频流等所有形式的数字内容。GAN的底层算法通常是开源的，任何在线用户都可以下载并对其进行训练，其限制主要在于开发深度伪造所必需的训练数据和计算能力。

GAN虽然有很多变体，但它们都使用深度神经网络并遵循相同的简单架构（见图1）。

图1 GAN架构

1.2深度伪造产品的作用机理

随着机器学习越来越强大、性价比越来越高，受到操纵的媒体将对民主构成越来越大的挑战。在现代社交媒体中，真实信息和虚假信息都可以快速传播，从而产生信息级联。由于虚假事实普遍存在，它将被广泛接受。事实上，否认错误信息往往会导致其得到更广泛的传播，而且虚假信息比真实信息传播得更快。深度伪造产品质量越高、制作越简单，就越容易把真实内容或信息看作是不真实的。

目前，最大的危险来自拥有相当技术能力的国家（如俄罗斯）或可以花钱得到这些技术的国家（例如沙特阿拉伯）。然而，随着技术的进步和普及，较小的国家、非国家行为体甚至个人都可能开始使用深度伪造。尽管质量可能有所不同，但无需非常专业的行为就可以造成混乱或破坏政府政策。

深度伪造在国际冲突中的可能应用

以前，关于深度伪造的讨论主要集中在对民主和社会的威胁之上，认为它会玷污民主社会形象，破坏民主统治的合法性。但如今，被操纵的媒体正加剧国际冲突，深度伪造将使媒体上的造假活动更加有力。俄乌战争表明，深度伪造现在正被用于国际冲突，其作用在未来几年还将增大。根据深度伪造设计者目前的研究，该技术有8种典型应用，包括使战争和起义合法化、伪造命令、制造混乱、分裂上下级、削弱民众支持、使社会两极分化、分裂盟友、诋毁领导者等可能的情况。但美国也同样可以利用深度伪造来对抗敌人和其他威胁，以保护国际秩序。例如，显示俄罗斯将军命令俄军从乌克兰城市撤离，或者显示恐怖分子领导人发表导致恐怖组织分裂的批判性言论，等等。

应对深度伪造的政策建议

深度伪造的潜在应用范围之广，给美国和其他民主国家的决策者和安全分析员带来了巨大挑战。

3.1应当采取更加积极有效的办法来防范深度伪造

从防御角度来看，防范深度伪造绝非易事。在技术层面上，尽管目前仍有可能设计并训练能够识别深度伪造作品的算法，但从长远来看这并不可行，因为检测算法的所有进步都可以用到下一代的生成算法中，最终使检测无法进行，或者因为计算量太大而无法开展快速的大规模检测。要想有效防范深度伪造，需要有强大的数字内容认证和验证手段，也要求广大公众具有更高的数字素养和批判性推理能力。对安全和情报业界来说，还需要建立起相关系统，能够确保给定音频、视频或文本的来源和监管链。

3.2需要实时分析真相的人应当谨慎开展工作

对于情报分析员、记者和其他需要实时分析真相的人来说，他们必须谨慎对待重要且看似准确的视频；对单一来源信息，必须更加警惕；要考虑到可能存在欺骗，放慢分析速度并对信息进行验证；对于实时的行动，应当采取利用验证码等不同方法。

3.3民主国家应当尽量不利用深度伪造

关于民主国家的官员何时以及如何使用深度伪造，政策层面关注相对较少。民主国家的公众习惯于更好的信息环境，民主政治制度依赖于知情的公众，因此民主国家应当不愿意采取可能破坏公众信心和信任的策略，不会依赖深度伪造来开展公共信息行动。在武装冲突的情况下尤其如此，因为围绕基本的新闻和信息会存在激烈竞争，民主政府需要维护民众的信任，如果对某条新闻进行了拙劣的操纵，政府将会信誉扫地。即使敌方利用了深度伪造，也应当避免以毒攻毒进行回应，因为深度伪造的宣传将对民主社会造成更大伤害。上述深度伪造在国际冲突中的很多应用，民主政府和官员都不应当使用。

3.4民主国家应建立起强有力的管理机制

尽管深度伪造对民主社会构成了风险，但利用深度伪造针对特定目标，可以带来巨大的潜在利益，一些民主政府有可能生成并部署深度伪造。美国政府可能已经确定，深度伪造或欺骗策略所带来的好处，将超过它们带来的风险。鉴于此，民主国家应当建立强有力的监督和问责机制，以确定何时使用深度伪造的好处大于风险。

原文标题｜Deepfakes and International Conflict

文章来源｜布鲁金斯学会

发布时间｜2023年1月

编译｜智能society

文件链接｜https://www.brookings.edu/research/deepfakes-and-international-conflict/

声明：本文来自上海市人工智能与社会发展研究会，版权归作者所有。文章内容仅代表作者独立观点，不代表安全内参立场，转载目的在于传递更多信息。如有侵权，请联系 anquanneican@163.com。