2024年12月，加拿大国际治理创新中心（Centre for International Governance Innovation）发布报告《利用生成式人工智能准备下一场信息战》（Preparing for Next-Generation Information Warfare with Generative AI）。报告认为，现代冲突已经演变成为一种复杂且危险的混合体，其中信息战和心理战已成为影响战局的关键因素。随着人工智能技术的飞速发展，特别是生成式人工智能的兴起，信息战的形式和影响力正在发生深刻的变化。

本文探讨了生成式人工智能如何改变信息战格局，以及如何通过个性化定制和工业化传播虚假信息，影响公众情绪与决策。另一方面，人工智能与生物技术等敏感技术的融合可能带来新的集体安全风险，需加强法律监管和国际合作，防止技术滥用。

《利用生成式人工智能准备下一场信息战》

编译：怀玄

全文摘要与关键词

1.信息战的新时代：在当今世界，冲突的形式已经超越了传统的军事对抗，信息战成为了现代冲突中不可或缺的一部分，生成式人工智能技术的快速发展为信息战提供了新的工具。

2.生成式人工智能的核心能力：核心在于强大的内容生成能力，还具备模拟人类行为和交互的能力。

3.生成式人工智能在信息战中的应用：在心理战方面，生成虚假媒体内容；在目标定位方面，精准定位目标受众；在自动化和工业化方面，实现信息战的规模化生产。

4.对平民和军事人员的影响：操纵心理和行为→平民；干扰军事决策和行动→军事人员。

5.场景模拟——生物威胁下的信息战：

  • 首先生成并传播虚假媒体内容，引发公众恐慌，破坏社会秩序；

  • 其次对目标国家的医疗系统和科研机构进行网络攻击；

  • 结果：敌对势力成功破坏了目标国家的公共信任和社会秩序。

6.法律与国际人道法：往往难以应对生成式人工智能带来的新挑战

‍‍‍7.预防与应对：加强国际合作和信息共享、提升公众网络素养和生物安全意识、鼓励技术研发和创新、完善法律监管和追责机制。

8.结语：

‍生成式人工智能正迅速改变信息战的面貌和影响力，使其能够深入影响到平民生活和国际舆论。面对这一新兴挑战和威胁，需采取一系列预防和应对措施来维护社会稳定和公共利益，而其背后的集体安全风险应该为全人类所关注。

世界正进入一个复杂而危险的十年。新旧威胁的融合不断挑战多边秩序，在战争、技术与网络空间的交叉点，正在发生最具震撼的变化。现代冲突，无论是公开的、有争议的还是灰色地带进行的，都在本质上被技术革命放大。这些冲突融合了物理战线和数字战线，侵入城市、工厂、家庭和日常设备，和平与战争、进攻与防御、民用与军用、国家与网络代理之间的界限正在消失。人工智能的快速发展加剧了这种趋势。人工智能通过充当催化剂，使信息战变得更加强大，也更容易实现。生成式人工智能可结合多种形式的数据，利用新技术来改进、调整、扩大虚假信息的攻击性使用。

01

信息战的新时代

在当今世界，冲突的形式已经超越了传统的军事对抗，信息战成为了现代冲突中不可或缺的一部分。信息战通过操纵信息和人类行为，试图在心理上削弱敌方，影响公众舆论，甚至改变战局。随着技术的不断进步，信息战的手段日益多样化，其影响力和破坏力也在不断增强。

近年来，生成式人工智能技术的快速发展为信息战提供了新的工具。生成式人工智能能够利用大量数据生成逼真的文本、图像、音频等内容，这些内容往往与人类生成的内容难以区分。这种技术的出现，使得信息战的门槛大大降低，同时其影响力和破坏力也达到了前所未有的水平。

02

生成式人工智能的核心能力

生成式人工智能的核心在于其强大的内容生成能力。与传统人工智能不同，生成式人工智能不仅能够处理和分析数据，还能够自主生成新的内容。这种能力使得生成式人工智能在信息战中具有巨大的潜力。

生成式人工智能结合基础模型。生成式人工智能通常与基础模型相结合，这些基础模型经过大量数据的训练，能够识别和理解复杂的数据模式和特征。生成式人工智能利用这些基础模型，可以自主学习和优化内容生成的过程。通过调整模型参数和输入数据，生成式人工智能可以生成符合特定需求的内容，如个性化的新闻文章、逼真的图像和视频等。

生成式人工智能还具备模拟人类行为和交互的能力。通过分析大量的人类行为数据和交互模式，生成式人工智能可以学习并模仿人类的行为方式。这使得生成式人工智能在心理战和信息操纵方面具有得天独厚的优势。它可以生成看似真实的对话和互动，从而在不知不觉中影响人们的决策和行为。

03

生成式人工智能在信息战中的应用

生成式人工智能在信息战中的应用非常广泛，从心理战到目标定位，再到自动化和工业化，其影响力无处不在。

  • 在心理战方面，生成虚假媒体内容

    生成式人工智能可以制作高度逼真的虚假信息和媒体内容，通过社交媒体等渠道广泛传播。这些内容往往能够引发公众的恐慌和混乱，破坏社会的稳定和秩序。例如，在冲突地区，敌对势力可以利用生成式人工智能制作关于敌方军队动向的虚假新闻和图像，引发公众的恐慌和逃难行为。

  • 在目标定位方面，精准定位目标受众

    生成式人工智能能够利用大数据分析技术，精准定位目标受众。通过对社交媒体、搜索引擎等渠道的数据进行挖掘和分析，生成式人工智能可以了解受众的兴趣、偏好和行为模式，从而制定个性化的信息战策略。这种精准定位的能力使得信息战的效果更加显著。

  • 在自动化和工业化方面，实现信息战的规模化生产

    生成式人工智能可以大幅降低信息战的成本和难度。通过自动化内容生成和分发过程，生成式人工智能可以实现信息战的规模化生产。这不仅可以提高信息战的效率，还可以降低对人力资源的依赖。随着技术的不断进步，生成式人工智能在信息战中的工业化趋势将越来越明显。

04

对平民和军事人员的影响

生成式人工智能驱动的信息战对平民和军事人员都产生了深远的影响。

  • 对于平民而言，操纵其心理和行为

    通过制造虚假信息和恐慌情绪，生成式人工智能可以破坏平民的日常生活和社会秩序。在冲突地区，敌对势力经常利用生成式人工智能制作关于敌方军队暴行的虚假新闻和图像，引发平民的恐慌和逃难行为。这不仅加剧了冲突地区的动荡局势，还导致了大量平民的伤亡和流离失所。

  • 对于军事人员而言，干扰其军事决策和行动

    生成式人工智能同样构成了巨大的威胁。敌对势力可以利用生成式人工智能制作虚假的情报报告和命令，干扰军事决策和行动。例如，在战场上，敌对势力可以通过生成式人工智能制作虚假的敌方军队动向报告，误导己方军事指挥官的决策。此外，生成式人工智能还可以制作逼真的敌方指挥官命令和对话记录，破坏己方军事指挥系统的稳定性和有效性。

05

场景模拟：生物威胁下的信息战

为了更深入地理解生成式人工智能在信息战中的潜力和风险，我们可以设想一个假设场景：生物威胁下的信息战。

  • 首先生成并传播虚假媒体内容，引发公众恐慌，破坏社会秩序。

    在这个场景中，敌对势力利用生成式人工智能和生物技术制造了一种虚假的生物威胁。他们首先利用生成式人工智能制作了大量的科学报告、新闻文章和社交媒体帖子，声称一种新型病毒正在某个地区迅速蔓延。为了增加信息的可信度，敌对势力还制作了逼真的Deepfakes视频，展示了所谓“感染者”的痛苦和死亡场景。

    随着这些虚假信息的广泛传播，公众开始陷入恐慌和混乱之中。人们纷纷抢购口罩、消毒剂等防疫物资，同时避免前往疫情严重的地区。这种恐慌情绪不仅破坏了社会的稳定和秩序，还导致了医疗资源的紧张和浪费。

  • 其次对目标国家的医疗系统和科研机构进行网络攻击

    为了进一步加强信息战的效果，敌对势力还利用生成式人工智能对目标国家的医疗系统和科研机构进行了网络攻击。他们通过植入恶意软件、篡改数据等方式，破坏了目标国家的疫情监测和防控体系。这使得目标国家在面对真实疫情时更加困难重重。

  • 结果

    敌对势力成功地破坏了目标国家的公共信任和社会秩序。他们通过制造虚假信息和恐慌情绪，削弱了目标国家的应对能力和民众的信心。这不仅为敌对势力在军事上的进攻提供了有利条件，还导致了大量平民的伤亡和流离失所。

06

法律与国际人道法

面对生成式人工智能驱动的信息战带来的新挑战和威胁，依靠现有的法律框架和国际人道法难以应对。

  • 法律方面

    虽然各国都制定了相应的法律法规来规范网络信息和媒体内容的传播，但这些法律往往难以应对生成式人工智能带来的新挑战。生成式人工智能可以生成逼真的虚假信息和媒体内容，使得传统的审查和监管手段难以奏效。此外，由于生成式人工智能技术的复杂性和隐蔽性，很难追溯和追责虚假信息的制作者和传播者。

  • 国际人道法方面

    虽然现有的法律框架对欺骗性信息和心理战行为有所限制，但面对生成式人工智能带来的新挑战，这些规定显得力不从心。生成式人工智能可以制作高度逼真的虚假信息和媒体内容，使得传统的心理战手段更加难以识别和防范。同时，由于生成式人工智能技术的不断发展和普及，越来越多的非国家行为体开始利用这一技术进行信息战和心理战活动，这使得国际人道法的实施和监管更加困难。

07

预防与应对

为有效应对生成式人工智能驱动的信息战带来的挑战和威胁，需要采取一系列预防和应对措施。

一是加强国际合作和信息共享。各国应该加强在网络安全、信息监管和生物安全等领域的合作与交流，共同应对生成式人工智能带来的新挑战。通过共享情报、经验和资源，各国可以更有效地识别和防范虚假信息和心理战活动。

二是提升公众网络素养和生物安全意识。公众应该加强对网络信息和媒体内容的辨识能力，避免被虚假信息和恐慌情绪所误导。同时，公众还应该了解生物安全的基本知识和防范措施，提高自身的防护能力。

三是鼓励技术研发和创新。各国应该加大对网络安全、信息监管和生物安全等领域的研发投入力度，推动相关技术的创新和应用。通过提高技术手段的先进性和有效性，更好地识别和防范虚假信息和心理战活动。

四是完善法律监管和追责机制。各国应该制定和完善相关法律法规来规范网络信息和媒体内容的传播行为。同时，建立有效的追责机制来追究虚假信息和心理战活动的制作者和传播者的责任，维护国际秩序与安全。

08

结 语

生成式人工智能正迅速改变信息战的面貌和影响力，使其能够深入影响到平民生活和国际舆论。面对这一新兴挑战和威胁，需采取一系列预防和应对措施来维护社会稳定和公共利益，而其背后的集体安全风险应该为全人类所关注。

参考文献：

https://www.cigionline.org/publications/preparing-for-next-generation-information-warfare-with-generative-ai/

声明：本文来自认知认知，版权归作者所有。文章内容仅代表作者独立观点，不代表安全内参立场，转载目的在于传递更多信息。如有侵权，请联系 anquanneican@163.com。