文 | 北京理工大学经济学院副教授 高婧怡；对外经济贸易大学国际经济贸易学院博士研究生 程谟怡
当前，生成式人工智能（AIGC）加速融入国际舆论的生产和传播过程，在提升信息生产效率的同时，大幅降低了虚假信息的制作成本与传播壁垒。借助大模型和多模态生成技术，虚假信息能够更快生成，并突破语言与平台限制广泛扩散，使真实与合成内容之间的边界变得模糊。随着智能体的发展和信息获取方式的不断变化，信息操纵正由内容生成向持续交互延伸，逐步影响公众获取和理解信息的过程。尤其在冲突情境下，虚假信息的快速扩散更容易放大认知偏差，并影响公众对局势和事实真相的判断。这进一步增加了国际冲突中虚假信息的治理难度，亟须加强跨境协同治理，提升全球识别和应对能力。
一、国际冲突中AIGC虚假叙事与信息操纵新特征
近期的国际冲突显示，AIGC已逐步融入既有信息操纵活动。借助大模型和多模态生成工具，虚假信息能够围绕特定事件快速形成，并根据不同平台和受众特点持续调整，使信息操纵呈现更强的规模化和体系化特征。
（一）突破语言和平台限制，扩大虚假信息传播范围
AIGC正在扩大国际冲突中虚假信息的传播范围。在AIGC广泛应用之前，同一类虚假信息若要进入不同国家和地区，通常需要承担较高的翻译、改写成本，因此，这类信息往往只能投放在少数平台，触及受众的范围也比较有限。然而，随着大语言模型的普及，语言转换成本的降低使虚假信息的传播范围迅速扩大。这种能力进而被应用于国际冲突的叙事操纵活动中。美国人工智能公司OpenAI于2024年5月发布的报告《人工智能与隐蔽影响行动：最新趋势》（AIand Covert Influence Operations: Latest Trends）披露，乌克兰危机期间，俄罗斯“二重身”（Doppelganger）行动利用大模型批量生成英、法、德、意、波等多语种评论；在加沙冲突中，以色列商业公司斯托伊克（STOIC）曾使用其模型生成支持以军行动的文章和评论，并在Instagram、Facebook和X（原推特）等社交媒体平台发布。美国科技公司Meta发布的《2024年第一季度对抗性威胁报告》（Q1 2024 Adversarial Threat Report）进一步显示，STOIC利用虚假账号冒充普通用户，通过国际媒体和美国议员的社交媒体账号发布支持以色列在加沙行动的评论。上述案例反映出，AIGC使跨语言内容制作和多平台投放变得更加便利，同一虚假叙事可以根据不同地区和受众特点调整表达方式，并进入更多传播渠道。因此，国际冲突中的虚假信息容易突破语言和平台的限制，也更容易扩大传播覆盖范围。
（二）加快虚假信息传播节奏，掌握舆论主动权
AIGC加快了国际冲突中虚假信息的传播节奏。军事行动发生后，人员伤亡、打击效果等信息通常无法立即得到确认，前线传出的消息往往比较零散，甚至相互矛盾。公众对事件进展又有很强的即时信息需求。事实核验与信息需求之间的时间差给AIGC提供了空间。大模型可以根据有限材料迅速生成相对完整的事件叙述，多模态工具进一步生成配套图像和视频。相比之下，专业媒体和事实核查机构则必须核对信息源，确认事件发生的时间和地点，验证影像的真实性。两者之间明显的时间差使AIGC生成的虚假叙事赶在事实核实之前进入公共讨论范围，率先提供一套看似完整的事件解释。在2025年6月以色列与伊朗发生军事冲突后，社交平台很快出现了多段所谓特拉维夫本·古里安国际机场遭到严重破坏的视频。这些画面极具战场视觉效果，并迅速与当时发生的导弹袭击联系起来。法新社2025年6月17日的报道《人工智能生成的“特拉维夫遭破坏”视频被错误关联至以伊冲突》（AI-generated videos of "destruction in Tel Aviv" falsely linked to Israel-Iran conflict）指出，经反向搜索核查，部分视频实则为AI生成素材，系被套用冲突相关文案后，伪装成现场影像在社交媒体上散布。然而，在国际冲突中，率先出现的事件解释更容易占据初始信息窗口，并且这种先发的舆论影响将持续存在。
（三）模糊信息真实性边界，加大事实判断难度
过去，虚假信息更多依靠旧图片、旧视频重新包装，或者，在原有素材上进行局部修改，真伪易辨。如今，多模态生成技术已经能够直接制作出接近真实场景的图片和视频。美国媒体新闻卫士（NewsGuard）2025年10月15日的加沙冲突专题报道《以色列—哈马斯战争虚假信息追踪中心：已识别261条冲突相关虚假叙事，数量仍在增加》（Israel-Hamas War Tracking Center: 261 Myths About the Conflict and Counting）指出，真实影像与人工智能生成内容已经出现混合传播的情况，一方面，当地账号发布加沙遭袭后的真实照片和视频，另一方面，人工智能生成的废墟、伤亡和救援场景被包装成真实战场影像，在相近时间段和同类传播渠道涌现，难辨真伪。更有甚者，AIGC还可能反向削弱真实信息的可信度。在2026年中东冲突期间，法新社的《人工智能生成视频被虚假包装为伊朗导弹袭击以色列城市画面》（AIgenerated video falsely claims to show Iranian missiles hitting Israeli city）和《哈梅内伊去世后，加拿大广播公司并未发布人工智能生成图片》（Canadian broadcaster did not publish AI-generated image after Khamenei"s death）两篇报道分别指出，X平台的人工智能聊天机器人曾将人工智能生成的导弹袭击视频判断为真实内容，又将路透社的真实照片误判为人工智能生成内容。在多模态生成技术普及后，虚假内容可以借助逼真的外观获得可信性，真实照片和视频也可能因人工智能能够制造相似内容而受到质疑。当公众越来越难以确认什么是真实的，信息核验成本会上升，新闻媒体、官方信息等可靠来源的公信力也可能被削弱。
二、国际冲突中AIGC虚假叙事与信息操纵的趋势研判
随着大模型能力不断提升，智能体应用加快发展，AIGC将逐步由内容生成工具转变为能够持续参与信息生产与传播的技术系统。未来，AIGC驱动的信息操纵将呈现更强的自主运行特征，并进入搜索、知识库和智能问答等信息入口，而受众影响方式也将由单向信息投放向持续交互延伸。
（一）从人工辅助生成向自主化持续操纵演进
当前，AIGC主要承担文本撰写和语言转换等辅助工作角色，具体议题设置和内容传播仍较多依赖人工完成，而智能体技术的发展正在改变这种模式。与一般大模型相比，智能体具备任务规划、持续记忆和工具调用能力，可以在设定目标后持续跟踪冲突进程，观察舆论变化，并据此调整内容和发布节奏。原本需要不同人员分别承担的舆情监测、内容更新等工作，未来可能越来越多地由智能体连续完成，而人工主要负责确定目标和处理关键决策。
这种变化将提高信息操纵的持续运行能力。国际冲突往往持续较长时间，军事行动和外交进程不断变化，舆论关注点也会随之转移。过去，要维持一项长期信息行动，需要持续投入人员跟踪局势并反复调整内容；现在，智能体则可以根据新出现的事件和舆情反馈及时修改叙事重点，使信息操纵始终紧跟冲突进程。未来的信息操纵可能因此从人工主导的阶段性行动，逐渐转变为人工设定目标、智能体长期执行的运行模式，且自主化和持续性都将进一步增强。
（二）从单向内容投放向交互式认知影响演进
传统信息操纵主要依靠媒体报道或广告投放向受众持续推送特定内容，信息生产者与受众之间的互动相对有限。AIGC改变了这种单向传播模式。大模型能够与用户连续对话，并根据用户提出的问题调整回答内容和解释角度。这意味着，同一个事件不再只有相对固定的叙事版本，而是可以针对不同用户的关注点给出不同解释。随着智能体逐步具备长期记忆和用户信息分析能力，这种差异化程度或将进一步扩大，信息影响也将从面向群体的集中投放，逐渐转向更具针对性的个体互动。
这种交互方式在国际冲突中具有更强的认知影响潜力。面对局势复杂、信息不断更新的冲突事件，公众越来越多地借助智能问答了解事件背景和局势变化。在多轮交流中，大模型可以沿着用户的问题继续补充信息，也可以根据此前的对话调整表述重点。用户接触到的因而不再是一条孤立的信息，而可能是一套在交流过程中逐渐形成的解释。未来，随着语音交互、虚拟人物等技术进一步发展，信息操纵可能更多地借助这种持续互动影响个体判断。
（三）从平台内容竞争向信息入口和知识基础竞争延伸
社交媒体仍是国际冲突中虚假信息扩散的重要渠道，但公众获取信息的方式正在发生变化。遇到复杂的国际事件时，越来越多的人会直接使用搜索引擎或大模型了解事件背景和最新进展，而不会逐一查阅新闻网页。在这种情况下，大模型引用哪些材料以及如何组织回答，都会影响公众对事件的理解，其所依赖的信息基础也可能成为信息操纵新的作用对象。大量具有相似叙事倾向的虚假内容如果长期存在于公开网络，就可能进入大模型的知识库。经过多次转载和引用后，一些原本缺乏可靠依据的说法甚至可能呈现多个来源相互印证的假象，并被大模型再次概括和输出。这样一来，虚假叙事的影响就可能从单次传播延续到后续的信息检索和生成环节。未来的信息竞争可能因此进一步前移，竞争重点将从让用户看到某种内容逐渐延伸到影响搜索系统和大模型以哪些材料作为回答依据。
三、构建常态治理与冲突期快速处置相衔接的AIGC协同治理机制
目前，针对AIGC带来的信息失真和叙事操纵风险，联合国《联合国信息完整性全球原则》、联合国教科文组织（UNESCO）《数字平台治理准则》、欧盟《人工智能法案》以及中国《人工智能生成合成内容标识办法》等，已经从信息完整性、平台责任和内容标识溯源等方面作出制度规范，为国际冲突中的虚假信息识别与处置提供了制度基础。
前文分析表明，AIGC信息操纵正由人工辅助生成向自主化持续操纵演进，由单向内容投放向交互式认知影响演进，并由平台内容竞争向信息入口和知识基础竞争延伸。现有治理措施仍较多聚焦生成内容标识和平台传播环节，对智能体持续运行、交互式认知影响以及大模型信息入口等新风险覆盖不足。在国际冲突期间，这一治理缺口被进一步放大。在冲突环境，事实变化快、信息来源分散，军事行动和重大人员伤亡等高风险信息往往在尚未核实时即跨国、跨平台扩散，而事实核验依据和处置权限又分散于不同国家、平台、人工智能企业，单一主体难以及时完成事实核验和处置。由此，国际冲突中的AIGC治理更需不同主体共享信息和联动处置，缩短事实核验与虚假信息传播之间的时间差，遏制失实信息的反复扩散。因此，应加强常态规则与技术标准衔接，明确人工智能企业和数字平台的主体责任，完善跨境追责和能力建设机制，为冲突期间快速响应提供支撑；在冲突发生后，应针对军事行动、重大人员伤亡等高风险信息强化来源认证和平台识别，发挥国际组织等第三方协调效能，推进事实快速核验、跨境共享和联动处置，形成常态治理与冲突期快速处置相衔接的AIGC协同治理机制。
（一）加强国际规则衔接，建立生成内容来源认证机制
全球治理首先需要破解生成内容来源难以核验的问题。为此，有必要推动建立通用性较强的AIGC内容标识和来源认证规则，使生成内容在跨平台、跨国传播后仍有据可查。一是加强不同国家和地区之间的标识规则协调对接。目前，各方对人工智能生成文本、图片和视频的披露要求并不完全一致，而内容一旦跨境传播，原有标识很容易失去作用。应逐步统一基本的披露要求，降低不同规则体系给内容识别造成的障碍。二是提高来源认证技术的兼容性。推动数字签名和机器可读内容凭证等技术采用可互认的标准，使生成内容即使经过下载或跨平台传播，仍能保留必要的来源记录，方便平台和核验机构追查原始出处。三是对国际冲突中的重要信息实行更严格的来源认证。可要求新闻机构、数字平台和人工智能企业提高对军事行动、重大人员伤亡等信息来源的披露标准，缩减来源不明的合成内容借助突发事件快速传播的空间。
（二）健全跨国平台治理机制，明确人工智能企业治理责任
人工智能模型和数字平台分别处在虚假信息生成与传播的关键环节，应根据其实际控制能力明确治理责任，并加强不同环节之间的协同。一是明确模型提供者的风险防控责任。模型提供者应加强对异常批量生成的监测，及时识别利用模型批量创建虚假身份、持续生成误导性内容等异常行为，并采取限制措施。二是强化数字平台的传播治理责任。在国际冲突发生后，虚假信息往往在短时间内集中出现。对此，平台应提高对异常账号活动和人工智能生成内容的识别优先级。对于来源不明且可能造成较大误导的信息，可及时增加风险提示，并加强不同平台之间的异常传播信息共享，避免同一内容在多个平台反复扩散。三是加强智能问答系统的信息来源管理。国际冲突期间，对于事实尚未明确或不同来源存在较大分歧的信息，应清楚地展示回答所依据的来源，并对其中的不确定性作出说明。
（三）发挥国际组织协调作用，完善事实快速核验机制
认知对抗本身就是国际冲突的一部分。冲突各方缺乏共同限制舆论竞争的充分动力，但对可能引发事实误判、冲突升级并损害信息可信度的AIGC虚假内容，各方仍有维持基本事实核验规则的现实诉求。在这一背景下，国际组织更适合发挥第三方协调作用，为各方保留事实确认空间。一是构建常态治理向冲突状态转换的制度安排。可依托联合国等多边框架，在常态治理规则中预设冲突响应条款，明确特殊机制的启动条件和协调方。进入武装冲突阶段后，由国际组织根据交战规则和局势变化启动相应机制，对既有核验要求和处置方式作适应性调整，使平时形成的治理机制能够直接转入冲突期运行。二是明确国际组织的协调职责和治理环节。国际组织应发挥第三方协调作用，组织专业机构开展事实核验，并为交战各方提供补充说明和提交证据的渠道。治理重点应从事实核验延伸到信息发布和后续处置，由国际组织协调专业机构形成核验结论，并通过稳定渠道及时向各方发布，同时推动相关平台依据核验结果采取相应措施。三是依托国际组织夯实常态化合作根基。由联合国牵头，吸纳数字平台、人工智能企业、专业媒体等多主体参与，持续汇集已经确认的人工智能生成内容和典型虚假叙事，形成可供跨境核验使用的信息基础。在国际冲突发生后，可直接依托既有网络启动协作，降低临时协调成本，提高信息核验和处置效率。
（四）建立跨境责任追究机制，提高恶意操纵违规成本
跨境传播使AIGC虚假内容的责任认定和追究更加复杂，因此，需要构建与其跨境传播特征相适应的责任追究和惩戒机制，真正抬高恶意操纵的违规成本。一是划清恶意信息操纵的责任边界。针对故意隐瞒人工智能生成属性批量传播虚假内容的行为，应区分策划组织者、内容制作者和账号运营者等不同参与主体的责任，使恶意操纵行为能够被准确识别并依法追究。二是实行与行为性质和危害程度相匹配的分级惩戒。对于情节较轻的违规行为，可采取内容下架、账号限制或暂停模型调用等措施；对于具有明显组织化特征或者造成较大跨境影响的，应加大处罚力度，采取长期封禁等措施；达到违法标准的，依法追究法律责任。三是加强针对AIGC恶意信息操纵的跨境执法协作。推动不同国家监管机构及主要数字平台建立违规信息和处置结果共享机制，对已经确认存在严重操纵行为的账号提高跨平台处置一致性，防止其通过更换平台和账号规避治理。通过提高恶意操纵的实际成本，缩减AIGC被用于长期开展虚假叙事活动的空间。
（五）加强全球治理能力建设，缩小不同国家治理能力差距
AIGC虚假内容能够跨越国界快速传播，但各国在核查技术基础等方面差距较大。如果只有少数国家具备较强的识别和处置能力，虚假信息仍可能从治理薄弱地区反复进入全球信息网络。因此，全球治理还需要补齐不同国家之间的能力短板。一是增加国际公共技术供给。可由国际组织联合人工智能企业和研究机构，开发开放共享的生成内容检测和来源验证工具，并向技术基础薄弱的国家提供必要的技术支持，让这些国家也具备基本的识别和核验能力。二是加强跨国培训和技术援助。面向各国监管机构和专业媒体开展常态化培训，并通过专家合作和技术支持帮助各国建立较为稳定的处置能力。三是补齐小语种治理资源。应支持小语种检测模型和事实核查数据库建设，并推动重要核验结果及时翻译和共享。唯有让更多国家拥有和具备基本的技术工具和核验能力，全球治理网络才能真正覆盖不同语言和地区，避免局部因能力不足而成为跨境虚假信息持续扩散的突破口。
四、总结和展望
未来，AIGC虚假叙事与信息操纵将不再局限于内容生成和传播层面，而是逐步成为国际舆论竞争和认知安全治理的重要议题。随着大模型生成能力持续提升以及公众信息获取方式发生变化，国际冲突中的信息操纵将在跨国舆论竞争、信息操纵方式、认知影响和国际治理等方面持续演化。
在跨国舆论竞争方面，AIGC将进一步降低针对不同国家受众开展差异化传播的成本。国际冲突中的舆论争夺通常辐射多个国家，不同地区受众的关注重点和表达习惯存在明显差异。过去，同一叙事进入不同国家需要反复翻译和重新包装，而大语言模型可以根据当地语言习惯和受众关切调整表达方式，以较低成本生成多个不同版本。随着各方争取国际舆论支持的需求上升，同一核心叙事可能更快进入多个国家的公共讨论场域，信息操纵也将由较为统一的对外传播转向更具针对性的跨国传播。
在信息操纵方式方面，多模态生成和智能体发展将进一步重塑信息操纵的内容形态和运行方式。AIGC能够围绕真实事件快速生成具有较强现场感的图片和视频，通过渲染伤亡、袭击等场景增强视觉和情绪冲击，使虚假信息更容易获得关注并迅速扩散。智能体自主运行能力提高后，信息操纵还可能由阶段性的内容生成转向持续跟踪局势和舆情变化，并据此调整叙事重点和传播方式，从而提高长期运行能力和受众针对性。
在认知影响方面，信息操纵可能由影响具体内容传播进一步延伸至信息获取入口，并对公众认知形成过程产生更深影响。大量相似的虚假材料如果长期存在于公开网络，可能进入大模型调用的信息来源，并在反复转载和引用后形成相互印证的假象。由此，虚假信息不仅能够影响单次传播，还可能持续影响后续的信息检索和生成结果，增加公众辨别事实真伪的难度。
在国际治理方面，AIGC虚假叙事的跨境、跨平台传播特征，对国际规则协调与冲突的快速处置能力提出了更高要求。未来，应进一步完善生成内容标识、来源认证、平台责任和跨境追责等基础性制度安排，并在冲突期间强化高风险信息核验，发挥国际组织的第三方协调作用，加强平台、人工智能企业和核验机构之间的信息共享与联动处置。
整体而言，AIGC正在改变国际冲突中信息操纵的运行方式，也给既有治理方式带来新的挑战。因此，应加强基础性制度安排与冲突期快速处置之间的衔接，在持续完善规则、责任和技术能力的基础上，提升国际冲突中AIGC虚假信息的核验和处置效能，削弱虚假叙事跨境扩散及其对事实判断和公众认知的持续影响。【本文系国家社会科学基金项目“虚假叙事下美国对华经济竞争与中国应对策略研究”（项目编号：24CGJ015）的阶段性研究成果】
（本文刊登于《中国信息安全》杂志2026年第9期）
声明：本文来自中国信息安全，版权归作者所有。文章内容仅代表作者独立观点，不代表安全内参立场，转载目的在于传递更多信息。如有侵权，请联系 anquanneican@163.com。
