人工智能的崛起正在悄然改写信息战和认知战的规则——当生成式AI以假乱真、虚假信息如暗潮般蔓延，如何在数字战场中抢占先机？
近期，美国空军上尉何塞·戴维斯（José Davis）撰写了《Disinformation and Entropy: Leveraging AI in the Information Environment》的文章，深入探讨了人工智能时代，美国空军在信息环境中面临的虚假信息挑战，以及如何利用人工智能和信息论中的熵概念来提升作战能力和评估作战效果。
摘要
在人工智能时代，美国空军对信息环境的理解不断发展，如何有效利用人工智能技术支持作战至关重要。本文探讨了虚假信息的影响、人工智能驱动的反制技术，以及基于熵的评估方法，旨在为美国空军在当今人工智能时代的作战中寻找制胜机会。随着虚假信息借助生成式人工智能扩散，美国空军需采取积极措施，运用新的技术和评估手段，在信息环境作战中取得优势。
信息环境中的作战与人工智能
信息战概念曾模糊不清，美国空军在信息战方面缺乏统一框架，难以发挥协同效应。如今，全球安全环境变化，信息和信息技术在战略竞争与军事行动中的作用显著演变，人工智能的快速发展加剧了这种变化。
美国空军将信息环境作战定义为利用信息影响行为的一系列行动，近年来为发展相关能力采取诸多举措，如发布信息战战略和实施计划、成立专注信息战的部队、合并相关职能部门等。其信息环境作战战略分两个阶段，均强调利用人工智能提升作战能力。
防范虚假信息
问题：虚假信息是故意传播的有害、虚假和误导性信息，2016 年俄罗斯干预美国大选事件就是典型案例。生成式人工智能的发展使虚假信息传播更猖獗，且虚假信息被揭穿后仍可能产生影响，如“持续影响效应”。研究发现，人工智能工具生成的虚假信息在社交媒体上大量传播，对选举等造成威胁。
潜在解决方案：拜登签署行政命令，推动人工智能安全发展，要求开发内容认证和水印工具。谷歌、麻省理工学院等机构也在进行相关研究，如谷歌的 SynthID 水印技术，以及麻省理工学院研发的使图像抵抗人工智能操纵的技术。此外，基于接种理论的预反驳和免疫方法，通过技术手段和心理层面的干预，可有效对抗虚假信息。像 PhotoGuard 和 CariNet 等模型，分别从免疫图像和放大伪造图像瑕疵的角度，提升对虚假信息的防范能力，但这些技术需持续发展以应对对手的技术升级。
熵、信息与评估
美国空军在信息环境作战的效果评估方面存在困难，当前研究提出感知分析和影响量化等方法。感知分析框架包含注意力强度、图像 / 情感和主题 / 问题维度三个组成部分；影响量化利用基于变压器的自然语言处理技术，可识别隐蔽的外国影响，且能用于攻防两端。
文章提出将信息论中的熵作为信息环境作战评估的新指标。熵用于衡量信息的不确定性或随机性，信息环境的复杂性与熵相关，可通过香农熵公式计算。熵在多个领域已得到有效应用，在信息环境作战中，它能帮助不同作战能力根据信息环境状态制定策略，还能辅助关键领导人的互动决策。借助机器学习和可扩展的数据处理系统，利用全球事件、语言和语气数据库（GDELT）的数据可测量信息环境中的熵，为作战评估提供支持。
结论
信息对国家社会政治结构和军事行动影响深远，人工智能的发展既带来机遇也带来挑战，尤其是在虚假信息传播方面。美国空军在开展人工智能研究时，应兼顾技术能力和社会影响。利用基于熵的评估指标，有助于美国空军在人工智能时代更有效地开展信息战，实现跨职能和能力的协作。
作者信息：
何塞·戴维斯（José Davis），美国空军上尉，现任北约盟军空军司令部（德国拉姆施泰因空军基地）战略通信处公共事务官，拥有帕克大学公共管理硕士学位。
声明：本文来自稻香湖下午茶，版权归作者所有。文章内容仅代表作者独立观点，不代表安全内参立场，转载目的在于传递更多信息。如有侵权，请联系 anquanneican@163.com。
