编者按

美国新闻网站“拦截”8月25日曝光称，美国特种作战司令有意获取机器学习技术，以便在海外开展人工智能宣传活动。

美国特种作战部队采购、技术和后勤中心的文件提供了美国特种作战部队近期军事技术愿望清单，披露了美国特种作战司令部希望在未来5到7年内采购的各类装备的新细节，其中包括可用于信息战的机器学习软件。文件显示，美国特种作战司令部正在寻找能够利用具有专门角色的代理式人工智能或多大语言模型代理系统来扩大影响力行动规模的能力的承包商，以增强用于“军事信息支援行动”（MISO）的先进技术。该文件指出，信息环境快速变化，军事部门无法充分吸引和影响互联网上的受众，建立支持美国特种作战司令部目标的项目有助于实时掌控叙事并影响受众。

文件显示，美国特种作战司令部希望获取与外国能力高度匹配的技术，利用机器人搜索和吸收大量互联网聊天，以便更好地说服目标人群或个人就任何特定主题发表意见；美国特种作战司令部希望利用自动化系统抓取信息环境，分析形势，并根据MISO的目标做出回应；美国特种作战司令部希望，相关技术能够回复帖子，压制异议，并生成可供参考的原始资料，以支持友好的论点和信息；美国特种作战司令部还希望，该程序能够访问试图反驳或抹黑美方信息的个人或团体的个人资料、网络和系统，利用所获得的信息，创建更有针对性的信息，以影响特定的个人或团体；美国特种作战司令部预计将使用生成式系统来制作宣传信息，并模拟相关宣传传播后的接受情况；美国特种作战司令部希望能够使用能够复制团队中不同角色成员所需的特定知识、技能、能力、性格特征和社会文化属性的代理系统，然后集思广益，并针对基于代理的个人和团体摹本测试作战行动，使MISO规划人员能够实验或测试各种不同的场景；美国特种作战司令部还希望获取进攻性深度造假能力。

奇安网情局编译有关情况，供读者参考。

美国新闻网站“拦截”审查的美国特种作战司令部文件显示，美国希望利用机器学习在海外制作和传播宣传，以“影响外国目标受众”和“压制不同意见”。

该文件类似于一份美国特种作战部队近期军事技术愿望清单，披露了美国特种作战司令部希望在未来5到7年内采购的各类装备的新细节，包括最先进的摄像头、传感器、定向能武器以及其他帮助作战人员找到并击毙目标的设备。美国特种作战司令部希望采购的技术中，包括可用于信息战的机器学习软件。

为了加强其“军事信息支援行动（MISO）的先进技术增强”，美国特种作战司令部正在寻找能够“利用具有专门角色的代理式人工智能或多大语言模型（LLM）代理系统来扩大影响力行动规模的能力”的承包商。

所谓的“代理式”系统使用机器学习模型，据称只需极少的人工指令或监督即可运行。这些系统可以与大语言模型（LLM）结合使用，例如ChatGPT，后者可以根据用户提示生成文本。尽管许多市场宣传都围绕着这些代理式系统和LLM执行在线购物和订票等日常任务的潜力，但美国特种作战司令部认为，这些技术可能非常适合运营一个自主的宣传机构。

该文件指出，“信息环境变化太快，军事部门无法充分吸引和影响互联网上的受众。建立一个支持我们目标的项目，可以让我们实时掌控叙事并影响受众。”

美国法律和五角大楼的政策通常禁止军事宣传活动针对美国受众，但互联网的多孔性使得这一点难以保证。

美国特种作战司令部发言人丹·莱萨德在一份声明中承认，美国特种作战司令部正在追求“尖端的、人工智能支持的能力”。他表示，“所有人工智能功能均在美国防部负责任的人工智能框架下开发和使用，该框架要求人工监督和决策，以确保问责制和透明度。美国特种作战司令部基于互联网的MISO工作符合美国法律和政策。这些行动不针对美国公众，旨在应对日益复杂的全球挑战，支持国家安全目标。”

尽管OpenAI的ChatGPT和谷歌的Gemini等工具容易出现事实错误和其他不稳定的输出，但它们的人气却飙升。它们能够立即生成几乎任何主题、几乎任何语气的文本——从随意的喷子到伪学术——这可能标志着互联网宣传人员的一次重大飞跃。这些工具使用户能够针对任意数量的受众微调信息，而无需投入时间或人力成本。

人工智能生成的宣传是否有效仍是一个悬而未决的问题，但这种做法在现实生活中已被充分记录。2024年5月，OpenAI发布了一份报告，揭露了伊朗、俄罗斯等国的行为者试图利用该公司的工具进行秘密影响力活动，但发现这些活动均未取得特别显著的成功。美国布鲁金斯学会的杰西卡·布兰特在2023年美参议院人工智能洞察论坛前的评论中警告称，“大语言模型（LLM）可以提高信息宣传的个性化，从而增强其说服力。”她警告称，在一个充斥着人工智能信息战活动的在线生态系统中，“人们对客观真相存在的怀疑可能会增加”。2024年发表在学术期刊PNAS Nexus上的一项研究发现，“语言模型生成的文本对美国受众的说服力几乎与我们从现实世界外国秘密宣传活动中获取的内容一样强。”

毫不奇怪，美国国家安全机构现在坚称，如果这项技术掌握在俄罗斯等外国势力手中，将构成最可怕的威胁。为应对上述外来威胁，美国范德堡大学政治学教授布雷特·本森和前美国防部官员布雷特·戈德斯坦认为，美国政府、学术界和私营部门必须采取“协调一致的应对措施”。他们认为，这种应对措施本质上是防御性的：追踪并反击外国的人工智能宣传。

这并不是美国特种作战部队采购、技术和后勤中心的文件所表明的五角大楼所寻求的。这些材料表明，美国特种作战司令部认为，它需要与外国能力高度匹配的技术，利用机器人搜索和吸收大量互联网聊天，以便更好地说服目标人群或个人就任何特定主题发表意见。

美国特种作战司令部表示，它特别希望“自动化系统能够抓取信息环境，分析形势，并根据MISO的目标做出回应。这项技术应该能够回复帖子，压制异议，并生成可供参考的原始资料，以支持友好的论点和信息。”

美国五角大楼正在密切关注那些可能揭露其宣传努力的人。该文件指出，“该程序还应该能够访问那些试图反驳或抹黑我们信息的个人或团体的个人资料、网络和系统。该程序应该利用所获得的信息，创建更有针对性的信息，以影响特定的个人或团体。”

该文件指出，美国特种作战司令部预计将使用生成性系统来制作宣传信息，并模拟这些宣传一旦被传播出去后会如何被接受。美国特种作战司令部希望能够使用“能够复制团队中不同角色成员所需的特定知识、技能、能力、性格特征和社会文化属性的代理系统”，然后“集思广益，并针对基于代理的个人和团体摹本测试作战行动”。这些模拟比焦点小组更为复杂，需要“构建涵盖整个社会的综合模型，使MISO规划人员能够使用这些模型来实验或测试各种不同的场景”。

美国特种作战司令部的愿望清单继续包括对进攻性深度造假能力的需求，该消息于2023年由“拦截”首次报道。

大语言模型可能会无休止地炮制精心制作的宣传，这一前景令人担忧——但一般来说，美国是目标，而不是实施者。

美国国务院资助的非营利组织“自由之家”在2023年发布的一份报告中警告了“人工智能的压制力量”，并预测“随着恶意行为者开发出更多绕过安全措施和利用开源模型的方法，人工智能辅助的虚假宣传活动将激增”。“自由之家”的报告警列举了俄罗斯等国的潜在用途，但仅在关于罗恩·德桑蒂斯和唐纳德·特朗普总统竞选活动以及一段被篡改成乔·拜登发表恐跨性别言论的深度造假视频的简短章节中提到了该技术的国内应用。前美国国家安全委员会新兴技术主管安德鲁·洛恩表示，一个能够覆盖全球的自动化宣传机器在多大程度上会引起公众的关注，取决于其应用范围。他称，“如果一些外国士兵误以为我们的特别行动将于周三早上通过直升机从东部进行，而不是周二晚上通过船从西部进行，我不会那么担心。”

美军有出于政治或意识形态目的操纵平民的历史。一个令人不安的例子在2024年被揭露。路透社报道称，美国国防部在社交媒体上开展了一场秘密的反疫苗运动，旨在削弱公众对中国新冠疫苗的信心，担心其有效性可能会使亚洲国家与一个主要的地缘政治对手走得更近。美国五角大楼发布的推文称中国科兴疫苗是“假的”且不可信的，而世界卫生组织称其“安全有效”的。据路透社报道，时任美国太平洋特种作战司令部指挥官乔纳森·布拉加通过支持这场秘密宣传运动，“敦促他在华盛顿的上司在所谓的信息空间进行反击”。

兰德公司专注于机器学习系统和五角大楼采购的地缘政治行为科学家威廉·马塞利诺表示，此类系统的建立是出于必要。他称，“像俄罗斯这样的政权正在利用人工智能进行大规模的恶意影响活动”，对抗这些活动可能需要大规模的人工智能响应。

近年来，美国特种作战司令部公开表示希望开发基于人工智能的宣传系统。这些声明表明，其兴趣范围更广泛，涵盖了针对整个人口的影响力行动，而非仅仅针对军事人员。

2019年，美国五角大楼一位高级特种作战官员在一次国防研讨会上表示，美国“需要超越20世纪的信息传递方式，开始将影响力视为现代非常规战争的一个组成部分”。这位官员指出，这“还需要在世界各地建立超越传统行为体的新伙伴关系，努力扩大非政府组织和个人的声音，让竞争对手的恶意活动更加透明。”2020年，时任美国特种作战司令部司令理查德·克拉克表达了他对利用人工智能实现这些目标的兴趣。

理查德·克拉克在2020年发表的讲话中表示，“当我们考虑在这种信息环境中影响和塑造的能力时，我们必须拥有人工智能和机器学习工具，特别是针对影响范围非常广泛的信息作战，因为我们必须了解对手的想法、民众的想法，并在这些领域开展工作。”

AI Now Institute首席科学家、OpenAI前安全工程师海蒂·克拉夫警告不要采取以牙还牙的做法，称“将生成式人工智能和代理式人工智能的使用仅仅视为对对手使用的一种缓解措施是对这项技术的误解，因为进攻和防御实际上是同一枚硬币的两面，他们能够以与对手完全相同的方式使用它。”

美国大西洋理事会数字取证研究实验室高级研究员埃默森·布鲁金表示，自动化的网络影响力活动最终可能收效甚微。他称，“俄罗斯一直在使用人工智能程序来自动化其影响力行动。这些程序效果并不好。”

埃默森·布鲁金警告称，大语言模型在用户提示下编造谎言和延续先入之见的倾向也可能成为一大隐患。他称，“当他们肩负着了解一个复杂且研究不足的国家‘民心’的任务时，他们可能会严重依赖人工智能的帮助，而人工智能很可能会告诉他们那些他们本来就想听到的东西。”

海蒂·克拉夫表示，科技公司大力宣传的“代理式”系统是独立的数字大脑，但这些系统仍然容易出错且难以预测。她称，“在这些虚假信息宣传活动中引入代理式人工智能，增加了安全方面的担忧，因为多项研究结果表明，我们很容易就能破坏和操控代理式人工智能的行为。如果这些安全问题得不到解决，美国特种作战司令部的宣传活动不仅可能受到损害，而且还可能产生非预期的材料。”

埃默森·布鲁金还指出，美国此前的网络宣传活动记录良莠不齐。2022年，研究人员揭露了一个由美国中央司令部秘密运营的推特和脸书账户网络，该网络一直在推送包含反俄罗斯和反伊朗言论的虚假新闻文章。该网络在这两个社交网络上都未能获得关注，很快就让美国五角大楼感到尴尬。他称，“我们从其他公开报道中得知，美国长期以来一直试图‘压制不同意见’，并在某些行动领域制造正面报道。我们也知道，这些努力收效甚微，一旦被美国公众知晓，可能会令人深感尴尬或适得其反。人工智能往往会让这些行动变得更加愚蠢，而不是更加有效。”

声明：本文来自奇安网情局，版权归作者所有。文章内容仅代表作者独立观点，不代表安全内参立场，转载目的在于传递更多信息。如有侵权，请联系 anquanneican@163.com。