生成式人工智能的兴起标志着军事研究和应用的范式转变，符合托马斯·库恩在其开创性著作《科学革命的结构》中提出的革命性科学框架标准。美陆军军官安德鲁•巴洛和艾莉森•本德在美陆军官网发表文章《生成式人工智能在军事演进中的作用》，深入探讨了生成式人工智能在军事领域的深远影响和变革潜力，探索其作为颠覆性创新和战略进步催化剂的作用。本文编译了这篇文章的主要内容。
在不断发展的军事技术格局中，生成式人工智能是一项关键性的发展，它重塑了传统方法论，并为战略和战术带来了新的维度。它能够处理海量数据、生成预测模型并辅助决策过程，这不仅提高了作战效率，也在道德伦理以及融入现有军事结构等方面提出了独特的挑战。本文深度分析了生成式人工智能在军事领域的复杂应用，探讨其对政策和战略制定以及战争原则的广泛影响。文章强调，需要采取一种平衡的方法，将技术实力与伦理考量、战略远见以及对全球安全态势演变的深刻理解相协调。
1 生成人工智能的定义
随着ChatGPT、Dall-E和Midjourney等应用的普及，生成式人工智能已成为前沿技术的焦点。业界和学术界都以各种创新方式对其进行开发应用，并根据具体情况进行调整。它的计算特性简化了代码语法的搜索，还可协助编程。在深入探讨生成式人工智能日益普及所带来的复杂后果之前，必须先定义其术语。生成式人工智能不仅仅指的是生成预测、数据或统计数据的模型，其模型能够“开发可供使用和消耗的、新颖的、类人（human-like）素材”。
生成式人工智能并非一种特定的机器学习模型，而是数据科学领域中各种不同类型模型的集合。最重要的区别在于输出，它模仿的是人的创造力和劳动成果。在过去的几年里，我们见证了一次罕见的、被称之为科学革命的时刻，社会也开始适应与生成式人工智能在工业领域相关的变化。
2 军事应用
2023年8月，美军宣布成立生成式人工智能工作组，体现了“国防部致力于以负责任的方式和战略性高度驾驭人工智能力量的承诺”。由首席数字和人工智能办公室（CDAO）领导的“利马”工作组，其任务是评估和协调国防部内部人工智能的使用，以保障国家安全。当前主要关注点是对训练数据集管理的担忧。国防部计划逐步运用生成式人工智能“增强其在作战、业务、卫生、战备和政策等领域的行动能力”。鉴于军事行动的性质，国防部发布了风险缓解指南，以确保将负责任的统计实践与高质量数据相结合，从而生成富有洞察力的分析和指标。对于任何军事应用，官员都必须考虑“可治理性、可靠性、公平性、问责制、可追溯性、隐私性、合法性、同理心和自主性”等原则，以便在过渡期内确保符合伦理道德。
生成式人工智能的未来应用包括智能决策支持系统（IDSS）和辅助目标识别（AiTC），用于协助战场决策、目标识别和伤亡救治，旨在减轻操作员的心理负担，提高危险环境中决策的准确性。美军已在“自主无人机武器/智能巡航导弹”中部署了人工智能，并见证了“在复杂和高风险环境中取得的稳定、可靠成果”。虽然这些武器系统中的人工智能不一定依赖于生成式人工智能模型，但它展现出遵循美国治理基本伦理原则的能力。下图展示了国防部将人工智能应用于新作战任务的过程。该系统将取代以往的做法，以培养一支更强大的数据驱动型军队。
生成式人工智能的未来应用包括路线规划、作战指令编写和备忘录制定。此外，国防工业一直在研发能够“分析和构建3D物体”的“3D生成式对抗网络”（3D Generative Adversarial Networks）。这些模型“在制造业和国防工业中，成为设计流程自动化日益重要的研究领域”。随着军品制造角色的演变，领导者必须将注意力转向更深入地思考问题，而非仅仅关注劳动过程。他们需要培养批判性思维能力，使其能够基于数据输入理解生成式人工智能的输出，从而避免统计实践引发的伦理问题。许多美国公司已经面临统计模型带来的伦理困境，包括自动驾驶汽车的致命事故以及招聘技巧中的渎职诉讼。目前大部分生成式人工智能模型可能并未接受过军事数据集的训练，或者对细致入微的军事政策理解不足。这并不一定意味着军事人员要避免使用这些平台，但需要采取适当的预防措施。
生成式人工智能在民用市场上不断取得突破，使其逐步达到可用于军事应用的水平。然而，它必须首先解决以下问题：1）高风险意味着军用人工智能系统需要透明化，才能赢得决策者的信任并促进风险分析。但由于许多人工智能技术都是缺乏足够透明度的黑匣子，因此这是一个挑战。2）军用人工智能系统需要稳健可靠。但事实表明，人工智能技术可能容易受到输入数据的不可察觉的操纵，因此也导致了问题。3）许多人工智能技术基于机器学习，需要大量训练数据。但由于军事应用中通常缺乏足够的数据，这就形成了第三个挑战。
军方领导人必须意识到面临的问题和新负担，并且随着时间的推移，军官教育系统将发生变化以反映这些新兴角色。
3 生成式人工智能作为颠覆性创新
按照克莱顿·克里斯坦森在《创新者的窘境：新技术导致大公司失败的原因》一书中提出的框架，生成式人工智能可以归类为颠覆性创新（disruptive innovation）。在书中，克里斯坦森解释了成熟市场中的优秀公司为何会随着时间的推移而失败。美国是“军事力量市场”的领先者。尽管这个市场不是以货币为基础，但每个市场都会经历两种技术变革：维持性技术和颠覆性技术变革。维持性技术支持当前的市场结构，由寻求满足当前客户需求的老牌企业主导。而颠覆性技术则通过在历史上未开发的特性中寻找优势来颠覆和重新定义市场偏好。正是在这方面，改变市场二分法的过程“不断导致领先企业的失败”。老牌企业寻求根据现有价值体系开发能够吸引当前市场的新技术。
历史见证了战场技术的变迁（例如弓箭、步枪、机枪和坦克的发展）。这些进步都重塑了战争格局，在某些情况下甚至颠覆了整个世界秩序。例如，19世纪工业革命期间俄罗斯的衰落。当时，俄罗斯是一个地区强国，但它未能像德国那样迅速实现工业化，到第一次世界大战时也未能组建强大的军事工业。最终，创新的失败导致俄罗斯在东线惨败于技术更先进但规模却小得多的德国军队。军事价值体系反映了战场上的制胜之道。通常情况下，成熟企业/国家的领导者会高估历史经验，而未能意识到新进入者（开发颠覆性技术的竞争国家）在小型作战任务（niche warfighting tasks）中的潜力，直到颠覆性技术发展到一定程度。一旦颠覆性技术重新定义了军事价值体系和作战程序，那些维持型国家就再也追不上了，它们将在全球舞台上被超越。
颠覆性技术对成熟企业而言十分危险，因为“向上进入其他网络的流动性相当大”，而市场“却抑制向下发展”。其核心思想是，颠覆性技术一开始会向资源有限的客户推销自己，然后不断增长，直到能够抢走更大的合同。大公司的管理者往往很难证明自己有充分的理由进入规模小、定义不清、盈利能力较低的低端市场。在战争中，这是因为超级大国需要关注高端价值网络，或者更确切地说，关注其领土与当前国家安全最大威胁之间的联系/平衡。想象一下，美国总统在2010年代中期要求国会大力投资开发生成式人工智能，而不是专注于阿富汗战争。事后看来，这本应是巩固美国军事领先地位的绝佳途径，但直到2022年俄乌战争爆发，或许无人能预见人工智能对“杀伤链”（即识别目标、派遣兵力、攻击并摧毁目标的概念）的影响。这场战争带来了巨大的革新，尤其体现在自主无人机的出现，它们能够利用卫星图像和图像识别软件识别敌方。这些无人机可以与更大型的服务器通信，并向目标投掷炸药，与以往需要收集情报、部署兵力和进行作战的作战程序相比，这极大地加速了“杀伤链”的进程。中国在人工智能领域投入巨资，并计划在2030年代中期成为世界领先者，这体现了美国因这项颠覆性技术而面临的全新军事竞争态势。
颠覆性进入者视技术为既定事实，操作程序可变，而维持型国家则视其为相反，认为操作程序固定不变，技术则可变。为了保持成功，军事强国专注于维持现状。成熟国家的理性管理者没有冒险的必要。随着时间的推移，战争的波动会形成一个循环，各国会连根拔起权力结构，建立治理体系，最终被创新型征服者所取代。保持高端市场（即成为成功的超级大国）的关键在于成熟国家应对颠覆性变革的方法。军事大国在开发测试新兴技术时会遇到困难，因此建立外部研究团队是一个好的做法。这些规模较小的组织不会期望取得丰硕成果，它们的关键任务是寻找组织知识来构建项目。战争的流动性是无法预测的，因此军队必须积极保持警惕。
“利马”工作组的成立是美国在军事市场中应对生成式人工智能颠覆性特性的关键案例。克里斯坦森为成熟企业提出了三种主要策略来应对颠覆性变革。其中一种策略是向新兴市场投入资源，以提高其盈利能力，从而在根本上影响新兴市场的增长率。企业也可以选择等到新兴市场明确界定后再采取行动，一旦机会出现就立即介入。最后，为了应对颠覆性变革，一些企业可能会将所有颠覆性技术的商业化责任委托给外部小型组织。国防部已被迫采用后一种方案。如果军事领域无法有效管理人工智能，其实力将像19世纪的俄罗斯一样衰落。美军正在致力于创造新的能力，利用现有流程和价值观之外的小团队来引领创新，避免安全危机，并抵御战争变革。
4 军事战略中的生成式人工智能
在军事政策和作战背景下，生成式人工智能的兴起对国防组织的战略和作战框架产生了重大影响。将这项技术融入军事应用需要一种细致入微的政策制定方法，将科学理解与人文学科的伦理和战略洞见相结合。
在军事领域（例如自主武器系统和决策支持工具）应用生成式人工智能，需要制定平衡技术能力与伦理考量（包括国际人道主义法和交战规则）的政策。美国以及联合国等国际管理机构都发现，监管先进的网络行动十分困难。如今，随着先进统计模型的引入，决策者必须了解使用这些模型的含义，以及基于这些模型和训练数据对社会产生的影响。生成式人工智能为作战战术带来了新的维度，从自动目标识别到情报分析。军事战略必须不断发展，以纳入这些人工智能驱动的能力，同时考虑其对战场伦理和士兵安全的影响。如果管理不善，识别失败可能导致平民伤亡和基础设施破坏。人工智能与军事行动的融合必然要求军事教育和训练进行改革。这包括纳入跨学科研究，将技术与伦理、哲学和军事战略相结合，从而帮助士兵和指挥官做好应对人工智能增强型战争的准备。美国陆军正致力于融合这两种文化，培养具有数据能力的领导者，使他们不必依赖分析师来获取见解。
首要挑战在于将人工智能能力融入现有军事架构和行动。这不仅需要技术上的适应，还需要理论和战略上的转变。或许最糟糕的情况是文化差距的扩大，因为技术人员纷纷涌入工业界，远离政府部门。如果能够很好地融入到作战行动中，人工智能的应用将有机会增强作战能力，例如提升态势感知能力、加快决策速度、提高目标定位精度，从而提升军事行动的整体效能。生成式人工智能重新定义了战争和安全的特征，对冲突的性质、人类士兵的作用以及未来国际安全格局提出了新的问题。如果不能及时立法并实施人工智能，必将导致敌方滥用高致命性的人工智能杀伤链系统，甚至可能不顾伦理道德。
将生成式人工智能融入军事政策和作战，既带来了挑战，也带来了机遇。这需要一种新的军事战略和政策制定范式，将人工智能的进步与战争的伦理、战略和人文层面相协调。随着军事组织适应这种人工智能驱动的格局，技术专家与战略专家之间的合作对于制定有效、合乎伦理且可持续的军事政策和实践至关重要。
5 结论
生成式人工智能是一项颠覆性的创新，它将彻底重塑军事工业。当前，我们正在经历人类历史上最伟大的科学革命之一。在未来五年内，将持续涌现出颠覆性的科学成果，直到军方和业界能够将生成式人工智能的功能区分开来。在此之前，政策制定者在将人工智能应用于战争时必须继续保持谨慎，并与能够解释这些复杂模型内部运作机制的科学家进行跨越文化鸿沟的沟通。世界或许正处于巨大的不确定性之中，我们屏息以待这场前所未有的革命将催生出哪些伟大的武器，但至少有一件事是肯定的：到最后，世界必将发生翻天覆地的变化。
声明：本文来自防务快讯，版权归作者所有。文章内容仅代表作者独立观点，不代表安全内参立场，转载目的在于传递更多信息。如有侵权，请联系 anquanneican@163.com。
