近日，新美国安全中心发布了《人工智能与军备控制》提出了影响军备控制成功的几个标准；分析了人工智能军备控制的潜力，并为政策制定者提出了下一步的建议。军备控制人工智能（AI）的技术的发展与进步为世界各地的军队创造了巨大的机遇。随着人工智能军事系统的潜力不断增加，专业人士发出了预警，呼吁对某些人工智能武器系统进行限制或直接禁止。

"军备控制"是一个广泛的术语，可以包括各种不同的行动。一般来说，它指的是国家为控制研究、开发、生产、部署或使用某些武器、武器特征、武器应用或武器运载系统而达成的协议。某些武器、武器的特征、武器的应用或武器运载系统的研究、开发、生产、实战或使用。

军备控制的类型

军备控制可以发生在武器发展和使用的许多阶段（见图1）。不扩散制度，如核不扩散条约（NPT），旨在防止获得某些武器背后的基本技术。禁令，如关于地雷和集束弹药的禁令，允许获得技术，但禁止开发、生产或储存这些武器。军备限制条约允许生产；它们只是限制各国在和平时期可以拥有的某些武器的数量。

图1.贯穿武器开发和使用生命周期的军备控制措施

军备控制可以通过各种方式实施，包括具有法律约束力的条约、由国家长期实践产生的习惯国际法，或不具法律约束力的文书。成功的军备控制甚至可以通过国家之间没有明确说明但却导致相互克制的默契协议来进行。国家间的军备控制是例外，而不是常规。大多数时候，国家在军事技术方面的竞争没有正式或非正式的军备控制机制来限制其竞争。有几个因素使军备控制具有挑战性。

军备控制需要国家间某种程度的协调和信任，而最需要军备控制的情况就是协调和信任最困难的情况。可能促成信任的那种监督和核查也是一种挑战，因为可能减轻竞争对手对武器发展的恐惧的透明度也可能暴露出自己军事力量的弱点，使国家不愿意采取这种措施。即使在全面战争的高峰期，各国也寻求相互克制，避免使用某些会使战斗升级或不必要地增加痛苦的武器、武器的特点或战术。

影响军备控制成败的因素

有专家确定了六个标准，包括：有效性、创新度、部署、医疗兼容性、破坏性和厌恶度。认为这些标准影响了武器对监管的容忍度或阻力。

军备控制的可取性和可行性

军备控制是成功还是失败，取决于其可取性和可行性。军备控制的可取性包括国家对一种武器的军事价值与它的可怕性的计算。因此，军备控制的可取性是国家为自己的目的保留武器的愿望与限制对手使用武器的愿望的平衡。

军备控制的可行性：包括各国明确所需限制程度的能力、各国遵守限制使用协议的能力、各国核查遵守情况的能力，以及为确保协议成功所需的国家数量。当理想性和可行性成都高时时候，军备控制就有最大的成功机会。当国家行为在武器发展、生产数量、部署态势或使用方面受到限制时，军备控制被认为是成功的。就本文而言，未能限制国家行为的军备控制协议不被视为成功。在极少数情况下，限制是通过默契的方式进行的，没有任何正式的条约或其他机制。然而，一般来说，正式协议是国家间的有效协调机制，进行明确的限制。

军备控制的可取性

武器的军事价值是影响军控可取性的最重要因素。最重要的是，国家希望确保自己的安全。

权衡一种武器的价值是它被认为的可怕性，即它造成的伤害类型、它的稳定风险、它对社会或政治秩序的影响，或它的滥杀性质。虽然大多数成功的禁令都是针对不是特别有效的武器，但认为对任何具有军事价值的武器的禁令都不可行是过于简单了。战争是可怕的，各国有时会通过限制其行动或能力的军备控制措施来缓和战争的可怕性。一个国家持续希望进行军备控制的一个关键因素是互惠。虽然在和平时期有无数的威胁和诱因迫使各国遵守军备控制协议，但在战火中约束军队的不是国际谴责，而是对敌人报复的恐惧。

军备控制的可行性

军备控制的可取性包括激励或抑制国家尝试某种形式的控制的标准，而可行性包括决定长期、成功的军备控制是否可能的因素。

有效军备控制的一个基本要素是国家之间对所希望的限制程度的明确性。军备控制要想成功，就必须明确划定允许和不允许的界限；模棱两可的协议有可能导致广泛使用的滑坡。简洁是关键。明确焦点的协议，更加有效，可以使各国对自己和对手的行为有明确的预期。

一个密切相关的问题是国家必须能够遵守限制使用的协议。在20世纪初，各国试图限制潜艇和空中轰炸的使用，但潜艇和飞机使用方式的实际情况使各国难以遵守商定的限制。各国最初在战时限制了它们的使用，但一旦发现在战争中这样做的实际困难，这种限制就不会持久。军备控制的可行性也受到各国核查其他各方是否遵守协议的能力的影响。这种能力可以通过正式的核查制度来实现，核查的关键是确保足够的透明度。

协议成功所需的国家总数也影响到军备控制的可行性。当军备控制成功所需的国家较少时，可行性就会增加。如果国际体系的极性导致军事力量集中在少数国家，那么让这些国家达成协议对成功至关重要。尽管苏联（USSR）和美国相互敌视，但在冷战期间有许多成功的军备控制条约，其中有些是双边协议，主要由美国和苏联领导。另外，在某些情况下，一个协议的成功可能需要少数国家，仅仅是因为凭借技术，扩散性武器更难控制，需要更多的国家达成协议，对它们的军备控制才能持久和成功。哪些国家支持一项协议也很重要。

最后，军备控制往往是路径依赖型的，成功的法规是以先前对类似技术的成功法规为基础的。这两个方面的标准抓住了影响军控成败的最重要因素。如果历史经验证明是对未来有指导作用，那么这些因素很可能会影响对新技术和新兴技术的军备控制的可取性和可行性，包括人工智能的军事应用。

对人工智能的影响

由于各种原因，人工智能技术给军备控制带来了挑战。人工智能技术是分散的，它的许多应用是双重用途。作为一项新兴技术，其全部潜力尚未实现。任何人工智能军备控制协议的核查也将具有挑战性；各国可能需要制定方法来确保其他国家遵守规定。在某些条件下，军备控制对于某些军事人工智能的应用可能是可行的。即使各国在军事人工智能方面进行竞争，也应积极寻找机会减少其风险，包括在可行的情况下通过军备控制措施。

AI是一种通用技术

人工智能是一种类似于电力或内燃机的通用使能技术，而非潜水艇、膨胀子弹或致盲激光那样的离散武器。从军备控制的角度来看，该技术的这一方面带来了几个挑战。

首先，人工智能技术是双重用途的，既有民用也有军用，因此很可能会被广泛使用。该技术的扩散性使军备控制在两个方面具有挑战性。首先，它使提议将人工智能"封存"并减少其传播的不扩散制度不太可能成功。此外，人工智能技术的广泛存在意味着需要许多行为者遵守军备控制制度，才能使其有效。在所有条件都相同的情况下，如果行为体数量较多，协调就可能更具挑战性。

第二，人工智能技术的通用性，可能使其更难为军备控制建立明确的协调中心。鉴于其定义模糊不清，可以有很多解释。一项技术是否符合"人工智能"的条件，可能存在多种解释。实际上，人工智能是一个广泛的实践领域。今天的人工智能技术，在军事的应用可能是在改善业务流程或操作效率的非武器用途，如预测性维护、图像处理或其他形式的预测分析或数据处理，可能有助于简化军事行动。这些人工智能应用可以通过提高战备水平、加快部署时间、缩短决策周期、提高态势感知或提供许多其他进展来提高战场效率。然而，可接受的军事人工智能用途和不可接受的用途之间的界限可能是模糊的，各国需要明确，以使任何协议有效。

尽管由于许多历史原因，禁止所有的军事人工智能应用可能并不现实，但有充分的证据表明，各国可能会同意限制人工智能的具体军事应用。与核稳定、自主武器和网络安全有关的人工智能应用已经成为学者们关注的焦点，可能还有其他重要的人工智能应用值得进一步考虑。即使在特定的兴趣领域，任何具体应用的军备控制的可取性和可行性可能在很大程度上取决于技术的应用方式。可以针对被认为特别有问题的人工智能技术的具体实例制定严格的禁令或条例，类似于国家对设计成在体内爆炸的子弹的限制，而不是对所有爆炸的射弹的限制。

人工智能仍是一种新兴技术

在预测哪些具体的人工智能应用可能值得进一步考虑军备控制方面的困难之一是，正如其他新兴技术的情况一样，目前还不清楚人工智能将如何用于战争。这个问题并不新鲜。在19世纪末和20世纪初，各国为成功控制工业时代的新技术而奋斗，正是因为这些技术在不断地发展变化。

对于新兴技术来说，军备控制有一些方式既容易又困难。一方面，对新技术的先发制人的禁令在某些方面可能更容易，因为国家并没有放弃一种已经融入其军队的武器，他们依赖这种武器获得安全。另一方面，对新兴技术的监管有时可能更具挑战性。对军队来说，成本效益的权衡是未知的，因为可能不清楚一种武器的军事效果如何。同样，它的可怕程度可能要到使用武器时才能知道，就像毒气和核武器的情况那样。各国可能会高度抵制限制一种似乎特别有价值的武器的发展。

军方认为人工智能是一种"改变游戏规则"的技术，这可能是实现国家克制的一个障碍。世界各地的军队都在投资人工智能，并可能不愿意将一些应用列为禁区。此外，对人工智能系统产生超人的能力、精确性、可靠性或功效的看法，可能会减少对某些人工智能应用可能破坏稳定或危险的看法。

对人工智能技术的看法，即使是毫无根据的，也会对各国考虑对军事人工智能应用进行军备控制的意愿产生重大影响。随着时间的推移，这些看法可能会随着各国投入和使用军事人工智能系统而变得与现实更加一致。

挑战：核查遵守情况

即使各国能够就明确的军备控制焦点达成一致，并且成本-收益权衡支持相互克制，核查对任何军备控制制度的遵守情况对其成功至关重要。人工智能技术的一个复杂问题是，与其他形式的软件一样，人工智能系统拥有的认知属性不易被外部是识别。为应对这一问题，有几种潜在的方法可以考虑：采取侵入性检查，限制人工智能系统的物理特性，规范人工智能系统的可观察到的人工智能系统的行为，并限制计算基础设施。

采用干扰性检查。各国可以同意采用侵入性检查制度，允许第三方观察员进入设施和特定的军事系统，以核实其软件是否符合人工智能军备控制制度。人工智能检查制度将受到与其他武器相同的透明度问题的影响：检查有可能将武器系统的脆弱性暴露给竞争国。然而，在保护隐私的软件核查方面的未来进展可能会帮助各国克服这一挑战，在不暴露私人信息的情况下核查一个软件的行为。各国可能只是接受核查的好处超过增加透明度的风险；有侵入性检查制度的先例。软件更新可以相对快速和大规模地进行，比建造更多的导弹或核浓缩设施要容易得多。原则上，各国也许能够通过在未来开发更先进的技术方法来克服这个问题，如持续监测软件以检测变化，或将功能嵌入硬件。除非各国能够自信地克服对人工智能系统进行快速和可扩展的检查后更新的挑战，否则侵入性检查制度仍将是核查遵守情况的一个薄弱解决方案，即使各国愿意同意这种检查。

限制人工智能系统的外部可观察的物理特征。各国可以不关注系统的认知能力，而是关注容易观察到的、难以改变的总的物理特征，如尺寸、重量、功率、续航能力、有效载荷、弹头等等。在这种方法下，各国可以为一个系统采用想要的任何认知特征。军备控制的限制将只适用于车辆或弹药的总体物理特性，即使实际关注的动机是人工智能所带来的军事能力。各国以前也使用过类似的方法，对系统的总体物理特征进行管制，而不是对其有效载荷进行管制。冷战时期的多个条约限制或禁止某些类别的弹道导弹和巡航导弹，而不是只禁止用核武器武装。另一种方法，即只限制核武导弹，会允许某些常规导弹，但会更难进行核查。

实现以人工智能硬件为重点的军备控制的一个重要因素是芯片制造基础设施在全球范围内的民主化程度，而不是集中在少数行为者手中。目前的半导体供应链是高度全球化的，但有一些关键的瓶颈。这些瓶颈为控制人工智能硬件的使用提供了机会。

半导体供应链的未来演变存在极大的不确定性。供应链的冲击和地缘政治的竞争加速了国家对全球半导体市场的干预，给市场的演化带来了巨大的不确定性。一些趋势指向硬件供应链的进一步集中，并需要加深民主化程度。半导体制造厂的高成本是导致该行业更加集中的一个因素。另一方面，地缘政治因素正导致中美两国加快本土工厂的产能。强大的市场和非市场力量影响着全球半导体行业，这些力量对供应链的长期影响还不清楚。

未来发展

与人工智能当前时刻最接近的历史类比是20世纪初工业时代技术的军事化，以及各国当时为控制这些危险的新武器所做的尝试。在1868年的《圣彼得堡宣言》之后，各国在第一次世界大战前和第二次世界大战前的战时阶段都进行了大量的军备控制活动。外交活动的规模表明，要在军备控制方面取得成就需要付出努力和耐心。

可以采取几个步骤来探索人工智能军备控制的潜力。这些措施包括在各个层面举行会议和对话，以更好地了解该技术，它如何可能被用于战争，以及潜在的军备控制措施。学术会议、第二轨道的学术交流、双边和多边对话以及在各种国际论坛上的讨论，对于帮助推动国际各方之间的对话和相互理解都很有价值。对潜在军备控制措施的分析必须与技术本身和它所促成的行为紧密相连，这些对话必须包括人工智能科学家和工程师，以确保政策讨论以技术现实为基础。此外，由于人工智能技术仍在不断变化和迅速发展，那些考虑军备控制的人必须准备好适应性，并随着技术的成熟，将注意力转移到人工智能技术的不同方面或其促成的军事能力。跟踪人工智能进展和扩散的指标也将有助于阐明军控的可能性和未来的挑战。

政策制定者可以采取相关步骤，通过塑造其发展，特别是硬件方面的发展，使该技术在长期内更加可控。对全球供应链中的关键节点颁布出口管制，可能有助于控制实现人工智能的基础技术的传播，集中供应链并提高未来的可控性。在人工智能革命的初期，尚不清楚军队方将如何采用人工智能，以及影响战争的方式。但政策制定者可以采取积极措施，为未来潜在的军备控制措施奠定基础，不仅包括塑造技术的演变，而且包括政治气候。

声明：本文来自天极智库，版权归作者所有。文章内容仅代表作者独立观点，不代表安全内参立场，转载目的在于传递更多信息。如有侵权，请联系 anquanneican@163.com。