2025年8月4日,兰德公司发布报告《中美冲突、竞争与合作的动因:通用人工智能诱发的五大国家安全难题》(Incentives for U.S.-China Conflict, Competition, and Cooperation Across Artificial General Intelligence’s Five Hard National Security Problems)。报告指出,通用人工智能的发展或将重塑全球权力格局,并将中美战略竞争推向新阶段,尤其可能在颠覆性武器、权力体系变革、杀伤性武器扩散、智能体失控及国家局势不稳定五大领域引发国家安全难题。同时,报告指出尽管中美的战略互疑持续加深,但在避免人类生存风险层面仍存在共同利益,这为双方的有限合作提供了空间。

一、颠覆性武器的出现

通用人工智能可能催生出颠覆性武器,例如能够削弱对手核威慑的导弹防御系统,或是可以破坏他国关键基础设施的网络能力。这种颠覆性武器会改变两国在战争威慑与战略稳定方面的考量,拥有它的国家可能急于利用其获取决定性战略优势,而尚未拥有的国家则可能产生先发制人打击的冲动。同时,人工智能决策过程的不透明性也会增加误判与冲突升级的风险。但是,鉴于任何颠覆性武器都可能破坏现有的威慑平衡,两国或许愿意在缓和局势与增强互信方面寻求合作空间。比如可在“由人类而非人工智能决定核武器使用”这一现有共识的基础上,推动两国探讨如何降低人工智能系统导致意外或非故意升级的风险,从而实现互利。

二、权力结构的系统性转变

通用人工智能带来的结构性变革,不仅体现在军事领域,还涉及经济、舆论、社会治理等多个领域的竞争。在舆论层面,美国担忧自身的政治生态及民主制度会受到外部人工智能的干扰,比如他国可能通过制作深度伪造内容等方式推进“认知战”。在经济层面,报告指出人工智能可能加速科技进步与经济成果的产出,即使仅利用人工智能实现国内生产总值1%左右的增长,长此以往也可能积累起显著优势,这种差距甚至可能对地缘战略格局产生决定性影响。不过,两国仍存在可开展合作的共同利益领域,例如在医疗健康、环境保护、灾害防范等全球性议题上,双方有望跨越竞争障碍进行合作。

三、杀伤性武器的扩散风险

通用人工智能的发展降低了核武器、生化武器等大规模杀伤性武器的技术门槛,使得非国家行为体乃至普通个体都可能获取这类武器的研发能力。因此,双方在这一领域存在强烈的合作动因,可共同建立人工智能应用监测机制、搭建全球情报共享平台以及制定相关国际规范来阻止降低全球风险,增进两国互信。但是,双方战略互信的缺失、战略优先级的差异以及对敏感情报的保密态度差异会给合作带来挑战。此外,报告认为中美围绕人工智能开源还是闭源的软实力竞争可能成为新的摩擦点。

四、失控的人工智能体

当前人工智能体已经能够自主生成代码,还能在连接互联网时与外部系统交互。尽管其尚未达到通用人工智能水平,但已展现出较强的自主能动性。因此,即便其未达到通用人工智能水平,也可能因故障或行为失控导致严重后果。比如人工智能空中交通控制系统因设计缺陷或突发情况,指挥全国范围内的飞机发生碰撞。在这类领域,美国与中国面临着相同的监管需求和安全责任,确保这些系统安全可控地运行是两国的共同诉求,双方可能会携手制定安全监管标准、建立技术共享机制以及构建应急响应协作体系。

五、不稳定的国家局势

无论通用人工智能最终能否实现,对它的追求都可能引发一段不稳定时期。各国和科技公司都在竞相争夺这一变革性技术的主导地位,而这种竞争可能导致紧张局势升级。尽管中美两国在无论通用人工智能领域存在竞争,但两国同样都不希望局势失控、崩坏而损害共同利益,都有避免因追求先进人工智能能力而导致冲突升级的动机。

六、结论

报告指出,在通用人工智能相关的国家安全问题上,中美两国的确可能出现竞争乃至冲突,但在如大规模杀伤性武器的扩散风险等问题上,合作对双方更加有利。尤其在竞争激烈的领域,沟通与对话是化解误判、防止冲突升级的关键。与此同时,也需认识到合作面临的障碍,如军事保密的需要、两国的战略互疑等。因此,构建沟通与合作机制是一项长期任务,无法一蹴而就。报告建议,在短期内,美国可通过非官方或半官方对话机制开启交流,通过组建专家工作组、在现有政策对话中纳入相关议题讨论等方式稳步推进合作;把握当前的窗口期,在推进竞争的同时,也要创造并维持合作机会,实现两者的平衡推进。

报告全文:

https://www.rand.org/pubs/perspectives/PEA4189-1.html

来源|兰德公司官网

编译|张羽翔

审核|周雪静

声明:本文来自上海市人工智能与社会发展研究会,版权归作者所有。文章内容仅代表作者独立观点,不代表安全内参立场,转载目的在于传递更多信息。如有侵权,请联系 anquanneican@163.com。