2020年6月2日,新美国安全中心(CNAS)网站转发Texas National Security Review网站的评论文章,题为“The Militarization of Artificial Intelligence”,作者是技术与国家安全项目主任和高级研究员保罗·沙尔。文章主要观点如下:

美国国防部将人工智能(AI)定义为“机器执行通常需要人类智慧的任务的能力”,例如“识别模式,从经验中学习,得出结论,[并]做出预测”。美国2020财年预算将人工智能列为研发重点,并提议向美国人工智能倡议提供8.5亿美元的资金,资金分布在多个机构中。军方争相采用人工智能,目的是赢得优于竞争对手的军事优势。

然而,目前在人工智能对战争的长期影响方面知之甚少。当前对人工智能的兴趣浪潮主要是由深度学习革命推动的,它相对较新,并且机器学习技术在数据和计算能力指数增长的推动下继续快速发展。在将深度学习应用于研究实验室之外的实际问题时,社会才刚刚开始应对众多机遇和挑战。鉴于军事技术发展有时具有秘密性质,并且缺乏可以对军用人工智能系统进行增量测试的日常环境,因此了解人工智能对战争的影响尤其具有挑战性。

为了克服某些定义和分类上的困难,文章从3种不同的视角考察了人工智能:特定应用、历史类比和技术特征,并分析了与国际安全有关的人工智能的若干风险和挑战。这些风险和挑战包括,数据风险、脆弱性、集成性以及潜在的错误感知误解。文章指出,当前美国国防部的人工智能战略侧重于“实验和冒险的文化”,但有效地使用人工智能不仅需要创新,还需要“持续维护智能系统以确保用于创建机器智能的模型没有过时”。没有维护和安全性的创新可能会增加漏洞和事故的发生。

中国航空工业发展研究中心 郭道平

声明:本文来自航空简报,版权归作者所有。文章内容仅代表作者独立观点,不代表安全内参立场,转载目的在于传递更多信息。如有侵权,请联系 anquanneican@163.com。