《2019财年国防授权法案》中要求国防部协调开发各机构以将人工智能应用于军事用途,并要求国防部指定一名国防部高级官员负责。近日,兰德发布了题为《The Department of Defense Posture for Artificial Intelligence,Assessment and Recommendations》的报告。

报告中,兰德公司的研究人员评估了与美国国防部相关的AI的状态,解释了一些对AI的误解,对美国国防部对AI的站位进行了独立和反思性的评估,并给出了关于内部操作、外部参与、潜在的立法和管理措施方面的建议,以加强国防部在人工智能方面的站位。

文章仅供参考,观点不代表本机构立场。

美国国防部人工智能评估和建议

作者:Danielle C. Tarraf, William Shelton, Edward Parker, Brien Alkire, Diana Gehlhaus Carew, Justin Grana, Alexis Levedahl, Jasmin Leveille, Jared Mondschein, James Ryseff, Ali Wyne, Dan Elinoff, Edward Geist, Benjamin N. Harris, Eric Hui, Cedric Kenney, Sydne Newberry, Chandler Sachs, Peter Schirmer, Danielle Schlang, Victoria M. Smith, Abbie Tingstad, Padmaja Vedula, Kristin Warren

编译:学术plus高级评论员 张涛

发布日期:2019年12月17日

来源:兰德公司

1 美国国防部与AI战略

2018年6月,美国国会正式通过了《2019财年国防授权法案》。要求该委员会采取必要的方法和手段,推动美国人工智能、机器学习和相关技术的发展,以全面满足美国国家安全和国防需要。此外,还要求美国防部不断开发人工智能技术,促进人工智能的军事应用。据此,国防部一名高级官员正努力制定战略计划和蓝图,以识别、协调人工智能技术和“关键性应用能力”,加快人工智能的发展和部署。

2018年6月,美国国防部宣布成立联合人工智能中心(JAIC)。旨在加快人工智能快速赋能关键作战任务,统筹协调人工智能研发项目。该中心致力于研究将人工智能大规模应用在军事上,提高美军智能化作战水平,使美军保持和占据军事优势。美国2019财政年度国防授权法案指出,由JAIC制定战略计划,用以开发、应用人工智能,并将人工智能技术转化为作战使用。

2019年2月,美国防部网站发布《2018年国防部人工智能战略摘要——利用人工智能促进安全与繁荣》。其中分析了美国防部在人工智能(AI)领域面临的战略形势,阐明了国防部加快采用人工智能能力的途径和方法。

2019年7月12日,美国国防部发布《国防部数字现代化战略》,该文件同时还是《2019财年~2023财年国防部信息资源管理战略计划》。该战略附录中将人工智能列为在国防领域有应用前景的技术,也是美国国防部优先发展的技术。

人工智能发展现状和对国防部的影响

  • 许多技术都是人工智能技术的基础。近期人工智能技术的发展依赖于有监督学习,尤其是深度学习算法。深度学习算法的成功有赖于大规模有标记的数据集和大量用来训练模型的算力。但当前的这些算法还都比较脆弱、不够可靠,优化后可以用于商业用途,而非国防部军事使用。

  • 当前AI确认、有效性验证、测试和评估(VVT&E)过程主要是确保AI应用的性能和安全性(safety),尤其是那些关注安全性的系统。虽然这并非是国防部遇到的独有的问题,但是是一个对国防部应用AI带来巨大影响的问题。

  • 对国防部来说,从当前的证明阶段到未来可能的大规模部署阶段在性能和时间方面有现实的预期是非常重要的。根据经验,当前的投资在近期要能够达到企业级AI大规模部署的效果,中期要达到支撑主要使命任务的效果,长期要达到大多数情况下可操作的效果。

美国国防部对AI的态度对各方评估的影响

· 国防部在与AI相关的领域缺乏基准和可量化的指标。

· JAIC(联合人工智能中心)缺乏实现当前角色所需的可见性和对应的权限,还缺乏一个5年的战略路线图和精确的目标。

· 缺乏长期的预算保证也会对JAIC成功的可能性带来影响。

· 服务AI的相关附件也缺乏基准和可量化的指标。

· 国防部内AI应用的构建者和用户之间的沟通渠道很松散。

· 国防部内部的创新可能会被当前实践和处理或实现的方式所影响。当前实践和处理的方式也可能会影响引入外部创新的能力。

· 并不是每次有机会收集和存储数据时就会进行,对现有数据的访问也是非常有限的,现有数据也并非都可以理解和追踪。国防部内系统缺乏互操作性也可能会带来一些挑战。外部厂商参与时,在数据的所有权方面会有一些模糊性。

· 国防部在AI人才的定义和追踪上缺乏明确的机制,国防部也在努力培养和增加AI领域的人才。

建议

· 国防部应当适应AI治理架构,使权限、资源等与规模化AI的目标相一致。

· JAIC和每个中心化的服务架构都应当制定规模化AI的5年战略路线图

· JAIC和国防部的合作伙伴应当对国防部范围内在AI方面的投资进年度或半年度的投资组合审查。

· JAIC应该组织国防部范围内展示AI项目的技术研讨会

· 国防部应与产业界和学术界协作,以促进AI系统VVT&E的科学和实践进步。

· 所有资助的AI项目都应当包含AI VVT&E方面的预算,包括所有需要测试的基础设施。

· 国防部所有架构都应创建或加强连接AI研究人员、技术开发人员和运营人员联系的机制。

· 国防部应当将数据视为关键资源,继续为数据的收集和管理建立实践,在分析和分析、使用过程中解决数据保护问题的同时加强数据共享。

· 首席数据官(chief data officer)应当从国防部数据集中进行选择并开放给AI社区,以加强创新和增加国防部和外部的合作。

· 国防部应拥抱一定程度上的开放性,作为加强国防部人才储备的一种方式。

下载报告:https://www.rand.org/content/dam/rand/pubs/research_reports/RR4200/RR4229/RAND_RR4229.pdf

声明:本文来自学术plus,版权归作者所有。文章内容仅代表作者独立观点,不代表安全内参立场,转载目的在于传递更多信息。如有侵权,请联系 anquanneican@163.com。