2022年12月14日,美国情报高级研究计划局(IARPA)发布“快速解释、分析和在线采购”(REASON)项目提案者日活动公告,旨在通过利用人工智能最新进展开发软件,使情报分析人员只需通过简单操作,就可自动生成对分析人员正在处理的各种情报分析报告草稿的建议或评论。

(本文根据原文编译整理,仅供交流参考,观点不代表本机构立场。)

一、需求背景

为了回答复杂且不断变化的情报问题,美国军方和政府情报分析人员经常需要梳理大量不确定且有时相互矛盾的信息,耗费大量的时间和精力。为情报分析人员开发新方法,使分析人员花费更少的时间和精力保质保量按时完成情报工作成为当务之急。为了解决这一问题,美国军方和情报界开始支持和部署人工智能系统进行情报分析,这既是利用新技术的机会,也是解决不断激增的数据过剩且有时相互矛盾问题的解决方案。目前,美国情报界正在广泛利用人工智能技术来提升情报工作效率,这些人工智能系统可降低情报分析人员的工作压力,提升情报处理速度和情报报告质量。近期,IARPA启动REASON项目,旨在构建利用人工智能开发最新工具,帮助情报分析人员撰写情报分析报告。

REASON项目简介

1.项目概述

IARPA启动的REASON项目将通过与人工智能及相关领域专业技术人员合作,利用人工智能最新进展开发人工智能软件,为情报分析人员开发新方法,使情报分析人员只需通过简单操作,就可自动生成对分析人员正在处理的各种情报分析报告草稿的建议或评论。分析人员可以利用这些建议或评论改进其报告,大幅提高其报告质量。

2.项目目标

REASON项目的目标是通过与技术人员合作,借力人工智能,为情报分析人员开发新方法,帮助情报界改进情报分析方法,提高情报分析人员工作效率。

3.研究内容

一是确定额外的证据。除了报告草稿中使用的证据之外,当这种证据存在时,目标是开发出自动找到相关的支持和相反的证据的方法。该方法响应于分析报告草稿和源文档语料库,产生包含在语料库中但在报告草稿中未提及的4至8项附加证据的优先列表。系统执行程序需要确定一条信息是否是与报告草稿中提出的分析问题相关的证据,以及是否是报告草稿中使用的信息的补充(非冗余)。在适当的情况下,系统执行程序应识别相反的和支持的证据,由证据与草稿的结论或草稿中的证据和推理的关系决定。当没有非冗余的额外证据时,系统执行程序应当报告。

二是识别推理的优点和不足。目标是开发出自动发现分析报告草稿推理中的优点和不足。系统执行程序能够识别报告草稿中的推理成份。对于每份报告草稿,执行程序将确定八项优点和缺点。每项优点或缺点将指向报告草稿的相对应部分,并附有一项简短的解释,简要说明推理的优点或缺点的原因。系统执行程序必须区分推理中明显的和真实的优点和缺点。如果分析报告草稿中的推理是合理的,系统执行程序应报告该情况。

三是提出建议以提高论证质量。目标是开发出一套软件应用程序,利用证据和推理的输出,自动生成对分析报告草稿的建议或评论,使分析人员能够大幅改进其报告中的论证质量。该软件应用程序必须确定报告草稿可以改进的关键领域,并根据这些领域提出意见,使分析人员有效使用这些意见的方式提出。意见可能涉及个别问题或整个报告草稿,包括结论的正确性或引用证据的合理性以及可能针对报告的内容或传达的论点。

对每一项研究内容提出了明确的考核指标要求。REASON项目将进行严格和全面的测试,确保取得良好的研究成果。

4.研究进度

REASON项目为期42个月,分为两个阶段进行。

1.第一阶段

第一阶段为期24个月,2023年10月1日至2025年9月30日。目标是致力于开发精确处理论证(证据和推理)的自动化方法,开发新的系统,产生用户认为可解释和有帮助的建议和评论,使分析人员能够处理非机密数据,生成高质量的分析报告。证据和推理能力将分别经过三个周期的测试,每个周期包括非保密和保密测试。

2.第二阶段

第二阶段为期18个月,2025年10月1日至2027年3月31日。目标是完善第一阶段中开发的方法的功能,以便能够有效地处理分类数据并产生更佳效果。研发团队将改进其系统,使用非机密示例处理情报界源报告的内容和风格。研发团队将从独立许可的测试收到可操作的汇总级非机密信息反馈,并使用这些反馈信息完善其方法和提高系统能力。研发团队证据和推理能力将分别经过一个周期的测试,提高论证质量能力将在两个周期和一次最终测试中进行测试,测试参与者包括合格的情报分析人员。

5.研究团队

IARPA鼓励研究团队组成多学科研究小组,小组成员应具备的专业知识包括应用认识论、论证、认知心理学、实验设计、非正式逻辑、判断和决策、语言学、自然语言处理、语言哲学、心理测试学、合理性分析、软件工程、系统工程和系统集成等专门知识。

三、几点认识

1.项目成果有望提高情报分析人员工作效率,提高报告质量

美国情报界和国防部对开发和部署人工智能系统支持情报分析工作十分重视。近年来,IARPA大量投资于情报分析方面的人工智能系统,尤其是在分析、预测和收集等情报研究领域。当前,美国情报部门面临的主要问题就是大量情报数据与滞后的分析能力间的矛盾,而这也正是人工智能的优势所在。因此,将人工智能引入国家情报体系,提高情报分析人员的工作效率,提高情报分析报告质量则成为当前美国军方和情报界的研究方向之一。IARPA启动REASON项目,旨在通过与技术人员合作,借力人工智能,为情报分析人员开发新方法,帮助情报界改进情报分析方法,提高情报分析人员的工作效率,提高报告质量。该项目的顺利实施及获得的研究成果将为新型人工智能系统在情报分析领域的应用和推广奠定坚实的基础。

2.跨学科团队合作是项目成功的关键

情报工作是一项综合性的专业分析研究工作,是对获取的信息进行分析评价、筛选加工、归纳综合、研究开发并传递给相关人员和决策者的一种情报工作。由于获取的信息涉及面广,专业跨度大,需要组织各方面专业人员采取团队合作的工作模式。IARPA启动的REASON项目在项目提案阶段寻求解决方案的多样性,在项目开展阶段则鼓励研究团队合作,组成多学科的超级研究团队开展合作,而不是相互竞争。IARPA要求提案涉及“技能和人员配置”,突出了十几个主题的专业知识,强调不要详细规定研究团队在项目开展中限制具体的技术执行团队,旨在通过研究团队人员的专业多样性促进创新。人工智能项目需要人工智能、信息技术专家和情报行业领域专家开展合作,人工智能、信息技术专家了解机器学习、算法等工具包,而情报行业领域专家带来特定情报领域的知识。人工智能的成功依赖于多学科跨专业团队,尤其是涉及面十分宽泛的人工智能情报分析领域。IARPA对项目研究团队的要求也为项目的顺利开展和成功提供了便利条件。

3.基于人工智能的情报分析工作任重道远

一是基于人工智能的情报分析工作处于起步阶段。人工智能依赖海量数据,基于特定算法,遵循一定的语法规则与程序进行情报分析,本质上是一种“数据库创作”,其分析结果高度依赖数据库、算法、语法规则等,数据库收集的样本、采用的算法越完善,语法规则越全面丰富,越有助于提高情报分析报告的质量。IARPA启动的REASON项目是在现有条件基础上,开发人工智能软件帮助情报分析人员提高工作效率,提高报告质量,并不是要替代人类。情报分析涉及大量自然语言分析和处理,由于自然语言的复杂性,人工智能对自然语言的分析和处理常常与人工评价有很大的出入。从当前的情况看,基于人工智能的情报分析工作处于起步阶段,还有大量工作要做,具有巨大发展空间。

二是基于人工智能的情报分析工作是一项技术迭代过程,不可能一蹴而就。目前美国军事情报机构大多数流程已经数字化,并且数据源的数量也不断增加。分析和理解所有接收到的数据将有助于实现信息优势,这就是人工智能的基础,但对获取的所有海量数据进行人工处理不太可能。人工智能可以模仿许多人类的认知技能,可更快、更好地对数据进行处理。数据的可用性是训练人工智能模型的一个挑战,这需要大量具体的国防数据。人工智能从不断完善的数据和改进的模型中学习,这也决定了这个过程是不断进行技术迭代的过程。

三是基于人工智能的情报分析工作需要长期关注,不断进行技术更新。当前已经出现了一些利用人工智能的文艺创作作品、论文及其他书面报告,从其反馈的情况看,似是而非、意指不明、解释多样、歧义纷出等是这些作品的共同特点。人工智能创作的作品缺乏基于社会实践的人类情感基础,其实质是围绕关键词并运用大数据技术所进行的字词组合,所产生的评论将是关于分析报告证据的逻辑,有很大的局限性,经常出现明显错误不足为奇。基于人工智能的情报分析快速生成高质量分析报告需要不断提高研发团队的专业技术水平,而其水平的提高是一个循序渐进的过程。基于人工智能的情报分析工作需要一支长期、稳定的专业队伍关注该领域发展,持续不断开展研究,进行技术更新。预计IARPA后期还会开展相关主题研究项目,值得持续关注。

作者:前哨

声明:本文来自电科防务,版权归作者所有。文章内容仅代表作者独立观点,不代表安全内参立场,转载目的在于传递更多信息。如有侵权,请联系 anquanneican@163.com。