美国专利商标局（USPTO）日前授予Data²公司一项新技术专利，该技术旨在提升人工智能的可解释性和抗幻觉性。

Data²是一家由美国退伍军人创立的科技初创公司，新研发的技术将揭开人工智能的“黑箱”，提升在国防、情报和国家安全等高风险的使命任务领域采纳和应用智能技术时的信任度。

Data²公司首席执行官乔恩·布鲁顿曾是一名空军，他与退役海军海豹突击队指挥官克里斯·罗尔巴赫、海军陆战队队员埃里克·科斯坦蒂尼以及曾在石油天然气行业共事的杰夫·达尔格利什共同创立了该公司，石油天然气行业也是公司创立的关键行业之一。此外，该组织的顾问团队包括前联邦首席信息官（CIO）苏珊特·肯特和前美国情报界首席数据官南希·摩根等成员。2023年初，该团队参加了空军研究实验室（AFRL）和太空军的“催化剂加速器”（Catalyst Accelerator）计划，并向情报界介绍了一个相关概念验证。

布鲁顿表示，专业背景对公司的发展至关重要，特别是在理解曾服役军种的未解决需求方面。“我们依靠专业知识和背景来指引方向并聚焦真正关注的重点，当前瞄准的是国防、情报和金融等领域的高可靠性行业应用。”尤其是在国防和情报领域，这些组织对失败的容忍度很低。“但这意味着他们终于可以构建和部署他们能够信任并用于做出关键任务决策的人工智能。我认为这是一个真正的差异化优势，因为我们谈论的不是普通的聊天机器人功能，而是构建更可靠、并拥有系统性流程以产生可信赖输出的系统。”

布鲁顿称：“我们试图构建的未来是，战场上的军事指挥官能够信任人工智能生成的战场评估，网络安全分析师能够依赖人工智能近实时地响应威胁。我们正努力使人工智能对政府而言值得信赖，以便他们能在关键任务领域使用它，让人与机器真正开始共同做出更好的决策，能够开始从他们已拥有的数据以及这项技术和能力中创造价值。”

布鲁顿解释，这项专利在设计上是与技术无关的（technology agnostic），可以与任何人工智能模型或生态系统协同工作，因为它是在组织现有数据之上使用“知识图谱”（knowledge graph）技术，将人工智能建立在事实基础之上，使得“每一个人工智能生成的答案都锚定在可验证、可追溯的源数据上，引用精确到数据记录级别”。

尽管取得了重大进展，但当今的基础人工智能模型仍然存在机器幻觉且常常不可靠，令军方担忧。布鲁顿表示，正因如此，Data²采取了以数据为中心的方法来“解决信任、透明度和可解释性的缺失问题”。“最终，我们在流程非常早期的阶段就发现，更好的数据架构和更好的数据结构——而非更好的模型，才是解锁如何在可解释性、可追溯性和透明度方面取得进步的关键，这进一步指导了我们开发的专利。”

目前，Data²的业务模式是与亚马逊、微软、戴尔和英伟达等大型技术供应商合作，利用它们广泛的影响力，以尽可能广泛的方式提供服务，并借助一些“品牌资产”以及与“一些行业最受信任的技术合作伙伴、美国政府的大规模顶级技术提供商”的关系。

布鲁顿称，“专利能力不局限于某种数据架构、某种数据类型或某个大语言模型，也不局限于某种环境。我们已经测试了从完全云托管的环境到完全物理隔离（air-gapped）部署的边缘套件等各类条件。”

声明：本文来自防务快讯，版权归作者所有。文章内容仅代表作者独立观点，不代表安全内参立场，转载目的在于传递更多信息。如有侵权，请联系 anquanneican@163.com。