2021 年 11 月 18 日

大卫VERGUN, 国防部新闻

美国国防创新部门(DIU)于 11 月 15 日发布了其最初的“负责任的人工智能指南”(RAI)文件,旨在将美国国防部的人工智能道德原则落实到其商业原型设计和采购工作中。

“DIU 的 RAI 指南为 AI 公司、国防部利益相关者和项目经理提供了一个循序渐进的框架,可以帮助确保 AI 项目在 AI 开发周期的每一步都遵循公平、问责和透明的原则构建系统,”DIU 人工智能/机器学习产品组合技术总监 Jared Dunnmon 博士说。

在过去的 18 个月里,DIU 团队与卡内基梅隆大学软件工程研究所的研究人员一起工作,并与行业合作伙伴、联合人工智能中心、学术界和政府官员进行了交谈,并测试了这些指南以征求有用的反馈,Dunnmon说过。它们专门用于 DIU 程序。

他说,这些指导方针的目的是:

  • 通过明确最终目标、调整预期以及承认风险和权衡,从一开始就加速计划。

  • 增强对 AI 系统的开发、测试和审查的信心,该系统的开发、测试和审查符合最高的公平性、问责制和透明度标准。

  • 支持改变人工智能技术的评估、选择、原型设计和采用方式,以避免潜在的不良后果。

  • 提出对 AI 项目成功至关重要的问题和对话。

Dunnmon 说,这些指南提供了如何在现实世界的程序中实施负责任的人工智能考虑的示例,以努力创建一个用户友好且更易于理解的文档,以加快进程。

软件技术公司 Quantifind 的联合创始人约翰·斯托克顿 (John Stockton) 在他们的原型项目期间向 DIU 提供了有关指南的反馈,他说:“用户希望这样他们就可以信任并验证他们的工具保护了美国的利益,而不会损害我们的集体价值观。” “这些指导方针显示出实际加速技术采用的前景,因为它有助于识别并提前解决潜在的阻碍问题。我们发现,通过加强内部控制和提高透明度,在政府之外,依靠这项努力也对我们有好处以及所有用户(公共和私人用户)都可以利用的信任模式。”

RAI 指南

负责任的人工智能报告提供了负责任的人工智能指南的摘要,该指南是 DIU 在其原型设计工作中努力实施国防部人工智能道德原则的结果。它还提供了详细的案例研究,展示了 RAI 指南在实践中的价值,同时确定了从这些努力中吸取的具体经验教训。

第一阶段:规划

规划是指概念化和设计人工智能系统以解决给定问题的过程。在规划阶段,希望构建 AI 系统的人员定义其预期功能、创建它所需的资源以及将要部署的操作环境。

第二阶段:开发

开发是指编写和评估构成该系统的计算机代码的迭代过程。在开发阶段,国防部和/或公司人员在构建计划的 AI 系统时专注于五条查询线——数据模型操作、系统性能监控、输出验证、审计机制和治理角色。

第三阶段:部署

部署是指在实践中使用该系统解决问题的过程。部署阶段侧重于三组持续评估程序,这些程序必须在人工智能系统的整个生命周期中确定范围并持续执行。

声明:本文来自网电空间战,版权归作者所有。文章内容仅代表作者独立观点,不代表安全内参立场,转载目的在于传递更多信息。如有侵权,请联系 anquanneican@163.com。