2026年9月24日，美国参议院情报特别委员会副主席马克·R·沃纳（Mark R. Warner）、参议员布莱恩·沙茨（Brian Schatz）及参议员安迪·金（Andy Kim）联合提出《2026年人工智能风险管理与安全法案》（Artificial Intelligence Risk Management and Security Act of 2026），旨在为人工智能系统建立可强制执行的安全保障标准。
背景
《2026年人工智能风险管理与安全法案》（Artificial Intelligence Risk Management and Security Act of 2026）的提出，源于头部人工智能公司及网络安全研究人员就前沿人工智能系统快速演进所发出的严重警告。OpenAI、Anthropic、Google DeepMind、Meta和微软等头部人工智能公司已就其人工智能模型快速发展的网络安全能力发出警告，指出当前最新一代人工智能前沿模型无需人工干预即可识别并利用此前未知的漏洞。上述警告表明，人工智能系统逐步具备执行复杂网络安全任务的能力。而此类能力既可为防御方提供重要价值，也可能因被滥用或缺乏充分安全保障而带来严重风险。
马克·R·沃纳（Mark R. Warner）、布莱恩·沙茨（Brian Schatz）及安迪·金（Andy Kim）三人对人工智能前沿模型风险表现出高度警惕。马克·R·沃纳（Mark R. Warner）认为，人工智能模型实施网络攻击的能力迅速提升，而美国安全托管与部署方面却存在严重缺陷，而二者之间的失衡，将对美国国家安全、关键基础设施以及美国民众日常所依赖的系统构成严重威胁。
《2026年人工智能风险管理与安全法案》（Artificial Intelligence Risk Management and Security Act of 2026）将“前沿人工智能模型”界定为表现出或可经修改而表现出高水平性能且对国家安全、国家经济安全或公共健康与安全构成严重风险的人工智能模型。这一定义直接回应了近年来大模型在化学、生物、放射性及核武器相关知识、网络攻击能力、自主规避控制等方面的潜在风险。布莱恩·沙茨（Brian Schatz）指出，《2026年人工智能风险管理与安全法案》（Artificial Intelligence Risk Management and Security Act of 2026）旨在确保人类始终掌控人工智能模型，并通过严格的标准、测试和监管来防止再次发生类似安全漏洞。安迪·金（Andy Kim）对此表示认同，认为前沿人工智能模型能力的快速发展是推动该法案提出的最直接原因。
当前，美国关键基础设施对人工智能的依赖日益加深，使人工智能安全事件的外部性显著放大。《2026年人工智能风险管理与安全法案》（Artificial Intelligence Risk Management and Security Act of 2026）将“关键基础设施”界定为《2001年美国爱国者法》（Uniting and Strengthening America by Providing Appropriate Tools Required to Intercept and Obstruct Terrorism Act of 2001，USA PATRIOT Act）所定义的范围，并要求在管理工业控制系统或其他运营技术背景下使用人工智能模型的关键基础设施运营者承担强制报告义务。这意味着人工智能风险已不再仅是模型开发者与直接用户之间的私人风险，而是具有系统性影响的公共风险。再次，现有人工智能风险治理框架的局限性日益显现。美国国家标准与技术研究院（National Institute of Standards and Technology，NIST）此前发布的《人工智能风险管理框架》（AI Risk Management Framework，NIST AI 100-1）虽为人工智能风险管理提供了自愿性指引，但缺乏强制约束力。
基于上述因素，《2026年人工智能风险管理与安全法案》（Artificial Intelligence Risk Management and Security Act of 2026）得以提出，旨在通过建立基本的、可执行的规则，以确保人工智能系统的模型得到测试、安全保障和负责任的部署。
主要内容
《2026年人工智能风险管理与安全法案》（Artificial Intelligence Risk Management and Security Act of 2026）的核心制度架构可概括为“一个委员会、一套标准、一项计划、一个数据库、一个框架、一套国际协调机制”。
（一）设立人工智能安全委员会
《2026年人工智能风险管理与安全法案》（Artificial Intelligence Risk Management and Security Act of 2026）要求美国商务部部长应于该法案正式通过生效后的90日内在美国商务部内设立“人工智能安全委员会”，作为永久性咨询委员会。人工智能安全委员会由美国国家标准与技术研究院（NIST）院长、部长、网络安全和基础设施安全局局长、国家安全局局长及财政部部长各选定一名成员组成；此外，美国商务部部长应任命非美国联邦政府官员或雇员担任委员会成员，涵盖人工智能领域内外的技术专家、具有开发测试人工智能系统评估方法背景的个人、具有消费者保护法和反托拉斯法理学研究背景的个人，以及美国商务部部长认定的具备促进委员会职责宗旨的个人等。
《2026年人工智能风险管理与安全法案》（Artificial Intelligence Risk Management and Security Act of 2026）规定，人工智能安全委员会职责则包括：制定技术评估流程，以确定构成高风险性能的能力或能力组合；制定评估前沿人工智能模型、模型变体、检查点或其他版本所构成风险的流程与指标；制定技术标准与合格评定方法，包括标准化模型卡或系统卡格式、生命周期网络安全措施建议、人员访问风险控制流程及安全研究资源配置建议；建立测试环境安保标准、安保控制与参考架构，涵盖风险建模、环境隔离与加固、模型行为持续监测、评估环境持续监测、身份与访问管理保护及评估终止条件等。
（二）标准制定与强制合规
根据《2026年人工智能风险管理与安全法案》（Artificial Intelligence Risk Management and Security Act of 2026），美国人工智能安全委员会应于设立后90日内向美国商务部长提交拟议标准，并在收到该拟议标准后90日内通过规则予以采纳或修改。美国商务部长可基于美国国家安全对该拟议标准作出修改，但须在《联邦公报》（Federal Register）公布修改理由。《2026年人工智能风险管理与安全法案》（Artificial Intelligence Risk Management and Security Act of 2026）明确规定，各前沿人工智能模型的开发者均应遵守各项适用标准；违反者应承担不超过250,000美元的民事罚款，且违规行为持续期间的每一日将构成一次独立违规。美国司法部部长可应美国商务部部长的请求，提起禁止令之诉或民事罚款追缴之诉。上述执行机制使该法区别于纯粹的自愿性治理框架。
（三）安全计划要求
《2026年人工智能风险管理与安全法案》（Artificial Intelligence Risk Management and Security Act of 2026）要求各前沿人工智能模型的开发者为其创建、实质性修改或用于训练评估其他模型的人工智能系统或模型制定、发布并遵循“模型安全计划”。该法案指出，模型安全计划须包括适用模型或系统、专门准备的人工智能能力或风险评估、全生命周期缓解措施清单及负责实施的公司高管身份确认，并提交美国商务部部长。
（四）建立事件数据库
《2026年人工智能风险管理与安全法案》（Artificial Intelligence Risk Management and Security Act of 2026）指出，美国国家标准与技术研究院（NIST）院长应同美国网络安全和基础设施安全局局长协商建立自愿提交机制，并设立数据库，跟踪人工智能安保事件、安全事件及缺陷。
该法案区分了自愿提交与强制提交：前沿模型开发者或提供者，以及在使用人工智能模型管理工业控制系统或其他运营技术的关键基础设施运营者，须在确认事件后30日内报告，若构成对国家安全、关键基础设施或公共安全的迫在眉睫威胁，则须在72小时内报告。数据库填充应优先纳入涉及关键基础设施、高严重性或灾难性影响、广泛商业或公共部门使用及强制提交的案件。同时，《2026年人工智能风险管理与安全法案》（Artificial Intelligence Risk Management and Security Act of 2026）规定了匿名化、披露豁免及与开发者协商等保护机制。
（五）代理式人工智能信任与验证框架
《2026年人工智能风险管理与安全法案》（Artificial Intelligence Risk Management and Security Act of 2026）明确，美国国家标准与技术研究院（NIST）院长应在该法案正式通过生效后的18个月内搭建人工智能智能体专项治理框架：编制“代理式人工智能概况”以作为NIST人工智能风险管理框架的配套资源，定义人工智能代理新产生或加剧的风险，建立自主性水平分类框架，并处理代理身份、认证与授权等网络安全风险。
同时，《2026年人工智能风险管理与安全法案》（Artificial Intelligence Risk Management and Security Act of 2026）要求美国国家标准与技术研究院（NIST）院长启动制定通用模板，记录人工智能智能体的身份版本、预期用途、权限边界、数据系统工具访问、评估情况、独立评估者身份及已知限制等要素。
（六）国际参与协调机制
《2026年人工智能风险管理与安全法案》（Artificial Intelligence Risk Management and Security Act of 2026）要求美国商务部部长与美国国务卿协商同各国开展合作，包括联合测试环境、竞争性研究项目、联合咨询意见、安全信息共享及评估协议标准化。同时，该法案要求美国国家情报总监确保委员会具备访问相关情报的权限，包括闭门或机密简报。
结语
《2026年人工智能风险管理与安全法案》（Artificial Intelligence Risk Management and Security Act of 2026）以人工智能前沿模型为规制核心，依托专门委员会、强制标准、安全计划、事件报告数据库、智能体专项治理框架和国际协调机制搭建完整制度体系。该法案试图将前沿人工智能模型风险治理由分散的自愿性实践升级为具有约束力的国家监管制度，并在国内合规与国际协调之间建立制度衔接，其制度设计思路亦可为其他国家人工智能治理立法提供参照。
撰稿｜合规部
责编｜卢蔷
声明：本文来自三所数据安全，版权归作者所有。文章内容仅代表作者独立观点，不代表安全内参立场，转载目的在于传递更多信息。如有侵权，请联系 anquanneican@163.com。
