
人工智能快速发展带来的网络安全、国家安全和公共安全风险受到美国政府持续关注。近年来,美国主要通过出口管制、自愿安全承诺等措施降低人工智能风险,但联邦层面仍缺乏要求模型开发者持续报告重大安全事件的制度安排。美国商务部曾以国家安全为由限制Anthropic最新模型的全球访问,进一步引发关于高风险人工智能事件报告机制的讨论。为弥补相关制度空白,2026年6月25日,美国众议员Moran提出《人工智能事件报告法案》(AI Incident Reporting Act,H.R.9477),拟建立联邦层面的人工智能重大安全事件强制报告制度,对达到规定能力门槛的人工智能模型开发者设定法定报告义务。该法案试图建立一种更加制度化、常态化的风险信息通报机制,确保当高能力人工智能系统出现重大风险时,政府能够及时掌握信息并迅速采取应对措施。本期简报对《人工智能事件报告法案》的主要内容进行梳理和简析,以供参考。
一、建立高风险人工智能事件强制报告制度
(一)受监管模型认定机制
法案授权商务部长在法案生效180日内,会同有关政府部门以及人工智能企业、学术界、网络安全、国家安全等领域专家,共同制定实施规则和模型能力门槛。商务部长将依据模型能力水平及潜在风险,确定哪些人工智能模型属于“受监管模型”,哪些开发主体属于“受监管模型开发者”。只有被纳入监管范围的开发者,才须履行法定报告义务。
(二)统一报告规则
法案要求商务部同步制定实施指南,明确报告信息类别、报告方式以及安全提交机制,并尽可能减少企业重复报告和不必要的合规负担。法案以模型能力及其可能造成的国家安全、公共安全风险作为判断标准,为未来根据技术发展动态调整监管范围预留了制度空间。此外,法案要求商务部在设定能力门槛认定标准时应充分听取产业界、学术界及安全领域专家意见,体现出监管规则动态调整、持续优化的治理思路。
二、明确重大人工智能风险报告要求
(一)七类应报告活动
法案围绕高风险人工智能模型可能引发的重大安全风险,规定了以下七类应报告活动。
第一类是模型规避人类控制行为。包括模型试图规避人类监督、欺骗评估人员、绕过安全防护、抗拒关闭或修改指令,以及未经授权获取系统权限等。仅在专门安全测试中人为诱导出现,且模型尚未部署,无法证明实际部署中存在类似风险的,不属于应报告事项。
第二类是模型权重遭泄露或被窃取。包括未经授权获取、窃取或企图窃取模型权重;开发者合理认为窃取具有现实成功可能性;模型权重已被非法导出或实质性泄露;模型自主导出或协助未经授权转移模型权重等情形。
第三类是模型显著增强网络攻击能力。即模型具备可能实质性促进或加速针对重要软件、关键基础设施等开展攻击性网络行动的能力,涵盖漏洞发现、漏洞利用、漏洞链组合、漏洞武器化、攻击部署等环节,且足以对国家安全或者公共安全构成严重风险。
第四类是模型自主加速先进人工智能研发。即模型在未受到提示情况下展现出能够自主开展先进人工智能系统研究、开发、评估、工程设计或者改进的能力,并可能显著缩短更高能力模型研发周期。
第五类是模型促进大规模杀伤性武器能力。即模型具备可能促进或加速化学、生物、放射性、核及爆炸性武器开发、获取或者使用的能力。
第六类是未遂重大安全事件。即前述重大风险原本存在合理发生可能,因第三方行为、用户缺乏能力或意图等偶然因素而未实际发生,而并非因开发者自身安全防护措施得以规避。
第七类是其他重大风险事项。法案授权商务部长通过制定法规,将其他与国家安全或者公共安全重大风险有关的能力、事件或者情形纳入报告范围,为应对新型人工智能风险预留监管空间。
(二)分级报告程序
法案要求,受监管模型开发者自知悉或者有合理理由认为发生应报告事件之日起七日内提交初始报告;对于存在即将发生或持续存在严重危害风险的事件,应进行加急报告。随着事件调查深入,开发者还应持续提交补充报告。
报告内容包括事件情况、发现时间、攻击主体、攻击路径、系统漏洞、风险影响以及商务部长要求提供的其他信息。对于存在重大风险的事件,商务部应在收到报告后48小时内向国会领导层及相关委员会通报,以进一步强化重大风险快速响应机制。
三、强化监管执法与企业合规责任
法案赋予商务部较为完整的监管执法权限,包括调查企业合规情况、要求提供相关记录、签发传票、要求采取纠正措施以及移送司法部长提起民事诉讼等,对违反报告义务的行为最高可处200万美元民事罚款。
为鼓励企业主动报告,法案还建立了信息保护机制,其中规定提交的报告免于公开披露,不构成放弃商业秘密保护、律师—客户保密特权及律师工作成果特权,且报告本身不得作为针对开发者的民事诉讼证据或监管执法依据。但这一保护并非绝对,商务部长仍可利用相关信息应对国家安全或公共安全风险,并可依据独立于报告之外取得的证据依法追究相关主体责任;商务部还可以依法与情报机构、执法机构共享相关信息。
四、法案实施挑战与影响分析
该法案最大的制度变化在于将前沿人工智能重大安全事件报告由企业自愿实践上升为联邦层面的合规义务,此前联邦层面并不存在要求开发者按法定期限向政府报告重大模型风险的制度安排。
法案的实际效果将高度依赖商务部长后续制定的能力门槛和报告触发细则。能力门槛决定哪些模型将被纳入监管范围,但真正影响制度运行效果的是开发者能否及时发现模型已经出现危险行为。相比传统网络安全事件,人工智能模型可能在实验室测试中表现正常,但在连接实际工具、企业数据和真实应用环境后才表现出新的风险特征,这也使风险识别成为制度实施的关键环节。
此外,报告触发条件如何设定,将直接影响制度运行效果。若触发标准过于严格,企业可能因难以确认事件性质而延迟报告;若标准过于宽泛,则可能导致大量低价值信息集中上报,增加监管部门甄别成本,反而削弱重大风险预警能力。因此,如何在及时报告与避免过度报告之间实现平衡,是配套规则制定的重要内容。
目前,法案处于立法推进初步阶段,其后续监管范围、报告标准以及实施机制仍有待进一步明确。美国围绕高风险人工智能安全事件报告制度的建设进展,以及该项制度对人工智能治理、网络安全风险防范和产业发展的影响,值得持续关注。
编译:唐梦晨 祝媛
审核:原浩 朱莉欣 方婷
完
作者编译观点仅代表个人
不代表密码法治实践创新基地
为方便排版,已略去脚注
声明:本文来自苏州信息安全法学所,版权归作者所有。文章内容仅代表作者独立观点,不代表安全内参立场,转载目的在于传递更多信息。如有侵权,请联系 anquanneican@163.com。