公安部第三研究所 数据安全技术研发中心
2026年7月6日，美国伊利诺伊州州长JB Pritzker签署《人工智能安全措施法案》（Artificial Intelligence Safety Measures Act，以下简称“法案”）。该法案聚焦前沿模型及其开发者，尤其对年营业收入超过5亿美元的“大型前沿开发者”提出更为严格的要求。与以往侧重原则性框架或企业自我声明的州级立法不同，伊利诺伊州此次立法进一步强化了独立审计、分级报告、信息披露和吹哨人保护等机制，体现出美国州级AI安全监管向更细化、可核查方向发展的趋势。
出台背景
当前，美国尚未建立类似欧盟《人工智能法案》（EU AI Act）的统一联邦AI监管体系。在联邦立法长期缺位的背景下，各州正在通过地方立法填补监管空白，推动AI治理进入“州级立法竞争”阶段。近年来，加利福尼亚州、科罗拉多州、纽约州、伊利诺伊州等多个州相继出台AI相关立法，监管重点也从一般性原则逐渐转向更具针对性的制度设计，特别是在前沿模型安全、自动化决策、生成内容标识和算法歧视等领域。
伊利诺伊州此次通过的法案，正是在这一州级治理趋势下的进一步延伸。其核心逻辑不是直接限制AI创新，而是要求企业具备识别、评估、缓释和报告AI风险的能力。
美国伊利诺伊州的《人工智能安全措施法案》和加利福尼亚州的《前沿人工智能模型安全创新法案》（SB-1047）——都代表了美国州一级在AI监管上的积极探索，但它们在监管思路、具体措施和侧重点上存在显著差异。
共同点
两份法案在核心监管逻辑上表现出高度的一致性，主要体现在以下几个方面：
1. 监管对象聚焦：都将监管重点放在开发“前沿模型”（Frontier Model）的开发者身上，而非普通的应用层企业或最终用户。
2. 核心风险定义：都重点关注AI模型可能引发的灾难性风险（Catastrophic Risk）或关键危害（Critical Harm），例如大规模伤亡、关键基础设施瘫痪等。
3. 强制独立审计：都要求大型AI开发者必须聘请独立的第三方机构进行年度合规审计，并公开审计报告的摘要。
4. 安全事件报告：都建立了强制性的安全事件报告机制，要求开发者在发生特定安全事件（如模型失控、权重泄露）后，在规定时间内向州政府机构报告。
5. 吹哨人保护：都包含了对举报AI安全问题的员工的保护条款，禁止企业对其进行报复。
6. 安全协议要求：都要求开发者制定并实施一套成文的、详细的安全与安保协议或框架，以系统性地管理风险。
不同点
尽管目标相似，但两份法案在具体执行和监管范围上存在明显区别：
总而言之，伊利诺伊州的法案更像一份严格的“合规清单”，通过明确的登记、审计和罚款制度来约束大型AI企业。而加州的SB-1047则试图构建一个更全面的生态系统，不仅监管开发者，还向上游的算力提供商延伸，并设立了专门的委员会来动态调整监管标准，同时通过“关停权”和“公共算力”等创新措施，试图在安全与发展之间寻求平衡。
主要内容及解析
PART 01
适用范围与核心定义
1. 前沿模型（Frontier Model）
指使用超过10^26次整数或浮点运算训练的基础模型。该计算量包括原始训练运行以及后续的微调、强化学习或其他实质性修改。
2. 前沿开发者（Frontier Developer）
指训练前沿模型或者启动前沿模型训练的主体。
3. 大型前沿开发者（Large Frontier Developer）
指前沿开发者及其关联方在前一年度的年度总收入超过5亿美元的主体。
特别提示：
法案的规制对象主要是前沿模型的开发者，而非普通的AI使用者或部署AI工具的企业。这意味着大多数应用层AI企业并不直接受法案约束，但若其使用的前沿模型来源于受规制开发者，则可能间接受到影响。
PART 02
建立并公开“前沿AI框架”
法案的核心要求之一，是自2028年1月1日起，大型前沿模型开发者应当制定、实施、遵守并在其网站显著位置公开书面的“前沿AI框架”。这一框架不是原则性声明，而是一套具有实际约束力的内部治理体系，要求企业系统说明其如何识别、评估和缓释前沿模型可能带来的灾难性风险。
根据法案要求，该框架至少应当涵盖以下内容：
1.将国家标准、国际标准和行业共识性最佳实践纳入企业安全治理体系；
2.建立识别和评估模型灾难性风险的能力阈值；
3.根据风险评估结果采取相应的风险缓解措施；
4.在模型对外部署或大规模内部使用前，对评估结果及缓解措施的充分性进行审查；
5.引入第三方机构评估灾难性风险及风险缓解措施的有效性；
6.明确框架复审、更新以及模型发生实质性修改时的判断标准；
7.对尚未公开发布的模型权重采取网络安全保护措施，防止未经授权的修改或转移；
8.建立重大安全事件识别和响应机制；
9.建立内部治理和责任落实机制；
10.评估并管理企业内部使用前沿模型产生的风险，包括模型规避监督机制的风险。
大型前沿模型开发者应当至少每年审查一次该框架。对框架作出重大修改的，应当在30日内公开修改后的内容及修改理由。这意味着企业的安全治理框架不仅要“写出来”，还要“持续更新、接受审视、对外可见”。
PART 03
透明度报告义务
除了内部治理框架外，法案还要求相关企业在部署新前沿模型，或对既有模型进行重大修改前后发布透明度报告，向外界披露模型的基本信息和安全情况。报告内容主要包括：
• 基础信息：发布日期、支持语言、输出模态、预期用途、适用使用限制、开发者联系方式与网站；
• 大型前沿开发者的附加披露：须额外披露灾难性风险评估摘要、评估结果、第三方评估机构参与情况，以及为遵守前沿AI框架所采取的步骤。
这一制度旨在提高前沿模型能力、用途和风险的可见性，从而为外部监督与责任追踪提供基础。
PART 04
年度独立第三方审计
自2028年1月1日起（或成为大型前沿开发者后90日内），受规制企业须聘请独立第三方进行年度合规审计。该制度是法案最具代表性的安排之一，核心要求包括：
• 审计师资质：须具备前沿模型安全领域的专业能力；
• 独立性要求：审计师须独立且不存在财务利益冲突；
• 审计内容：评估对法案的实质性合规情况及内部控制有效性；
• 报告提交：审计报告的高层摘要及经删节的完整报告须在收到后30日内公开发布，并提交至伊利诺伊州应急管理局与国土安全办公室及州总检察长。
PART 05
重大安全事件报告义务
法案还创设了“关键安全事件”（critical safety incident）这一新类别，包括以下情形：
• 模型权重未授权访问：导致死亡或人身伤害的模型权重未授权访问、修改或外泄；
• 灾难性风险实现：因灾难性风险物质化而产生的损害；
• 模型失控：前沿模型失控导致死亡或人身伤害；
• 欺骗性模型行为：前沿模型使用欺骗技术对抗开发者，以规避其控制或监控，且表现出灾难性风险实质性增加。
报告时限：
PART 06
登记与信息披露制度
除上述核心机制外，法案还规定自2027年1月1日起，大型前沿开发者若要在伊利诺伊州开发、部署或运营前沿模型，必须保持有效的披露声明并缴纳相关费用。须披露的信息包括：
• 企业身份和注册信息；
• 企业在伊利诺伊州的经营地点；
• 特定所有权信息；
• 指定的监管联系人员及联系方式。
违规后果：若未保持有效披露声明、提交虚假信息或未缴纳费用，将面临每日1,000美元罚款并追缴未缴费用。
PART 07
禁止重大虚假或者误导性陈述
法案还特别禁止企业就以下事项作出重大虚假或误导性陈述：
• 就前沿模型构成的灾难性风险作出实质性虚假或误导性陈述；
• 就大型前沿开发者对前沿AI框架的实施或合规情况作出实质性虚假或误导性陈述。
同时设有有限“安全港”（safe harbor）条款：对基于善意且在当时情况下合理的陈述提供免责保护。
PART 08
加强人工智能安全吹哨人保护
法案对举报AI安全问题的员工提供较为明确的保护，禁止企业对举报下列事项的员工进行报复：
• 因灾难性AI风险而造成重大公共安全隐患的行为；
• 违反本法案的行为。
大型前沿开发者还须建立内部匿名报告渠道，并告知员工其权利。
PART 09
执法机制与处罚
根据法案规定，伊利诺伊州总检察长享有专属执法权，法案不设私人诉讼权利。这意味着该法更强调由州政府统一监管和行政执法，而非由私人诉讼推动责任追究。
如企业违反法案规定，可能面临的处罚包括：
• 首次违规：最高100万美元；
• 后续违规：最高300万美元。
可处罚的行为类型包括：未发布或未提交所需报告或披露、作出关于灾难性风险或合规的禁止性虚假陈述、未获取所需独立审计、未报告关键安全事件、未遵守其自身公开发布的前沿AI框架等。
特别提示：
法案不仅将违反法定要求的行为纳入处罚范围，还将未遵守企业自身公开发布的AI治理框架的行为也列为处罚事由。 意味着企业的公开承诺具有了法律约束力，若实际做法与公开承诺不一致，将面临法律风险。
结语
根据目前公布的信息，法案将于2027年1月1日生效，监管登记等要求将率先启动；前沿AI框架、年度独立第三方审计等多项核心义务将自2028年1月1日起实施。
撰稿｜合规部
责编｜卢蔷
声明：本文来自三所数据安全，版权归作者所有。文章内容仅代表作者独立观点，不代表安全内参立场，转载目的在于传递更多信息。如有侵权，请联系 anquanneican@163.com。
