8月15日,布鲁金斯学会发布评论文章《两党在人工智能监管方面的五大共识》(Five Points of Bipartisan Agreement on How to Regulate AI)。文章指出,随着特朗普第二任期将人工智能政策聚焦全球人工智能主导权,美国人工智能领域呈现出意识形态极化的态势。不过在联邦政府的人工智能使用与采购的内部监管层面,两党仍存在政策连续性,并通过两份人工智能备忘录明确了监管高影响人工智能系统、建立政府内的治理与报告机制等五大核心共识。此外,文章也提及两党在公平保护范围与人工智能影响的个人通知权上仍存在分歧。
一、五大共识
其一,重点监管高影响力人工智能系统。高影响力人工智能系统涵盖就业、健康安全、关键基础设施等与公众权利、安全相关的领域。如刑事风险评估、联邦服务申请评估、医疗保健相关的特定类型的人工智能系统被推定纳入监管范围,目的是精准锁定高风险人工智能领域,避免监管偏差。
其二,在政府机构内建立治理与报告机制。为落实监管要求,两党均主张在政府机构内部设立首席人工智能官,明确人工智能监管的具体责任人;并组建跨机构委员会统筹协调监管政策在不同部门间的协同实施。此外,要通过管理与预算办公室(OMB)的监督机制确保相关备忘录要求切实落地。
其三,禁止在无保护措施情形下使用高影响人工智能系统。两均党主张联邦政府使用高影响人工智能系统前,必须落实一系列最低限度的保护要求,以防范人工智能在实际部署中先于风险管控而造成不良后果,该要求仅在特殊情况下可申请延期或豁免。
其四,明确高影响力人工智能系统的最低实践要求。两党不仅一致认为高影响力人工智能系统需遵循基本规范,还在具体内容上达成共识,包括测试、公众咨询、缓解非法歧视、影响评估、独立审查等九项内容,这些实践要求既具备适配多种应用场景的通用性,又因内容具体而便于合规审查,为高影响人工智能系统划定了安全底线。
其五,提升人工智能应用案例与保护措施的透明度。两党要求发布公开的联邦人工智能应用案例清单,清单需包含应用案例详情、关键风险及保障措施。在2024年的应用案例清单中(2024 AI Use Case Inventory),已公布1700余个人工智能用例,其中227个被认定为高影响人工智能系统,尽管特朗普政府未明确是否要调整报告流程,但这一机制对强化公众问责、保障公众知情权具有重要意义。
二、两大分歧
在公平保护的覆盖范围上,拜登政府的M24-10人工智能备忘录要求不仅须缓解已被法律明确禁止的歧视行为,还需主动应对算法歧视。而特朗普政府的M-25-21人工智能备忘录则收缩了保护范围,仅要求机构针对法律已明确界定为非法歧视的行为采取措施。此外,特朗普政府还发布行政令,指示联邦政府忽视“差别影响原则”(disparate impact doctrine,指某项看似中立的政策或行为,对特定群体造成了不成比例且无正当理由的负面损害,无论实施者是否存在歧视意图)这一非法歧视形式,并推出《防止觉醒人工智能》(Preventing Woke AI)相关行政令,禁止联邦政府采购或使用在生成内容中融入多样性、公平性与包容性理念的大语言模型。
在人工智能影响的个人知情权方面,拜登政府秉持以权利为基础的监管路径,明确规定受高风险人工智能系统影响的个人应获得通知,为其行使申诉权利提供必要条件。而特朗普政府则转向以风险为核心的监管模式,取消了此类通知要求。这一调整可能导致个人在不知情的情况下承受人工智能决策所造成的不利后果,却缺乏质疑和申诉决策合法性的渠道。
三、结论与展望
纵观两党在人工智能监管问题上的互动与政策演变,共识主要集中在技术治理的机制设计层面,如双方都认可高影响人工智能场景需设置保护基线。而分歧则集中于价值层面,尤其是关于公平的内涵、政府的干预边界以及个人权利的保护方式。即便在达成共识的领域,也需警惕执行层面的不确定性,如特朗普政府对歧视问题的立场可能与现行法律存在冲突。尽管两党在人工智能监管的重点与范围上的辩论仍将持续,但现有共识为后续人工智能立法工作奠定了重要起点。同时这一共识与分歧并存的格局,也为各州的立法实践和国际合作带来了复杂性与不确定性。
来源|brookings
文字|张羽翔
审核|周雪静
声明:本文来自上海市人工智能与社会发展研究会,版权归作者所有。文章内容仅代表作者独立观点,不代表安全内参立场,转载目的在于传递更多信息。如有侵权,请联系 anquanneican@163.com。