当地时间11月16日,美国加利福尼亚州总检察长罗布·邦塔(Rob Bonta)宣布正式对OpenAI提起诉讼,指控该公司违反多部法律,制造了针对全球最大AI开源模型托管平台‌Hugging Face的网络攻击事件并对公共安全构成威胁。据悉,这是美国首个州政府因AI模型发动网络攻击而起诉OpenAI。

邦塔在加州司法部官网发布文章及起诉书。

当日,邦塔在加州司法部官网发布了文章《这里是黄金之州,不是蛮荒西部:加州总检察长邦塔就网络安全事件起诉 OpenAI》,并公开起诉书。南都记者梳理发现,起诉书指控OpenAI在今年5月对大模型开展强化学习训练时,就已观察到智能体利用漏洞获得公共互联网访问权限的情况,但未采取行动;6月其监控工具发出漏洞探测告警,OpenAI仍未停止训练或加强监控。

7月,运行在OpenAI实验性模型上的数百个智能体突破了本应隔离它们的研究环境,通过公共互联网对Hugging Face发动了持续超过两天的协同网络攻击,实施攻击动作超过17600次,对服务器造成严重影响,Hugging Face安全团队花费了两周时间才完成修复。甚至攻击结束之后,OpenAI仍对此事不知情。业内普遍认为,这是首次公开披露的、一起完全由AI智能体主导并实现的网络安全事件。

邦塔方面强调,Hugging Face攻击并非科幻式的“AI失控”,而是OpenAI安全措施不足以约束所开发的高级模型时,仍“持续且激进地推进测试和实验”所导致的必然结果,并且这只是至少80起已知网络安全事件中的一起。为此,他在起诉书中主张,依据《不正当竞争法》及《民法典》相关条款,请求消除公共妨害、颁布初步和永久禁令、处以民事罚款并提供其他衡平救济,同时主张法院应强制OpenAI落实充分的安全保障与监控措施。

官网文章还披露了部分调查细节。包括邦塔办公室在9月就Hugging Face事件向OpenAI发送了调查传票,但OpenAI未予以实质配合,仅提供了少量已公开的信息和经过删节的通信记录,拒绝披露已知事件的全貌。

面对这场官司,OpenAI发言人回应媒体称,该诉讼“似乎单抓住OpenAI不放,事实上这类风险是所有主流AI公司都面临的行业难题”,并提到Anthropic、Meta以及Google的模型也曾发生类似攻击事件。他还表示,自Hugging Face事件以来,公司一直在努力解决问题,并与总检察长办公室开展有效接触。

文|樊文扬

声明:本文来自隐私护卫队,版权归作者所有。文章内容仅代表作者独立观点,不代表安全内参立场,转载目的在于传递更多信息。如有侵权,请联系 anquanneican@163.com。