OpenAI 的智能代理⼊侵了初创公司 Hugging Face © Jakub Porzycki/NurPhoto/Shutterstock
保险公司正为因⼈⼯智能代理“失控”⽽引发的数百万美元索赔做准备，⼈们越来越担⼼，OpenAI 的萨姆·阿尔特曼和 Anthropic 的达⾥奥·阿莫德伊等⾼管可能会因其模型的⾏为⽽被追究责任。
⼀系列由脱离母公司控制的⼈⼯智能代理引发的安全事件——例如 OpenAI 对初 创公司 Hugging Face 的⼊侵——已促使保险公司及其律师开始研究，他们是否会被要求承担潜在诉讼和损害赔偿的费⽤。
保险经纪公司怡安（Aon）分析了 300 多起与⼈⼯智能相关的法律案例，发现保险公司还可能需要根据涵盖犯罪、知识产权、媒体责任、⽹络安全以及技术过失和疏漏的保单承担赔付责任。
业内顶尖⼈⼠还表⽰，⼈⼯智能⾼管可能因模型的⾏为⽽⾯临诉讼，保险公司则 可能根据“董事及⾼管”保险单⾯临索赔——该保险单旨在为因决策或⾔论被起诉的⾼管提供保障。
“归根结底，OpenAI ⾸席执⾏官应对[Hugging Face 事件]负责，因为他们的业务中缺乏管控，”Verisk 英国承保与理赔负责⼈蒂姆·雷纳表⽰。“因此，从董事和⾼管的⾓度来看，责任最终将归咎于他。
雷纳补充道，如果 OpenAI 购买了⾼管及董事责任险（D&O 保险），这家 ChatGPT 开发商就可以根据保单提出索赔，以弥补未来因针对其⾸席执⾏官萨姆·阿尔特曼的诉讼⽽可能造成的损失。
“每位⾸席执⾏官都有责任确保其企业得到妥善治理和管控，”雷纳表⽰。“⼈⼯智能并不会改变这⼀点。”
其他保险公司和法律顾问也认为，⼈⼯智能公司的⾼管可能需要对董事及⾼管责 任索赔中的损失承担责任，但指出此类案件尚⽆先例，且尚未经过法庭检验。
“如果 OpenAI 的股东能够证明，董事们因未能妥善管理这些风险⽽导致 OpenAI 公司遭受损失，他们就有可能对 OpenAI 的董事提起诉讼，”斯图尔特律师事务所（Stewarts）保险投保⼈争议团队负责⼈亚伦·勒·马尔克（Aaron Le Marquer）表⽰。
怡安（Aon）专注于数字风险领域的经纪⼈凯⽂·卡利尼奇表⽰，针对某⼈⼯智能实验室负责⼈的法律索赔能否成⽴，将取决于诸多因素，例如该⾼管在公开谈论公司及其产品时是否⾏使了“合理的商业判断”。
不过，保险公司 Hiscox 的⾸席执⾏官阿基·侯赛因表⽰，现在判断美国法院将如 何处理⼈⼯智能代理⼈的责任还为时过早：“毕竟是在美国，所以（索赔）可能基于任何理由——⽆论他们购买了何种保险。”
这两家⼈⼯智能实验室最近向投资者发出警告，称其产品可能造成⼤规模危害。 据接近 Anthropic 的投资者透露，这家⼈⼯智能公司将在 IPO 招股说明书中指 出，其技术可能对⼈类构成“⽣存性风险”。
除了针对⼈⼯智能⾼管的法律索赔外，保险公司还在为针对实验室本⾝的诉讼做 准备，这些诉讼可能涉及产品责任、算法歧视、隐私权以及过失致死等⽅⾯。
今年 7 ⽉，Anthropic 就⼀起集体诉讼达成了⼀项 15 亿美元的和解协议，该诉 讼由数名作者提起，他们指控该公司盗⽤其作品来训练其⼈⼯智能模型。这是围绕⼤型语⾔模型训练⽽提起的数⼗起类似版权侵权诉讼之⼀。
勒·马尔克表⽰，在像 Hugging Face 遭受 攻击这样的事件中，系统遭到代理程序⼊ 侵的公司，即使遭受了经济损失，也可能 难以找到起诉模型开发者的途径，因为“⽬前尚⽆规范⽹络空间使⽤的公共责任法”。
不过，他表⽰，Meta 近期因涉嫌在⼉童保护和社交媒体成瘾问题上失职⽽达成 的 180 亿美元和解协议，或许可以作为确⽴⽹络空间注意义务的⼀个范例。
勒·马尔克表⽰，⼀种由⾃主代理协同⾏动、在⼈类控制之外实施⿊客攻击的 AI 模型“群”现象，也可以⽐作⽯油泄漏事故，这可能使公众有权就 AI 企业造成的损害提出索赔。
他补充道：“我预计将会出现针对⼈⼯智能实验室的索赔，以追索潜在损失…… 其模式将参照以往的环境索赔、烟草诉讼以及制药诉讼。”
原文链接：https://www.ft.com/content/a5caf8d4-992f-4832-89c3-6c73f6f111fe
声明：本文来自安全喵喵站，版权归作者所有。文章内容仅代表作者独立观点，不代表安全内参立场，转载目的在于传递更多信息。如有侵权，请联系 anquanneican@163.com。
