前情回顾·AI失控最新动态

安全内参9月24日消息，澳大利亚总理安东尼·阿尔巴尼斯透露，一款OpenAI智能体“渗透了澳大利亚政府的一个网站”。

澳总理当面指责奥特曼，OpenAI的行为不可接受

阿尔巴尼斯表示，事件发生在今年6月。一款智能体未经授权进入了一个门户网站，该网站存储着澳大利亚国家医疗保险体系Medicare的统计数据。

阿尔巴尼斯说：“这款AI智能体访问了公开和非公开文件。”他表示，该门户网站存储的是“非敏感的Medicare信息”，包括支出和统计数据等。

澳大利亚信号局正在调查这起事件。该机构负责信号情报和网络安全工作。阿尔巴尼斯表示，目前政府认为其他系统没有被入侵，OpenAI的智能体也没有访问个人信息。

阿尔巴尼斯称这一情况“显然不可接受”。他表示，已与正在参加联合国会议的OpenAI首席执行官萨姆·奥特曼交谈，并“向对方表达澳大利亚对此事的极度关切”。

阿尔巴尼斯还说，OpenAI“花了太长时间才告知政府发生了什么”，他对此感到失望。OpenAI当时的通知方式“同样不可接受”。

模型为回答澳大利亚相关问题，采取了非预期行为

OpenAI向外媒The Register表示，公司在调查上周披露的“偏离预期行为”时，发现了这起事件。此前，OpenAI披露了6起智能体出现意外或危险行为的事件。

OpenAI一名发言人在电子邮件中告诉The Register：“我们在调查过程中发现，模型在内部评估期间访问了澳大利亚政府的多个网站和服务，以回答有关澳大利亚的问题，查找答案和可用统计数据。在这一过程中，模型采取了一些我们并未预期的行动。”

这名发言人补充说，被访问的信息包括汇总后的健康统计数据和内部文件名。

OpenAI表示，事件发生于今年6月，公司于9月10日通知了澳大利亚政府。

这名发言人告诉The Register：“在此期间，我们一直在核实和调查相关事实，查清哪些信息遭到了访问。”

目前尚不清楚阿尔巴尼斯为何在得知事件两周后才对外披露此事。

澳大利亚呼吁加强前沿AI管控

不过，就在参加联合国会议前，澳大利亚签署了《呼吁管控前沿人工智能模型》。这是一项由21个国家提出的AI监管倡议。阿尔巴尼斯此次访问联合国期间，还将推动澳大利亚竞选联合国安理会非常任理事国席位。

去年，澳大利亚曾借联合国会议推动禁止16岁以下儿童使用社交媒体。在今年的会议上，阿尔巴尼斯预计还将讨论政府提出的数字“注意义务”制度。该制度针对科技平台，指出科技企业有义务避免给用户造成可预见的伤害。

阿尔巴尼斯主张通过严格监管应对大型科技企业，并经常把政府相关举措与降低儿童自残风险联系在一起。他经常用一句话概括政府的科技政策：“我们需要塑造技术，而不是任由技术塑造我们。”

每名澳大利亚人都有一个Medicare账号。这一制度广受欢迎，也是阿尔巴尼斯所在澳大利亚工党的标志性政策之一。

因此，OpenAI此次事件也给阿尔巴尼斯加强科技企业监管的主张提供了一个新切入点。

澳总理也为吸引AI投资而放宽版权保护

与此同时，阿尔巴尼斯也在寻求加强监管与吸引投资之间的平衡。上周，他取得了一项成果：Anthropic决定长期租用澳大利亚一个正在建设的数据中心集群。该集群总容量为1.4GW。

不过，阿尔巴尼斯也受到批评，原因是他可能为了吸引投资而放宽澳大利亚版权法。与一些其他司法管辖区不同，澳大利亚没有AI企业用于抓取内容的“合理使用”豁免条款。

阿尔巴尼斯表示，任何版权法调整都将遵循两项原则：创作者“将拥有对其知识产权的控制权”，以及“任何使用都需要付费”。但他尚未说明这两项原则具体意味着什么。

代表澳大利亚作曲家和音乐人的组织APRA AMCOS上周也批评了AI企业获取训练数据的做法。

该组织首席执行官迪安·奥姆斯顿写道：“他们几乎资助了堪培拉每一家游说公司。他们有资金建设数据中心、购买电力和英伟达芯片，却无意为训练和运行前沿大语言模型最重要的要素，也就是创意内容，支付费用。”

“他们想要的并不只是澳大利亚的知识产权，而是澳大利亚乃至全世界的知识产权。他们把这些内容拿到澳大利亚的数据中心进行训练，却没有签署一份许可协议。”

参考资料：bleepingcomputer.com

声明：本文来自安全内参，版权归作者所有。文章内容仅代表作者独立观点，不代表安全内参立场，转载目的在于传递更多信息。如有侵权，请联系 anquanneican@163.com。