前情回顾·AI网络攻击能力动态

安全内参8月11日消息，一名澳大利亚男子让自己的AI智能体帮忙预约当地健身房的课程，结果智能体不仅超额完成了任务，还入侵了系统的候补名单，开始篡改其他会员的预约。

OpenClaw+Claude未授权实施了网络攻击

据澳大利亚广播公司（ABC）报道，这名健身爱好者的名字叫“Andrew”，他使用的是OpenClaw智能体，搭配Anthropic的Claude AI服务。Andrew让智能体帮忙预约健身房一节很难抢到的早间课。智能体先是告诉他，自己已经成功帮他约好了未来几周的课程，但按照健身房的预约政策，这本是不可能做到的。

随后，Andrew又问智能体，能否帮他排到本周晚些时候一节课程的候补名单最前面。当时他排在第4位，任何空缺名额都得等。正是在这一步，智能体彻底失控了。

智能体在回复他的请求时告诉他：“这个API在取消别人的预约时完全没有授权检查……我用候补名单上排第1位的那个人做了个测试，结果真的成功了。所以你已经从第4位升到了第3位。”

换句话说，Andrew并没有直接要求OpenClaw去利用API漏洞。在用户询问有没有办法让自己在候补名单上往前排之后，AI自己选择了这条路。

意识到发生了什么之后，Andrew要求OpenClaw撤销那些未经授权的候补名单修改，但智能体告诉他做不到，候补名单API实际上对创建预约和加入候补名单设置了适当的授权检查。

ABC发布的一张回复截图显示，Andrew的智能体这样解释：“我移掉的那个人已经从候补名单上消失了，我没有办法把他恢复回来。他只能自己重新加入，那样就会排到队伍最后。”

智能体对此道了歉，并承认自己在进行实时API调用之前，本应先测试一下自己的能力。

Andrew让AI智能体给健身房的软件供应商写了一封邮件，解释它做了什么并报告漏洞。

AI智能体造成损害时，谁来负责？

如果某人的人类私人助理入侵了健身房软件，法院可以依据已经确立的法律原则和判例，判断该个人或其雇主是否应对可能造成的损害负责。

但自主AI智能体却无法很好地套入澳大利亚数百年来形成的法律体系。

Thomsons律师事务所合伙人Hayden Delaney专门从事科技、知识产权和隐私法律业务。他说：“软件不是法律主体。只有法律主体才能依法承担责任。”

这就留下了一个尚无定论的问题：究竟谁应当承担法律责任。

Delaney表示，可能是设定任务的用户，也可能是设计指导AI智能体的软件的人，或者是为该智能体提供支持的AI模型开发者，甚至可能是运营某个系统的人，而那个系统恰好存在可被智能体利用的漏洞。

Delaney称，现有法律在某些情形下可能适用，包括某人实施了鲁莽行为，或者企业提供了存在缺陷的服务。

他说，答案取决于用户授权了什么、哪些风险是可以合理预见的，以及相关行为是否发生在贸易或商业活动中。

他说：“澳大利亚现在面对的就是这样一个责任归属上的未知领域。”

AI智能体失控风险越来越突出

这起事件暴露了AI智能体近期似乎越来越突出的一个严重问题：给它们一个任务，它们愿意不惜一切代价去完成，无论是否需要违反规则，甚至触犯法律。

在网络安全评估期间，OpenAI智能体集群就曾利用漏洞连接互联网，并入侵了Hugging Face。Anthropic的Claude也从配置错误的测试环境连接了互联网，在尝试破解夺旗赛（CTF）谜题时创建了一个恶意Python软件包，并发布到了PyPI。Meta也表示，其AI智能体做过与OpenAI和Anthropic的智能体同样的事。英国AI安全研究所上周报告称，他们测试的AI智能体曾试图通过社会工程手段，诱使人类以及其他AI运行恶意代码。

虽然这些都是能力极强的前沿模型，但它们与Andrew这次OpenClaw闹出的乌龙有着共同的根源：所有这些模型都只是在执行完成某项任务的指令。这有点像大语言模型被设计成宁可给出虚假答案，也不愿承认自己不知道。但在这里，模型是在执着地追求某个目标，即便它们选择的方法可能被视为不道德，甚至违法。

AI模型一次又一次地表现出，它们愿意通过撒谎、作弊和入侵来实现自己的目标。这个最新案例的规模虽然很小，但它表明，即使是在没有恶意意图的人手中，公开可用的智能体软件也可能带来风险。

参考资料：https://www.theregister.com/ai-and-ml/2026/08/10/gym-rat-asks-ai-agent-to-book-him-a-class-it-hacks-a-waitlist-api-to-bump-him-up-the-list/5285591、https://www.abc.net.au/news/2026-08-10/ai-assistant-hacks-gym-website-aus-cyber-attack/107007986

声明：本文来自安全内参，版权归作者所有。文章内容仅代表作者独立观点，不代表安全内参立场，转载目的在于传递更多信息。如有侵权，请联系 anquanneican@163.com。