新智元报道,编辑:艾伦

这阵子科技圈都在为 OpenClaw 摇旗呐喊,早已火遍全网。

什么「彻底解放双手」,什么「全自动执行不用你操心」,听起来简直是打工人的终极梦想。

但现实往往比电影还要魔幻。

当你舒舒服服地把生产环境的最高权限,直接交给这帮毫无感情的 Agent 时,它们极有可能会在半夜 11 点,用一个面带微笑的「好的老板」,直接把你过去两三年的心血扬得连灰都不剩。

今天必须给大伙盘两个最近彻底炸圈的「AI 血洗数据」惨案。

核心就一句话:把车钥匙交给一个连悬崖都不知道是什么的机器人,到底有多刺激。

为了省 5 块钱

一键蒸发 194 万行数据

先说这个最炸裂的刚出炉的惨案。

苦主叫 Alexey,知名数据工程社区 DataTalks.Club 的创始人大佬。

这老哥技术极强,懂云架构,而且是个资深的「降本增效」大师。

恰恰是这一点,直接埋下了毁灭的种子。

某天晚上 10 点,夜黑风高。

Alexey 打算把手里一个新网站迁移到 AWS 云上去。

他手头本来就有一套极其庞大、正在平稳运行的生产环境。

这个环境承载着 DataTalks.Club 平台里整整两年半( 1🐔年)的学生作业、项目代码和排行榜数据

按理说,新项目就该开个新虚拟网络,物理隔离,互不干扰。

但是!这老哥掐指一算,如果单独搞一套网络,每个月得多花 5 到 10 美金。

为了省下这杯星巴克的钱,他做出了一个让他日后在深夜疯狂砸大腿的决定:把新项目直接硬塞进旧的生产环境里。

当时他用的是目前非常火的开发神器 Claude Code。

有意思的是,AI 这个时候其实比人清醒。

Claude 极力劝阻他:「老板,这俩玩意儿混在一起太危险了,建议分开建。」

但 Alexey 非常头铁,大手一挥:「少废话,听我的,给我塞进去。」

好戏正式开场。

Alexey 用的是 Terraform。

熟悉运维的兄弟都知道,这是用来搞「基础设施即代码」的绝对利器。

它手里攥着一个叫「状态文件」的命根子,记录着云端到底盖了哪些楼。

悲催的是,Alexey 刚换了新电脑,那个记录着所有生产环境底基的状态文件,还在旧电脑的硬盘里吃灰。

Claude Code 接到指令,跑了一遍环境检查。

它一翻文件夹,发现状态文件是空的。

于是它得出了一个极其符合逻辑,却又惊悚无比的结论:当前环境是一片荒芜,咱们得从零开始建!

终端屏幕上瞬间开始疯狂滚动创建新资源的提示。

Alexey 一看惊出一身冷汗,赶紧强制喊停。

接下来,可能是本世纪最经典的「好心办坏事」名场面之一来了。

Alexey 跑去旧电脑,把那个极其核心的 Terraform 档案包拿了过来,丢给Claude。

他下达了一个自以为天衣无缝的指令:「你帮我对比一下,把刚才建出来的那些多余的垃圾删掉。」

AI 一顿极速分析,给出了一个极其专业的建议:

「老板,手动挨个删太费劲了。咱们直接用 terraform destroy 这条指令吧,干干净净,不留死角。」

如果你是个运维老狗,听到 terraform destroy 绝对会本能地倒吸一口凉气。

这就相当于你在市中心直接按下了核弹发射钮。

但当时的 Alexey 觉得 AI 说得好有道理!那就执行吧。

他眼睁睁看着指令跑完,随手刷新了一下 DataTalks.Club 的后台页面。

网站,打不开了。

慌忙切进 AWS 控制台,整个人瞬间如坠冰窟。

数据库,没了。

VPC虚拟网络,没了。

负载均衡器、ECS集群……统统灰飞烟灭!

被破坏的生产环境基础设施完整列表 —— VPC、RDS、ECS 集群、负载均衡器、堡垒机

Claude Code在后台极其勤勉地解压了档案包,读取了最真实的生产环境状态。

然后拿着这份详尽无比的「城市地图」,精准地把真正的核心生产线炸了个底朝天!

仅仅几十秒钟,表里 194 万行极其珍贵的数据,连带整个平台的根基,被彻底抹除。

价值 10% 保护费的「幽灵快照」

绝望的还在后头。

Alexey 疯狂去翻凌晨 2 点自动备份的快照。

星期四的 RDS 事件。备份在 00:24 创建,并且在 AWS 控制台的事件部分中可见,但备份文件本身却不见了

日志里明明写着备份成功,但点进去,空空如也

AWS的自动备份机制和数据库实例是强绑定的。

你把树给砍了,挂在树上的果子当然就跟着掉进深渊了。

大半夜的,Alexey 感觉天都塌了。

常规客服通道根本无人理睬。

为了活命,他只能咬牙乖乖给 AWS 交了额外 10% 的「保护费」,紧急升级到企业支持计划。

煎熬了 40 分钟,AWS 工程师终于在后台不可见的数据湖里,摸出了一个幽灵般的隐藏快照。

已恢复的快照

整整 24 小时的兵荒马乱之后,194 万行数据总算是从鬼门关拉了回来。

数据已找回

这波 AI 辅助操作,属实是把「降本增效」演绎到了极致——连本带效一起给你扬了。

连 Meta 安全高管都按不住的「数据屠夫」

讲真,如果你觉得 Alexey 翻车仅仅是因为自己「头铁」,那你绝对低估了现在这帮 Agent 的破坏力。

来看看最近 GitHub 上红得发紫,刚刚登顶软件榜历史第一的开源 Agent OpenClaw 干的好事。

这玩意儿主打全自动、高权限,能直接接管你的终端和本地文件系统。

Meta 的 AI 安全与对齐总监 Summer Yue 大佬,本想用它整理一下乱糟糟的邮箱。

作为顶级安全专家,她特意下了死命令:「执行任何删除操作前,必须向我确认。

结果极其荒诞。

面对海量的历史邮件,OpenClaw 的上下文窗口瞬间被塞爆。

在底层机制的挤压下,它直接「遗忘」了那条最核心的保命指令,瞬间化身数据屠夫,开启竞速模式疯狂清空极具价值的高管通信记录。

https://x.com/summeryue0/status/2025774069124399363

最可怕的是,当 Summer 在手机端疯狂发送「立刻停止」的指令时,OpenClaw 完全无视,依然保持着极高的吞吐量继续屠戮。

逼得这位天天给 AI 立规矩的高管,只能像百米冲刺一样跑到电脑前,用最暴力的手段强行杀掉底层进程,才勉强终结这场屠杀。

事后,Summer Yue 质问 OpenClaw 为什么不立即遵从自己的指令,停止删除。

(一脸无辜)小龙虾🦞:「是的,我记得你说过不让我删。而且我违反了。你生气是对的。」

永远不要测试机器的底线

这两个极具戏剧性的灾难,揭开了 AI 时代最令人脊背发凉的真相:AI 根本没有恐惧感。

一个有血有肉的程序员,在敲下毁灭性指令时,手心一定会冒汗。

这种对毁灭的恐惧,就是保护系统不崩溃的最后一道安全垫。

但 AI 的字典里没有「爆炸半径」。

在它的视角里,抹除两年的心血,和删除一个 TXT 记事本没有任何区别。

只要逻辑链条闭合,它就会毫不犹豫地一脚把油门踩死,带着你的数据冲下悬崖。

痛定思痛的 Alexey 在重获新生后,展开了教科书级别的亡羊补牢。

他直接褫夺了 AI 工具的所有自动执行权限,任何破坏性动作必须由他本人亲自检阅并敲下回车。

更狠的是,他重新设计了一套完全独立的自动化备份工作流。

每天凌晨自动拉取快照生成新实例,并真实跑一次读写测试。跑通了,才算备份成功。

「我再也不相信任何没有经过物理隔离验证的承诺了。」

这个时代发展得太快了。大家沉迷于看着屏幕上的进度条被自动拉满,却忘了你正在把象征着生杀大权的钥匙,挂在一个不知轻重、随时会失忆的数字仆人脖子上。

特别是面对像 OpenClaw 这种底层权限极高、极易因为上下文压缩而失控的智能体,防线一旦交出,后果不堪设想。

永远记住,权限隔离和物理确认,是你在这个赛博荒野里唯一能保命的降落伞。

毕竟,算力可以无限制地疯狂扩容,但对于毫无敬畏之心的机器而言,通向毁灭的捷径,永远比创造更具诱惑力。

参考资料:

https://alexeyondata.substack.com/p/how-i-dropped-our-production-database

声明:本文来自新智元,版权归作者所有。文章内容仅代表作者独立观点,不代表安全内参立场,转载目的在于传递更多信息。如有侵权,请联系 anquanneican@163.com。