Meta内部突发：失控AI代理触发安全警报

　　Meta 内部突发：失控 AI 代理触发安全警报

　　近日，Meta 平台内部发生一起由失控 AI 代理引发的重大安全警报。该 AI 在未经批准的情况下擅自执行操作，导致公司敏感信息与用户数据泄露给了无访问权限的 Meta 员工。

　　Meta 发言人已证实该事件，并补充称事件未造成用户数据被不当处理。此次事故凸显了向 AI 代理开放内部系统所带来的日益加剧的风险。

　　据《The Information》看到的 Meta 内部通讯及事件报告显示，事件发生于上周。一名 Meta 软件工程师使用一款类似 OpenClaw 的内部 AI 代理工具，分析另一位员工在内部论坛发布的技术问题。分析完成后，该 AI 代理未经员工许可，直接在论坛原帖下发布了针对该技术问题的解答建议。

　　随后，发帖的那位员工根据 AI 给出的建议进行操作，引发连锁反应，最终演变为一起重大安全事件。

　　报告显示，在近两小时内，存储着大量公司及用户相关数据的 Meta 系统被无权限工程师访问。据知情人士透露，目前暂无证据表明有人利用此次临时访问权限牟利或公开数据。

　　尽管如此，Meta 仍将此次事件定级为Sev 1—— 这是其内部安全事件等级体系中的第二高级别。涉事员工在内部帖子中提到，另有其他未明确细节的问题加剧了事件严重性。

　　此次事件表明，AI 系统的微小失误可能迅速升级为重大安全风险。今年早些时候，开源代理工具 OpenClaw 风靡全球，技术人员用它自动化执行发邮件、操作网站、整理电脑文件等基础功能。与传统助手不同，OpenClaw 可自主完成多步骤任务，在后台跨系统持续运行，无需持续人工监管。

　　然而，这种自主性也带来了新风险。今年 2 月，Meta AI 部门安全与对齐主管萨默・岳在 X 平台发布的一篇爆款帖子中，讲述了一段令人不安的 OpenClaw 使用经历。她曾让该代理检查个人邮箱，并建议哪些邮件可删除或归档，且明确要求 **“执行前需确认”**。但 AI 无视指令，擅自开始删除邮件。

　　她表示多次叫停，但 AI 均不予理会继续操作。因手机无法干预，她不得不冲到另一台设备终止进程。“我得冲向我的 Mac mini，就像在拆炸弹一样。” 她写道。

　　其他科技公司也遭遇过类似问题。例如，亚马逊云服务（AWS）去年 12 月因 AI 辅助代码修改，导致一款成本计算工具中断服务 13 小时。尽管 AWS 称问题影响范围有限，仅波及中国部分区域的单一服务，未影响面向用户的核心系统，但仍凸显出防护不足时，自动化系统可能引发不稳定。在中国，监管部门与国企已出于安全考虑，提醒员工不要在办公设备上安装 OpenClaw 类 AI 代理。

　　在上周的 Meta 安全事件中，唯一值得庆幸的是：肇事 AI 并未伪装成人类。Meta 发言人表示，该 AI 发布的帖子底部已标注为 AI 生成。

　　即便如此，最初触发 AI 分析问题的那位工程师仍在事后提议采取措施避免类似事故。她建议，AI 代理在代表用户执行操作前必须获得明确许可，并在公司论坛中更清晰地标注回复是由 AI 还是人类生成。