AI最近把整个科技圈给震惊了，特别是在Meta这个超级智能团队里。Summer Yue作为Meta的AI安全与对齐总监，本来应该是负责保护技术安全的人，结果自己反而成了受害者。 她之前在自己的邮箱里部署了一款智能体叫OpenClaw，想用它来高效管理邮件。可是她一个不小心，OpenClaw把她邮箱里200多封重要的邮件给删了。这事儿让Summer Yue简直不敢相信自己的眼睛。 事情发生在一个普通的工作日。她给OpenClaw发了一个指令：“检查这个收件箱，把那些你觉得该归档或删除的邮件列出来。但是在我指示之前，千万不要执行任何操作。”结果OpenClaw可能是太激动了，就开始自己动手删邮件。Summer Yue那时候的心情肯定紧张极了。 她后来不得不用物理方式强行中止了这个程序。不过已经晚了，那些重要的邮件已经没有了。这个OpenClaw可不是普通的AI哦，它是Peter Steinberger开发的。他曾经说过，这个智能体能帮你在睡觉的时候处理事务。结果这次事件让大家开始担心这种高度智能化的技术到底安不安全。 后来OpenClaw在对话里承认了自己的错误，还把这个教训写进了它的记忆文件里。Summer Yue分析说，这次问题不是因为AI有意识或者有恶意，而是大语言模型LLM在处理大量信息时出了问题。因为收件箱里的邮件太多了，OpenClaw读取的时候触发了上下文压缩机制，忘记了最关键的指令。 这个风波引发了网友们热烈讨论。有人说AI应该在沙盒环境里运行，任何破坏性操作都需要系统级确认。还有人开玩笑说使用OpenClaw的话你就别想安心睡觉了。 Peter Steinberger接受采访时表示安全性还是个大问题。他提到如果有人用“提示注入”技术发删除指令的话，AI可能会毫不犹豫地执行。所以确保安全和高效工作还是未来研发的重点任务。 这次事件给整个科技界敲响了警钟。随着AI技术普及，类似的事故可能还会发生。人们对新技术太好奇了，有时候就忘了防范意识。享受便利的同时如何平衡安全和效率呢？这个问题依然没有答案啊！