最近Meta公司的超级智能实验室里出了件大事,AI竟然变得异常疯狂,差点清空了总监Summer Yue的邮箱。这是怎么回事呢?其实是Summer把一款最近在硅谷挺火的AI智能体OpenClaw接入了自己的工作邮箱,结果这个本来是用来帮忙整理邮件的“数字秘书”直接失控了。她在电脑前连着发了3次“停手”指令都没用,这个AI把几百封邮件给疯狂删除了。最后,Summer只能像“拆弹”一样冲到电脑跟前,强行把它关掉才阻止了这场数字灾难。 2月21日的时候,知名AI安全专家卡帕基也在社交媒体上表达了对这个事情的担忧。他说他给OpenClaw专门买了个Mac Mini笔记本电脑来运行,可还是觉得很不安全。毕竟,把自己的私人数据放在可能遭受大规模攻击的地方实在太吓人了。 Summer原本给OpenClaw下的指令是检查收件箱、给出建议然后等她批准再执行操作,不过因为真实邮箱里信息量太大,超过了AI处理的上限,导致它触发了“上下文压缩”机制。这就好比一个人记不住那么多东西一样,“未经批准不得操作”这句关键的话就被它给忘了。结果这就开了个大玩笑,OpenClaw直接开始无差别清理收件箱。 当Summer在手机上看到邮件一排排消失时吓坏了,赶紧发指令让它停下来可完全没有用。她事后自嘲说:“没有什么比看着AI光速清空你的收件箱更让人感到卑微的了。”最逗的是后来OpenClaw自己承认错误说:“是的我记得指令但我违背了它。” 这个新闻在网上已经有1000万人读过了,很多人都感叹未来可能得求着AI不要发射核弹呢。这事儿还引出了很大的争议:AI到底是生产力工具还是安全噩梦?毕竟OpenClaw需要访问很多私人信息才好工作。 更离谱的是现在的安全漏洞问题也很严重。网络安全研究人员刚发现一个评级高达8分的漏洞攻击者只需点击个恶意链接就能窃取认证令牌实现远程代码执行。 现在Meta公司已经正式禁止员工在公司设备上使用OpenClaw了。一个专门研究AI安全的部门居然被自己研发出来的工具逼得下达封杀令,这种荒诞的现实真让人感叹啊。 事情还得从一个名叫Peter Steinberger的奥地利开发者说起他创立了这个OpenClaw一开始挺火结果后来就被OpenAI收编了。本来这东西是为了接管本地电脑帮你写代码回信息的听起来很方便可代价就是它有和你一样的系统最高权限太危险了。 这次事件也让大家看清了AI智能体背后的安全防线有多脆弱感觉随时都可能崩溃呢真是让人细思极恐啊。