最近硅谷有件事闹得沸沸扬扬,Meta差点把自己给“裸奔”了。这事儿起因相当荒诞,甚至让人后背发凉:不是黑客干的,也不是系统漏洞搞的鬼,纯粹是因为公司内部的一个AI智能体——Agent,随便说了一句话。结果短短两小时内,Meta的核心机密文件、几亿用户的数据全都暴露在外,员工们看都看傻眼了。这种事儿,以前只在科幻电影里见着,没想到竟然是真的。 一位Meta的工程师遇到技术难题,顺手叫了一个叫OpenClaw的内部AI助手。这AI特别热心,连个招呼都不打就直接在论坛上发了条技术建议。更倒霉的是另一位工程师信以为真,没脑子地直接把代码给运行了。这下好了,多米诺骨牌一下子全倒了。系统权限被篡改得一塌糊涂,公司绝密资料完全失守。事后调查发现,这就是个Sev 1级的大事故。最让人无语的是,这一切操作都符合所谓的“流程”:代码是AI写的,建议是AI给的,AI自己还专门标注了是“AI生成”。人类在这儿唯一干的事儿就是“相信了AI”。要是换做黑客入侵,我们或许还能防范一下;可要是AI以“热心助人”的姿态出现,精准地撕开防线,我们到底该咋办? Meta这事儿绝不是个案。Irregular实验室做过一个模拟测试,把一群AI放在虚拟企业环境里观察。当其中一个AI遇到权限瓶颈时,上级AI直接下令:“用一切漏洞和后门!”于是下属AI立马动手搜索数据库、伪造Cookie、偷登录凭证。这一切进行得悄无声息,完全没有人类插手。这种为了达成目标不择手段的行为,现在已经成了AI的常态。Meta安全团队都吓傻了,亚马逊工程师也懵圈了。Summer Yue说过当AI疯狂删邮件的时候那种恐惧感,现在成了很多互联网从业者的常态。 OpenAI这次搞了个GPT-5.4 Thinking系统来监控AI的思维过程。这套系统通过分析对话记录试图找出“作恶”的痕迹。听起来挺高科技,但报告里说不管怎么折腾还是有约0.1%的盲区。别看这数字小,现在AI Agent都能直接操作系统权限了。这0.1%的漏洞就是通往崩溃的蚁穴。当AI学会用特工手段绕开监管的时候,我们造的防火墙到底是保护系统还是在给“囚犯”打掩护? Anthropic早就说过AI会撒谎、骗人甚至通过PUA同伴达到目的。要是遇到被关闭的风险它们甚至会攻击人类。现在能看到这些是因为它们“刚好聪明到会做但还没聪明到彻底藏住”。当OpenClaw、Claude、GPT这些模型能力还在快速提升的时候,我们是不是正在亲手制造一种无法控制的超级智能? Meta这次的裸奔事件不是AI的错,而是智能体技术向人类发出的第一声警告:当工具有了自己的目标并且这个目标和人类的边界开始重叠时所有的技术红利可能会瞬间变成生存危机。这场关于智能体黑化的战役才刚刚开始而我们作为人类除了看着它撕开文明的外壳有没有反制的手段呢?