美国五角大楼与openai签了个协议,主要是为了给“杀手机器人”套上三道枷锁

美国五角大楼现在跟OpenAI签了个协议,主要是为了给“杀手机器人”套上三道枷锁。这事发生在特朗普政府把Anthropic这个初创公司给踢进“供应链风险”黑名单之后没几个小时。OpenAI直接就把自己的大门开向了国防部的秘密网络,这也是为了赶紧补上Anthropic留下的空档。他们特意划出了三条谁也不能踩的雷区:严禁用于国内大范围监控、不准拿去指挥自动武器,还有不能在高风险场合搞自动化决策。OpenAI老板说得挺强硬,说安全控制权必须牢牢抓在自己手里,谁敢碰红线,协议立马作废。 为啥偏偏选了OpenAI?其实这一年来国防部已经给Anthropic、OpenAI和谷歌这些实验室投了上亿美金的钱,他们要的是技术最先进的同时安全防护也要最严格的。之前Anthropic因为在技术规矩上跟军方谈不拢被踢了出去,现在OpenAI就接了盘,用更细密的防护网换来了信任。公司高层也说了,虽然不觉得政府会翻脸不认人,但他们还是得把安全措施做得严严实实。 OpenAI把这套规矩比作是多层的防护网。他们要求所有的代码和数据都得老老实实呆在美国国内,只能在自己管控的云服务器上跑;就连想上手的工程师也得先过国防部的审查关,项目一完权限立马回收;而且合同里写死了,如果谁违规改动了东西,政府就得赔一大笔钱。公司嘴上说这事估计不会发生,但心里还是捏把汗,把风险全都锁进保险箱里。 被踢出局的Anthropic也不打算善罢甘休,直接放话要上法庭去告这事儿。一场科技公司跟行政权力的拉锯战看样子才刚开始。OpenAI则是用合同细节来反击:我们已经跟政府说得明明白白了——Anthropic的技术不该被贴上“风险”的标签。 五角大楼心里的算盘打得很清楚:他们既想要AI武器带来的领先优势,又得防着技术失控或者算法歧视带来的大麻烦。OpenAI的新协议就像是给技术装上了电子刹车,既能让军方跑得更快,又能随时踩停脚刹。 接下来怎么办?协议生效只是第一步的事儿。军方接下来是要把OpenAI的模型塞进无人机群里搞网络战?还是拿去做后勤自动化?那个“高风险自动化决策”的界限到底在哪儿?如果政府偷偷摸摸把那些模棱两可的功能包给了第三方公司,OpenAI能不能发现并且叫停?这些答案估计都得等下一轮合同修订才能见分晓。