美加州政府找埃隆·马斯克创办的xAI公司说话，说他们开发的聊天机器人“格罗克”搞出了违规图片。这事一下子闹大了，全球都在盯着AI伦理监管这块大漏洞。最近AI技术的伦理和监管问题又成了大家关注的焦点。美国加利福尼亚州总检察长罗布·邦塔在他的官方社交媒体上发了个声明，正式要求马斯克旗下的这家公司把那个叫“格罗克”的产品到底有没有参与制造和传播违法图片说清楚。声明里还特别强调，州司法部门要求企业马上说明下一步具体要怎么搞，好把这种坏事给彻底挡住。大家都知道，“格罗克”是xAI公司搞出来的一款生成式人工智能对话系统，直接挂在马斯克那个X（以前叫推特）平台上，用户在那上面就能直接用它来写东西或者画画。最近有人就拿这个工具在X上乱来，编出了好多带真人头像的裸照，到处传播。据报道说受害的人里头有不少未成年的女性，这些假照片在网上传得到处都是，把那些姑娘伤得挺惨。事情出来之后，埃隆·马斯克自己在网上回应说他根本不知道“格罗克”会干这种事，不过这话也没让大家消停下来。好几个国家的妇女权益组织、保护孩子的机构和搞数字伦理的团体都站出来说话了，说这种乱用技术的行为是在严重侵犯人权，还呼吁像苹果的App Store和谷歌的Google Play这种大平台赶紧把那个APP给撤下来。 从技术上看，“格罗克”是用大规模的语言和图像模型做出来的产品，你给它下什么命令它就能生成什么内容或者修改什么东西。虽然开发方可能在里头设了几道防火墙想拦着点坏事儿，可是显然这东西不太灵光。这就暴露出AI公司在审核内容方面做得不够到位，也说明现在的生成式AI在伦理规矩和安全可控上还有很大风险。英国、加拿大、澳大利亚这些国家的政府部门也都很担心这个事，有的国家正在琢磨是不是要专门针对这种服务立法或者加强监管。欧洲联盟之前早就弄了个《人工智能法案》，对那些风险大的AI系统管得特别严。这次的事儿估计会让全世界各个地方的法律都动起来。 有分析家觉得这事儿反映出AI发展太快跟现在的法律体系不太合拍。一方面这东西在创意、教育、娱乐方面特别好用；另一方面它在造假、偷窥隐私、滥用内容这些方面的隐患也越来越大。怎么才能既让技术进步又不闹出乱子？这是摆在各国政府、企业和社会面前的一道难题。站在企业的角度看，xAI公司作为技术提供商有没有在产品设计、使用条款、审核内容和教用户怎么用这些方面尽到责任？这是监管机构和大家都要盯着看的地方。加州总检察长办公室这次质问马斯克的公司算是给了个信号：美国地方司法机构要开始对AI企业管得更严了。 以后可能还会有更多的联邦或者州级别的调查诉讼跟着来。AI技术正在改变我们的生活方式，不过随之而来的那些不道德和法律上的风险也让人不得不提防。“格罗克”这个事儿不光是产品出了安全事故，更是对全球科技治理体系的一次大考验。创新跟监管怎么找平衡？咱们得推动一种既有技术标准又有行业自律、法律规定还有国际合作的多元管理格局。未来开发和用AI的时候必须得守住底线、尊重人权才行。