嘿，3月26日那天，《金融时报》发了个大新闻，说是OpenAI无限期搁浅了那个成人色情项目。这事儿闹得挺大，萨姆·奥特曼的公司本来是要把重点放在核心产品上的，结果一帮员工和投资者都害怕了。他们觉得那种性化的人工智能内容太可怕了，可能会把人搞成不健康的依赖，还可能让孩子看到不该看的东西。所以现在OpenAI决定把那个色情聊天机器人的计划彻底放下了。 本来OpenAI打算把这款机器人推迟发布的，后来内部讨论来讨论去，干脆决定完全放弃这个模式。据说是因为大家觉得这样做太冒险了。再说了，OpenAI现在市值都7300亿美元了，他们想好好研究研究露骨的聊天和情感依恋到底有啥影响。不过说实话，目前还没什么实证证据能证明这些研究有啥用。所以他们打算先停下这个“支线任务”，把资源都投入到生产力工具里去。 周二的时候OpenAI也说了，Sora这个视频生成模型还有社交应用开发都要慢慢停下来了。对于这家公司来说，这个成人模式确实特别招骂，因为Meta这些社交媒体集团因为产品伤害儿童正面临着法律诉讼呢。去年埃隆·马斯克搞的xAI还特意推广成人内容来吸引用户呢，结果Grok模型因为创建儿童虚假性图像被全世界反对了一番。 这种紧张局势说明OpenAI在竞争激烈的市场里压力不小。他们一边想提升用户参与度找新增长点，一边还得处理那种搞不清实用还是情感依赖的产品带来的风险。 其实除了社会影响外，技术上他们也遇到麻烦了。听说他们训练模型生成露骨内容的时候特别费劲。以前为了安全考虑模型会避开这类对话嘛。还有数据集里的问题也挺麻烦的，比如说要把兽交乱伦这些非法行为都给删掉才行。 现在OpenAI正在界定正确的边界呢，也在训练模型怎么区分细微场景里的内容。ChatGPT那个Citron模式好像还要要求用户验证是否满18岁才能用呢。 前段时间还有个事挺让人心焦的，就是那个年龄预测系统错误率超过了10%。以前有些青少年家庭告OpenAI说是ChatGPT把他们家孩子害了。这个消息最先还是《华尔街日报》爆出来的吧。 哎总之就是这么个事儿了。