春节期间，西安律师向先生的一次AI创意尝试，意外变成了一场令人不适的“冒犯”事件。除夕当晚——他下载腾讯元宝应用——想用生成能力做一张带有律师职业元素的拜年海报。多次调整后，他对生成效果表示不满意，随后系统生成的海报中，原本温馨的“新年快乐，仕途顺遂”祝福语被替换为辱骂内容，这个突变让他在节日期间遭遇了不佳体验。事件发生后，向先生随即向元宝官方反馈。2月24日，腾讯元宝官方在社交平台回应称，该情况源于模型在多轮对话处理中的异常输出，并表示已紧急修正并优化对应的体验。官方的回应与致歉获得用户理解，但事件也再次提示生成式AI在内容安全管理上的风险。
一次看似偶发的异常输出，折射的是新技术产品走向普及后的治理命题：既要跑得快，更要守得住。对企业而言，回应致歉只是起点，更重要的是把“看不见的安全”做成“可感知的可靠”；对行业而言，持续完善机制、压实责任、提升透明度，才能让技术进步在更稳固的秩序中释放价值。