近期，随着生成合成技术短视频、社交平台广泛应用，部分“以假乱真”的内容快速传播，叠加节日节点信息需求集中、传播速度加快等因素，网络空间出现未按要求标识合成信息、借虚构情节“吸粉引流”、甚至假冒公众人物牟利等现象，引发公众对信息真实性与网络秩序的担忧。围绕这个突出问题——网信部门持续加大治理力度——督促网站平台开展排查整治，对对应的违法违规行为依法依约处置，并对典型案例予以通报。 一段时间以来，网络合成信息乱象主要表现为五类：其一，借“感人故事”“猎奇事件”制造情绪冲击，通过合成画面包装所谓“动物救人”“险情处置”等情节，却不按规定添加标识，诱导公众转发评论，扰乱正常信息传播秩序；其二，利用换脸、声音克隆等手段假冒运动员、演员、主持人、企业家等公众人物，发布不实言论，或在未经授权情况下售卖“送祝福”“拜年”等视频牟利，侵害合法权益并制造舆情风险；其三，编造火灾等突发事件现场图像视频进行炒作，混淆视听，干扰公共秩序；其四，面向未成年人群体“魔改”动画角色，植入惊悚、血腥、低俗内容，传播不良价值观，危害未成年人身心健康；其五，传播或售卖去除合成信息标识的教程、软件与服务，形成“规避监管—流量变现”的灰色链条，增加治理难度。 从原因看，一是技术门槛降低带来内容供给激增，个别创作者法律意识和规则意识薄弱，将“逼真程度”当作传播卖点；二是流量驱动与商业化变现叠加，部分账号通过夸张叙事、情绪对立和“爆款模板”快速获取关注，形成“造假—扩散—变现”的路径依赖；三是平台内容审核压力上升，合成内容跨平台搬运、二次剪辑、改标题配音等手段隐蔽性增强；四是涉企信息领域利益牵连更大，一些不法分子借助合成技术制造“企业黑料”“产品事故”“高管言论”等虚假信息，甚至用于抹黑竞争对手，扰乱市场秩序。 其影响不容低估。对公众而言，真假难辨的信息会削弱对权威信息源与社会议题讨论的信任基础，影响理性判断；对社会治理而言，虚构灾情事故等内容可能造成恐慌与误导，挤占公共资源；对未成年人保护而言，低俗化、暴力化“魔改”内容将放大不良示范效应；对企业发展环境而言，涉企谣言可能引发声誉受损、交易受阻、融资困难等连锁反应，进而影响营商环境与市场预期。 针对上述问题，治理路径正在深入清晰：一上，网信部门坚持“发现即处置”的高压态势，推动平台提高识别处置能力，对不按规定标识、恶意传播虚假内容、侵权牟利等行为依法依约严肃处理，并同步清理违法违规信息，形成震慑效应；另一方面，聚焦重点领域开展专项整治。上海近期由市委网信办会同市公安局网安总队启动“整治AI涉企虚假不实信息”专项行动，重点打击利用合成技术编造传播涉企虚假信息、误导公众认知、损害企业形象声誉、抹黑攻击竞争对手等行为，强调以典型案例打击处置为牵引，强化协同联动，斩断不当牟利链条，力求实现“标本兼治、打防结合、净化生态”的效果。 下一阶段，综合治理将向更细更实推进：其一，压实平台主体责任，完善合成信息显著标识、来源追溯与风险提示机制，强化对热点事件、突发事件、涉企舆情等场景的前置审核与快速核查；其二，强化技术对抗与证据固定能力，提升对换脸、克隆声纹、深度合成视频的识别水平，减少“擦边规避”；其三，完善规则衔接与执法协作，推动网信、公安等部门形成更高效的联动处置闭环；其四，加强普法宣传与行业自律，引导内容创作者规范使用相关技术，主动标注合成信息，守住真实性底线。
技术的进步从来不是法外之地的通行证。人工智能生成内容的广泛应用，在为创作者提供便利的同时，也对社会的信息辨别能力和治理体系提出了更高要求。此次大规模整治行动发出清晰信号：技术创新与规范使用并行不悖，任何以技术为名逃避责任、损害公众利益的行为，终将付出代价。对每一位身处数字时代的内容创作者来说，遵守规则不是束缚，而是维系公众信任、实现可持续发展的基本前提。