近期，少数网络账号发布合成信息时未按要求标明来源和性质，借助技术手段生成、拼接、改造图像及音视频内容，以“感人故事”“猎奇事件”“灾情现场”等题材吸引关注；更有账号通过换脸、声音克隆等方式冒充公众人物发布不实言论，或售卖“祝福视频”“拜年视频”，对网络传播秩序和社会信任造成影响。网信部门会同有关上督促网站平台开展集中排查整治，对发现的突出问题依法依规处置，持续加大对违规行为的打击力度。 一段时间以来，合成内容的生成门槛降低、传播速度加快，叠加部分账号流量至上、逐利冲动强烈，成为乱象滋生的直接因素。从通报的典型案例看，问题主要有三类表现：其一，围绕虚构的“救人奇迹”“危险事件”等编造情节，以情绪化叙事和强反转刺激点击，却不作合成内容标识，误导受众判断；其二，利用换脸、克隆声音等手段冒充运动员、演员、主持人、企业家等公众人物，发布未经证实的观点或带节奏言论，借名人效应吸粉引流，并将合成视频包装成商品交易牟利；其三，通过合成图片、视频捏造火灾等突发事件现场，借灾情话题制造恐慌、引发误读，扰乱公共秩序。上述账号已被依法依约处置。 从原因看，部分违规内容之所以容易扩散：一是“低成本生成—高效率分发”的技术条件与平台算法推荐叠加，易短时间内形成传播峰值；二是一些运营者刻意规避标识义务，或以“二创”“剧情演绎”为掩护，将合成内容包装成“目击”“纪实”，以擦边方式获取流量；三是个别账号通过矩阵化运作、跨平台搬运等方式，提高违规内容存活率，增加治理难度；四是公众面对高度逼真的音视频时识别成本上升，容易被情绪和话题带动，给不实信息留下传播空间。 其影响不容忽视。对个人而言，冒充公众人物不仅侵害合法权益，还可能带来名誉受损、商业合作受扰等连锁风险；对社会而言，灾情谣言与虚构事件会挤占公共信息通道，干扰应急处置和社会秩序；对网络空间而言，长期积累将削弱内容真实基础，消耗公众信任，破坏良性生态。同时，合成内容若与营销、诈骗等行为叠加，可能演变为新的黑灰产链条，抬高治理成本。 针对上述问题，治理应坚持依法监管与平台治理并重、技术防控与源头规范并行。一上，平台要落实主体责任，完善合成内容识别与标识管理机制，加强对重点领域、热点事件和高风险账号的巡查，及时下架不实内容，对恶意规避标识、反复违规者从严处置；另一方面，要优化内容审核与推荐机制，对“灾情现场”“名人发声”“突发事故”等易引发误判的内容提高核验标准，建立快速核查、快速处置的应急流程。对利用合成内容引流牟利、假冒侵权、扰乱秩序等行为，应依法依规追责，形成有效震慑。同时，推动行业加强合成内容规范使用的规则宣导，提升创作者合规意识；引导公众增强信息甄别能力，对来源不明、情绪煽动、细节失真的“爆款内容”保持审慎，通过正规渠道核验信息、理性转发。 前景方面，随着合成技术持续演进，内容治理将进入对抗更强、协同要求更高的阶段。可以预期，围绕标识、溯源、审查、追责等环节的制度与技术措施将优化，跨平台联动处置、黑名单共享、违规链条打击等协同机制有望继续强化。在合法合规框架下推动合成内容服务于影视制作、科普传播、无障碍应用等正当场景，同时对“以假乱真、以假牟利、以假生乱”的行为保持零容忍，是维护网络空间秩序与社会公共利益的必然选择。
在信息爆炸的时代，真实性与公信力愈发成为网络空间的稀缺资源。此次整治行动既是对违法违规行为的有力打击，也是维护健康数字生态的必要措施。未来如何更好平衡技术创新与内容治理，仍需社会各方持续探索与实践。（完）