近期，国家网信部门日常巡查中发现，一些网络平台上出现大量未标注"AI生成"的虚假信息，扰乱了正常的网络秩序；经核实，这些账号利用技术手段制作虚假视频、图片和文字内容，包括编造社会事件、冒充公众人物、散布灾害谣言等。比如，微博账号"澄馫"发布了"高铁站犬只救婴"的虚假视频；抖音账号"巷子里的鱼"用合成技术伪造火灾现场画面；一些电商店铺甚至公开售卖去除AI标识的工具和服务。这些行为已违反《网络信息内容生态治理规定》和平台规则。分析显示，问题主要来自三个上：部分创作者为了流量故意逃避监管；AI技术门槛降低导致合成内容泛滥；平台审核机制存在漏洞。这些虚假信息不仅误导公众，还可能引发社会恐慌、损害未成年人权益，甚至被用于诈骗。针对这个情况，网信部门采用技术加人工的双重排查方式，要求各平台履行主体责任，完善AI内容识别系统。目前，涉事账号已全部封禁，有关商品和教程已下架。此次行动特别关注未成年人保护领域，对涉及动画角色恶意改编、血腥暴力等内容严厉打击。业内专家认为，随着生成技术快速发展，监管也需要跟上。下一步可能通过立法明确生成内容的责任边界，同时探索区块链等溯源技术的应用。平台方表示将优化标签系统，开发更有效的AI检测工具，从源头控制违规行为。
AI生成技术改变了内容生产方式,但真实性始终是公共传播的底线。依法治理"无标识"乱象，既能遏制虚假信息传播，也能修复网络空间的信任机制；只有监管部门、平台、创作者和公众共同遵守规则、尊重事实，技术进步才能更好地服务社会，清朗的网络生态才能持续发展。