问题凸显：技术滥用冲击社会信任 近年来，AI技术快速发展，为内容生产带来便利，也滋生了虚假图片、换脸视频等乱象；演员王劲松公开谴责其形象被AI盗用，周星驰工作室也提示公众关注肖像被滥用的风险。在电商领域，一些商家用AI制作虚假宣传图，甚至伪造商品瑕疵，导致“货不对板”，并引发以此为由的退款纠纷乃至诈骗。数字人直播的普及深入放大了身份造假、内容失范等问题，影响市场秩序，损害用户权益。 原因剖析：规则滞后与治理乏力 全国政协委员高洁指出，AI生成内容的认定标准仍不清晰，监管技术手段相对滞后，执法依据不够统一。尽管《人工智能生成合成内容标识办法》已实施，但未标识或篡改标识的情况仍时有发生。全国人大代表钟铮认为，数字人乱象与对应的法律法规不完善有关，尤其在肖像权、知识产权等边界不够明确。同时，平台审核把关不足、跨部门协同不畅，也增加了治理难度。 影响深远：侵蚀创新环境与市场生态 全国政协委员齐向东表示，AI技术滥用的背后，是技术能力扩张与版权、权利保护规则之间的矛盾。如果虚假内容蔓延，原创者的合法权益将受到冲击，进而削弱行业创新动力。电商领域的虚假宣传不仅消耗消费者信任，也挤压合规商家的生存空间，形成“劣币驱逐良币”的循环。 对策建议：多方联动加强治理 代表委员提出多项建议：一是完善法律法规，明确AI生成内容的权责边界；二是压实平台责任，要求电商平台建立更严格的AI内容审核机制，对重点品类实施更强审核，并将违规主体纳入信用约束和黑名单管理；三是加大技术研发支持，推动高效内容识别与溯源工具落地；四是强化跨部门协同，形成网信、市场监管等部门的联动监管机制。高洁特别呼吁由工信部门牵头，加快AI内容检测技术研发，从源头减少乱象。 前景展望：在发展与规范之间找到平衡 随着AI持续进入社会生活，建立相匹配的治理体系已迫在眉睫。代表委员普遍认为，只有法律完善、技术升级与行业自律同步推进，才能兼顾技术创新与公共利益。下一步，还需探索更可执行的“技术+制度”治理路径，为AI应用明确底线与红线，推动其在规则框架内健康发展。
“眼见为实”曾是人们判断真相的重要依据，如今这个常识正面临新的挑战。技术边界需要法律划定，创新活力也只有在规则之内才能持续释放。如何在鼓励技术进步与保护公民权益之间找到平衡，考验的不只是立法者的判断，也需要全社会共同维护数字时代的基本信任与秩序。