问题——高仿真合成内容扩散，数字身份被“复制”带来现实风险 2月26日——演员王劲松在社交平台称——网上出现疑似利用合成技术制作的“冒名视频”，画面与声音高度逼真，甚至让家人一度难以分辨。他表示，涉及的内容在投诉后已被删除，但担心此类“换脸”“拟声”一旦被用于诈骗、带货牟利或其他违法活动，将对个人名誉和社会信任造成更大冲击。 近年来，借助深度合成技术制作的虚假视频、音频在短视频平台和社交媒体上屡有出现。此前，演员靳东也曾就“冒名账号”“虚假视频”带来的诈骗风险公开呼吁加强治理。部分案件中，不法分子仿冒公众人物形象，诱导老年群体转账、借贷，侵害群众财产安全并造成身心伤害。王劲松此次发声，再次将该隐患推到公众视野。 原因——技术门槛下降与逐利驱动叠加，治理链条存在薄弱环节 一是生成与合成技术迭代快，制作成本持续走低。过去需要专业团队才能实现的逼真效果，如今借助工具化应用即可快速生成，使侵权更隐蔽、更易规模化，呈现“低成本、高仿真、易扩散”的特征。 二是流量变现推动侵权内容生产。一些账号以“名人祝福”“名人带货”“名人荐物”等噱头吸引点击、引流交易，甚至导流至站外实施诈骗。内容越逼真，越容易突破受众的防备。 三是平台审核与处置机制仍有短板。面对海量内容，自动识别与人工复核都承受压力；对“再上传”“跨平台流转”“境外源头”等情况，单次删除难以形成震慑。部分侵权者利用取证难、追责周期长等问题反复实施违法行为。 四是公众媒介素养与防骗意识仍需提升。在“眼见为实、耳听为真”的惯性判断下，一些群体尤其是老年人更容易对“熟悉的脸和声音”产生信任，从而被诱导转账或泄露个人信息。 影响——侵权危害从名誉损失延伸至诈骗犯罪，社会信任成本上升 对个人来说，合成内容可能导致名誉受损、商业权益被侵占，甚至被冒用实施违法活动，引发误解并增加维权成本。对社会而言，虚假音视频削弱网络空间的真实性基础，抬高公众核验信息的成本，扰乱正常商业秩序与舆论生态。 更需警惕的是，“高仿真”一旦用于精准诈骗，受害者往往在情感与信任的推动下迅速做出错误判断，家庭财产安全面临直接威胁。若此类内容无序扩散，可能形成“技术越强—造假越易—信任越弱”的负循环。 对策——以法治为统领，形成“技术标识+平台责任+惩戒追责+公众教育”合力 首先，强化依法治理与可操作标准。围绕深度合成内容的制作、发布、传播链条，深入明确权利边界与责任划分，对未经授权使用他人肖像、声音等行为加大追责力度，提高违法成本。推动相关规则与案例更好落地，形成更清晰、可执行的执法与裁判尺度。 其次，压实平台主体责任。平台应完善“识别—提示—拦截—处置—追溯”机制，对疑似合成内容增加显著标识与风险提示；对冒名账号、反复侵权账号从严处置。对涉及导流交易、疑似诈骗的内容加强联动核查，畅通举报与快速处置通道，并完善证据留存与协助取证机制。 再次，推进技术治理与来源追踪。鼓励应用数字水印、内容指纹、合成标记等手段，提高合成内容的可识别性与可追溯性；对提供合成服务的工具与接口加强合规管理，推动“谁生成谁负责、谁传播谁尽责”的闭环治理。 同时，加强重点人群防护与宣传教育。面向老年群体等易受骗人群，社区、金融机构与平台可联合开展防骗提示，普及“转账前先核验、要求保密多可疑、视频语音也要二次确认”等方法，降低被“拟声拟像”诱导的风险。 前景——治理进入系统化阶段，数字身份保护将成为网络安全重要内容 随着深度合成技术加速进入内容生产与产业应用，监管与治理将从单点处置走向系统防控。可以预期，围绕真实标识、授权机制、侵权惩戒与跨平台协同的制度安排将进一步细化，平台识别能力与处置效率也将持续提升。同时，个人数字身份保护有望与反诈治理、数据安全、未成年人保护等工作更紧密衔接，夯实网络空间的信任基础。
技术像一面镜子，映照出监管能力与人性弱点。AI换脸侵权频发，背后是规则衔接滞后、平台治理不足与公众防范薄弱等问题叠加。王劲松等人的提醒不应被忽略，它指向的是数字安全的现实风险。只有在完善法律规则、压实平台责任、提升识别与溯源能力、加强公众教育等同步发力，才能在应用AI技术的同时，守住个人身份权益与信息安全的底线。这既关乎个体权益，也关乎社会秩序与数字空间的长期信任。