问题——伪造从“娱乐化”走向“工具化”，身份冒用风险更易暴露； 据媒体报道，近期一家公司财务人员视频会议中看到“负责人”出镜并下达转账指令。由于对方形象、语音和表达习惯高度逼真，财务在短时间内完成转账，事后才发现对方是通过深度合成手段伪造。类似事件表明，深度合成已不再停留在短视频平台的娱乐“换脸”，而是被黑灰产用于冒名下令、远程骗转、抹黑敲诈等更具破坏性的场景，并对企业流程、亲友沟通等高信任关系形成更强的渗透风险。 原因——技术扩散叠加数据外泄与管理疏漏，造成“低成本作恶—高成本鉴伪”的不对称。 一是生成能力快速普及。随着算法模型、开源工具和算力资源更易获取，合成逼真人脸、口型与声纹所需素材明显减少，短视频片段或少量音频即可生成“可用级”伪造，作案门槛持续降低。二是个人信息与影像音频暴露面扩大。工作汇报、直播录屏、短视频、社交平台自拍视频等内容，客观上为不法分子提供了可抓取的训练素材。三是部分机构对远程协同的安全设计不足。疫情后远程会议、异地审批成为常态，一些单位在“看见人”“听见声”后仍沿用单点确认和简化审批链条，缺少二次核验、回拨确认和分级授权，给了不法分子可乘之机。四是跨平台传播加速。伪造内容一旦进入群聊、邮箱或会议系统，往往在短时间内扩散并影响决策，留给受害者核实的时间窗口被明显压缩。 影响——从财产损失扩展到名誉侵害与信任成本上升，治理压力随之加大。 对个人而言，伪造视频、音频可能引发借款诈骗、隐私勒索、名誉侵权等连锁风险，受害者往往面临“自证清白难”的困境；对企业而言，财务支付、合同签署、信息披露等关键环节一旦被冒用，将带来资金损失与合规风险，甚至影响经营决策；对社会而言，当“所见未必为真”成为普遍担忧，公众沟通与商业协作将不得不叠加更复杂的核验流程，交易摩擦成本上升，社会信任基础受到冲击。值得关注的是，鉴伪、认证与合规服务需求增加，带动对应的安全投入扩大，但若缺乏统一标准与协同治理，可能出现“各自加码、成本外溢”，最终由公众与企业共同承担。 对策——坚持“技术治理+制度约束+行业自律+公众教育”并行，构建可追溯、可核验的防线。 在制度层面，我国已出台深度合成相关管理规定，并在个人信息保护、网络安全等法律框架下对数据使用与侵权责任作出要求。下一步应更压实平台责任，完善合成内容标识、传播链路留痕、账号与设备关联追溯等机制，提高违法成本与侦办效率。 在技术层面，推动可信数字水印、内容指纹、签名验真、活体检测与多因素认证在会议系统、办公软件与社交产品中实现“默认开启、便捷可用”，并探索跨平台互认的鉴伪标准与接口，减少重复建设和割裂治理。 在企业管理层面，建议对转账、付款、印章、合同等关键事项实行分级授权，落实“双人复核+回拨确认+异地二次核验”；对视频会议指令建立“文字留存+独立渠道确认”的闭环；定期开展社工与深度合成风险演练，把“流程可信”放在“画面可信”之前。 在公众防范层面，倡导家庭与团队预先约定仅在私下渠道使用的核验暗语或回拨规则；遇到涉及钱款、隐私的紧急视频求助，坚持“先核实、再处置”；对可疑内容及时保存证据，并向平台和警方举报。 前景——从“被动识别”走向“主动可信”，数字身份将迈向体系化建设。 业内人士认为，深度合成技术仍将快速演进，单靠肉眼辨别难以长期奏效。未来一段时期，可信身份与可信内容体系将加速落地：一上，内容生产与传播环节将更强调标识与来源证明；另一方面，政务、金融、企业办公等高风险场景将更广泛采用强认证与可追溯机制。随着标准完善、工具普及与执法协同增强，技术发展与安全治理有望逐步形成动态平衡，但这个过程仍需政府、平台、企业与公众共同参与。
当“脸”和“声音”都可能被复制，真正稀缺的是可验证的真实与可追溯的责任。守住数字时代的信任，不仅要有更有效的技术手段，也要有更严密的流程制度和更普遍的安全意识。让每一次转账、每一次签署、每一次“视频确认”都经得起核验，才能在技术加速的时代稳住社会运行的基础。