2023年，伦敦，英国通信管理局（Ofcom）已经给社交媒体平台X展开了正式调查。调查的重点是平台内置的AI聊天机器人“格ro克”被用户滥用，生成了涉及真实人物的伪造性暴露内容。Ofcom警告说，如果调查确认X平台没有履行风险防控义务，可能会处以全球年营业额6%的罚款。安娜·维森特，欧洲数字权益组织“安全网络”的研究员，把英国此次法律调整视为全球监管趋势转向的标志。她认为，“从单纯追究个体行为，到要求技术提供方承担设计责任”。德国和法国也已经在2023年通过类似的立法了，欧盟《人工智能法案》也把深度伪造工具列为高风险系统，要求开发方部署数字水印等追溯机制。然而，这些法律执行仍然面临跨境取证、技术识别等挑战。牛津大学互联网研究所教授菲尔·霍华德承认，“当犯罪者使用境外服务器或加密工具时，追责链条很容易断裂”。 英国新法生效是为了严惩数字性暴力，平台责任与AI滥用成了监管焦点。伦敦时间1月12日，英国科学、创新和技术大臣莉兹·肯德尔在议会下院正式宣布，《数据法案》关键条款将于本周生效。这次立法被视为英国应对数字时代性暴力演化的重要里程碑。 安娜·维森特指出，“这次法律调整反映了全球监管趋势的转向”，她强调了平台问责原则，“若社交媒体未能有效限制相关工具滥用或及时移除违法内容，将面临高额罚款乃至服务限制”。英国国家犯罪统计局的数据显示，2022年涉及数字性暴力的报案量较五年前增长逾300%，其中针对青少年的案件占比超过四成。 新法不仅直接追究犯罪者责任，还首次明确了平台问责原则。肯德尔强调，“针对女性及未成年人的伪造性暴露内容绝非无害图像，而是数字化虐待的武器”，英国政府将对此类行为采取“零容忍”立场。在2023年的这个1月12日，《数据法案》关键条款生效，就给利用人工智能技术制作、索取或传播伪造私密图像的人敲响了警钟。 肯德尔呼吁科技企业把安全设计嵌入产品生命周期，“而非事后补救”，她在议会听证中提到了这点。未来需要通过国际协作、技术治理与法律威慑的多维联动来筑牢人权保护防线。 欧洲数字治理现状的碎片化与AI技术快速迭代长期考验监管体系的适应能力。根据《数据法案》的规定，未经当事人同意制作、索取或传播伪造私密图像构成刑事犯罪，并且被纳入《在线安全法》的优先执法范畴。这次立法被视为重要里程碑，表明英国政府正以系统性手段回应数字性暴力的技术化挑战。 Ofcom在声明中警告X平台如果不履行风险防控义务可能会被罚款全球年营业额6%，但调查直指X平台内置AI聊天机器人“格ro克”被部分用户滥用生成涉及真实人物的伪造性暴露内容。 英国通信管理局给X平台展开正式调查的原因是平台提供的AI工具客观上降低了犯罪技术门槛，尽管X平台明令禁止非自愿私密影像传播但仍有用户滥用。 安娜·维森特强调这次法律调整反映了全球监管趋势转向：从单纯追究个体行为到要求技术提供方承担设计责任。德国、法国已通过类似立法欧盟《人工智能法案》也将深度伪造工具列为高风险系统要求开发方部署数字水印等追溯机制。 牛津大学互联网研究所教授菲尔·霍华德承认跨境取证和技术识别等挑战存在：“当犯罪者使用境外服务器或加密工具时追责链条极易断裂。” 莉兹·肯德尔在议会下院宣布《数据法案》关键条款本周生效强调了《在线安全法》优先执法范畴以及“零容忍”立场同时表明平台未能有效限制工具滥用或移除违法内容将面临高额罚款乃至服务限制。 英国国家犯罪统计局显示2022年涉及数字性暴力报案量较五年前增长逾300%其中针对青少年案件占比超过四成反映出受害者面临难以消除的社会声誉与心理创伤。 新法通过强化平台责任传递明确信号：“在技术创新与伦理安全平衡中保护个体尊严不可妥协”。未来唯有通过国际协作、技术治理与法律威慑才能在数字空间中筑牢人权保护防线。 国际刑警组织合作构建跨国司法协作框架推动平台建立快速举报-强制删除机制旨在拓宽刑事打击范围应对数字时代性暴力演化挑战。 从单纯追究个体行为到要求技术提供方承担设计责任反映了全球监管趋势转向但法律执行仍面临跨境取证和技术识别等挑战。 安娜·维森特认为英国此次法律调整是重要里程碑：“从单纯追究个体行为到要求技术提供方承担设计责任”，同时指出欧洲国家如德国、法国已通过类似立法欧盟也在制定相关法案但技术识别和跨境取证仍是难题需要国际协作和多维联动来应对。 2023年1月12日这个日子对英国乃至全球监管体系来说都是值得纪念的一天因为它标志着应对数字时代性暴力演化的重要里程碑成为全球监管趋势转向的标志之一也揭示了人工智能技术发展带来的问题及解决方案方向但同样也暴露了AI工具开发与平台内容审核间存在责任盲区这就需要国际协作技术治理与法律威慑共同来解决才能在数字空间中筑牢人权保护防线而未来全球数字治理碎片化现状与AI技术快速迭代将长期考验监管体系适应能力唯有通过国际协作技术治理和法律威慑多维联动才能应对挑战确保个体尊严得到保护。