微软搞出了个应对deepfake的内容溯源方案，这可给ai 公司和社交平台防篡改提供了个新标尺。

最近微软搞出了个应对Deepfake的内容溯源方案，这可给AI公司和社交平台防篡改提供了个新标尺。 Eric Horvitz ，这位微软首席科学官说了，这事儿不光是自我监督，更是为了拉拢那些信真相的人的好感。他提到这项研究还真是受加州立法推了一把。 虽然加州大学伯克利分校的 Hany Farid 专家也说了，微软这套方案没法 100% 消灭谣言，但肯定能把搞假的门槛给抬高不少。现在的情况有多严重呢？去年有审计发现 IG、领英、Pinterest、TK 和 YouTube 这几个平台上，居然只有 30% 的 AI 内容被正确标上了标签。 Farid 分析说，大家之所以不愿意标这个标签，估计还是觉得流量会受影响。要是扎克伯格、马斯克觉得标了会掉粉，谁愿意去干？不过这位专家也觉得，这方法能给那些想故意误导大众的人制造麻烦。 微软是怎么研究的呢？他们就好比给伦勃朗的真迹做鉴定一样。给画作列一份清单记下来头、查转手记录，然后加上肉眼看不见但机器能读的隐水印，再对画作做个扫描生成个像指纹一样的数字签名。这样的话，等这幅画在博物馆展出时，怀疑的人就可以拿这些手段来鉴定真假了。 微软的团队用类似的思路评估了60种溯源手法，模拟了像元数据被删掉或者内容被改掉这种现实场景，看哪些组合用在一起最靠谱。IT之家的消息说，这套标准其实就是把多种溯源手法给合起来用。 说白了，这套方案就是为了减少“AI 造假”和Deepfake现象。至于会不会在自家平台全面用上这套工具嘛，Horvitz 可没拍胸脯保证。毕竟技术本身是有局限的——它没办法判断内容是不是“真的”，只能判断是不是“被篡改过”。