王劲松,南京市话剧团的骨干演员,因为AI技术高仿换脸,把他的视频传到了视频号上。声音和口型真是逼真到让人难以置信,王劲松把这事儿发到了社交平台上,很是震撼。大家也跟着吓坏了。 这让我想起以前也有过类似的恶作剧,但这次技术升级得太狠了。视频里的口型和声音完全一致,连细微的表情细节都没漏掉。王劲松说,家里人第一次看到都给蒙住了。他马上投诉了平台,把视频下架了。 对于这种情况,王劲松也有些无奈。以前也见过粗糙的假视频,但这次真的不一样。普通观众很难第一时间分辨真假。尤其是技术门槛越来越低,成本也不高,传播速度又快。 所以说,不管是妈妈、同事还是老师,“AI得像到没破绽”,普通人又怎么能第一时间识别呢?对于普通观众来说,有时候连专业演员都分辨不出。如果王劲松这样的国家一级演员都被“AI了”,我们普通人还有什么安全可言? 我想说的是:治理永远跑在滥用的后面。虽然有一些技术手段可以预防这类事情发生,比如指纹式的声音水印、视频溯源标识等。但是现实是治理滞后于滥用。制度和工具都需要加速。 这次王劲松公开发声是有意义的。他不是为了制造焦虑,而是在提醒大家边界已经被触碰了。我们要做的不是禁止AI,而是把它用在正当轨道上。 如果你担心被骗,有几个习惯很有用:看到“熟人的视频”,要求换一个渠道核实;别在聊天里直接转账;对陌生链接和“急催”的语气保持怀疑。 还有一点要注意:我们会越来越常见“像你但不是你”的内容。与其被动恐惧,不如把它当作新媒介常识去看待。 这次事件也给行业一个提醒:内容生产不再只是拍摄和剪辑,还要有标识和溯源。只有这样才能减少侵权空间。 总的来说:王劲松这次发声是把大家的共同焦虑点亮了出来。建立一个能让“假我”无处容身的秩序很重要。愿我们下次再看到“熟悉的脸”,能更笃定地说这是真人说的话而不是打问号。 每个人都在镜头里生活着:银行柜台、门禁系统、社交账号等地方我们的脸和声就是通行证。一旦通行证被复制后果可不只是被冒充几句那么简单了。 所以说:从今天开始别把“看起来像”当“就是”。这句话值得在每个聊天窗口常备着。 最后谢谢每一个愿意站出来争取真相的人,安全也一样需要被争取。