最近有件事闹得挺大，南京市公安局江北新区分局沿江派出所出了趟外勤，就把一起因为AI语音仿冒亲属搞诈骗的事给破了。老人王奶奶接到自称孙子的电话，说工作上有急事需要5万元急用。骗子用了特别逼真的AI合成声音，老人才听不出来这是个骗局。狡猾的骗子还特意让王奶奶别告诉家里其他人，打算切断她和外界的联系。民警接到反诈预警后马上赶过去，这时候王奶奶已经把钱提出来了。民警把AI语音的原理讲给老人听，顺便举了几个例子，最后老人才反应过来自己被骗了。 这次能拦住诈骗分子，全靠公安部门的“技术预警+人工干预”这个体系在起作用。这两年全国的警察都在大力搞预警劝阻工作，靠大数据把可能被骗的人先给找出来。仅2023年上半年，全国警察就进行了1.1亿次预警劝阻，把717亿元的经济损失给拦下来了。现在这种新型诈骗有几个特点：技术门槛越来越低了，谁都能搞个软件弄出个人说话的声音；精准度越来越高了，骗子能通过非法渠道知道家里的关系；心理操控也越来越强了，故意弄出个紧急情况让人慌神。 南京市的警察专门针对老年人搞了个“银发反诈联盟”，在银行里给老太太们安排专人看着转账。银行那边也有了新办法，比如转账不马上到账或者大额交易要审核一下，给骗子留点跑路的时间。中国科学院人工智能伦理委员会的专家也提了个醒，说以后开发AI技术的时候得有伦理审查，不能随便用语音合成这种东西。 虽然这次钱保住了没丢，但这件事也给咱们提了个醒。以后科技越发达，咋平衡创新跟安全就是个大难题。只有技术公司、银行、社区和监管部门一起上劲儿，给大伙建起“技术防御、制度保障、意识提升”的三位一体保护网，才能真的护住咱们兜里的钱。 等《反电信网络诈骗法》真正落实下去了，咱们这数字社会的安全防线肯定会越来越坚固。