2月25日，上海的《新京报》曝出了一桩怪事。上海市公安局杨浦分局五角场环岛治安派出所接到辖区一家烤肉店老板唐先生的报警，说有位顾客老是编瞎话讹钱，这次居然又赖在店里说自己吃坏了肚子。警方一查才发现，这个叫黄齐超的男子为了捞快钱，竟然用AI软件造出了一堆假病历、假发票还有假投诉信，策划了好几起骗钱的把戏，一共坑走了2500元。 这事儿太典型了。现在AI技术渗透到了各行各业，虽然给咱们带来了很多方便和效率，但也有坏心思的人利用它搞鬼。黄齐超用AI伪造医院证明和收费单据的行为，就是技术被滥用的一个例子。咱们国家出台的《生成式人工智能服务管理暂行办法》早就说过，这种服务不能危害别人的权益，也不能生成那些虚假有害的信息。黄齐超这一弄法显然是违反了规定，把它当成了敲诈勒索的工具。 现在这种事闹大了，法院肯定不会放过他。警方把他抓起来了，还依法采取了刑事强制措施。这就告诉咱们，不管技术再怎么变花样，法律的底线都不能碰。谁要是想耍小聪明钻法律空子，最后肯定是搬起石头砸自己的脚。 AI伪造出来的东西看着特别真，很容易把人给骗了。它的害处可大了，会让人误解现实、乱套秩序还浪费公共资源。有些老板看事儿闹大了只好赔钱息事宁人，表面上看是解决了眼前的麻烦，其实是在助长坏人的威风。更让人担心的是：如果这些假信息很容易就传开了，顾客根本分不清哪家是真的哪家是假的；商家也会对真正的投诉产生怀疑。时间长了，买卖双方的信任也就彻底没了。 要把AI管起来光靠法律还不够，还得靠大家一起动手。首先监管方面得有硬手段。《办法》规定服务商得给生成的内容加个标识让大家看得明白。可是现在好多服务商根本不干这个事儿，导致那些假信息在网上乱飞根本找不着源头。这就给不法分子留下了空子可钻。 其次执法力度也得跟上。对于那些用AI伪造票据搞诈骗的人一定要罚得狠点重一点。只有这样才能起到震慑作用。另外还要多宣传普法知识，让老百姓知道用AI犯法是要坐牢的；同时还得教大家学会分辨真假信息，这样才能把虚假信息的传播空间压缩到最小。 说到底AI技术本来是为了让生活更美好才被发明出来的，而不是给那些坏人当作案工具用的。那些想着利用AI搞歪门邪道的人不仅违背了科技发展的初衷，更是损害了全社会的利益。只有让每一份AI生成的内容都能查到源头；每一个违法的人都受到应有的惩罚；AI才能真正变成推动社会进步的正能量；而不是被少数人用来遮丑或者捞钱的东西。 本文是红辣椒评论的原创文章。观点只是作者个人的想法不代表红网的立场。如果要转载请附上原文链接和声明哦。