AI生成的内容可不是法外之地，要是情节比较严重，搞不好还能被判有期徒刑。前阵子有个视频在某网络平台上疯传，说是怀化一名35岁的女子从28楼跳下去了。里面时间、地点、人物、画面都齐全，一看就很像真事，这视频刚一出来就把大家都给震住了。 湖南怀化的网警在日常巡逻的时候就盯上了这条消息。他们看到视频上写着高空坠亡、家庭悲剧这些标签，大家纷纷转发，热度特别高。不过怀化警方在查的时候发现了不少不对劲的地方。首先是视频里的楼根本就不是怀化的，其次主播的声音和画面完全对不上号。 湖南怀化市会同县公安局网络安全大队的闫宏辉警官说，局里核实过了，当天根本没出这档子事儿。接到线索后他们立马展开调查，很快就把发布视频的嫌疑人给揪出来了。会同县公安局连山派出所教导员蒙源说，通过缜密侦查他们锁定了嫌疑人禹某的住处，随后民警把她给抓了。 禹某交代了自己的作案动机：为了快速提高自己账号的关注度。她在一个AI平台里输入“高空坠楼、家庭悲剧”这些关键词，系统直接生成了视频片段。她又对这些片段进行了二次剪辑后发到了网上。警方发现这个AI平台里关于“悲剧模板”的使用率特别高，一个月能下载超过10万次。 禹某自己也没想到会闯这么大的祸：“我当时看见别人用AI做视频涨粉特别快，就想跟风试试。平台里现成的模板一输关键词就能出画面。我根本不知道随便发这种视频是犯法的，更没想到会让这么多人恐慌。” 等到警方查到的时候，禹某发的假视频已经让很多人信以为真了。上海长宁警方也破了类似的案子：有自媒体博主姚某、陈某等人为了吸引眼球赚钱，用AI工具搜集素材编造企业的假消息。比如某家茶饮店使用过期原料被罚20万元这种事都是他们编出来的。 前不久一家茶饮店给上海长宁警方报了案说网上有好多针对他们的谣言。警方立刻成立了专案组查起来。上海市公安局长宁分局网安支队的陈昱汀警官说：“我们追根溯源查到100多个账号都发过类似的谣言。” 有一则谣言说某家茶饮店用过期原料被罚20万元钱还有别的瞎话。陈昱汀警官还说：“其中一个发布者是姚某。”姚某为了增加浏览量和赚广告费花了800元找了个叫卢某的代写。 卢某也不傻也没自己写文章直接用AI软件生成一篇文章发给姚某。姚某收到这篇文章连看都没看直接发了出去关于这家店的负面消息被大量转发不仅让品牌形象受损还有不少门店生意受到影响营业额同比下降了超过20%。 还有一个叫陈某的人为了赚平台补贴专门在网上搜了一堆关于企业创始人的传言用AI工具改改头换面变成假新闻发出去流量特别高。 赵精武教授解读说：“利用AI生成发布虚假信息属于明显的违法行为。”他表示情节较轻的可能被罚款拘留严重的可能会判有期徒刑。“根据法律规定信息发布平台也得担责他们有义务在AI内容上标注‘AI生成’如果他们没做监管部门可以警告他们责令整改甚至暂停他们的业务。”