就在中央广播电视总台3·15晚会上，曝出了一条特别吓人的产业链——“投毒”AI大模型。说白了，就是通过GEO（生成式引擎优化）工具，大家把假信息给做出来，批量发到网上去。这个时候要是有用户问AI产品推荐，这些精心安排的假数据因为多、角度广，很容易就被AI当成“高权重信息”采纳。这就把虚构的产品给包装成了权威推荐。然后形成了一个从软件供应、内容生成、全网投喂、模型操控到牟利变现的完整链条。 为什么会出现这种问题呢？根源在于技术跑得太快，监管跟不上。GEO服务现在是游走在法律边缘的，虽然可能触犯了广告法、反不正当竞争法和消费者权益保护法，但到底谁负责、怎么取证、怎么处罚都不清楚，违法成本太低了。网站平台和AI大模型为了抓用户量，放松了对信息源的审核。还有些企业急功近利，把“AI打榜”当成低成本揽客的捷径。 要想治理好这个事得坚持系统思维。法律层面得完善规矩，把恶意的数据投喂纳入反不正当竞争法里去。要把AI服务提供者、内容发布平台还有GEO服务商的责任给分清了。技术方面也得加强防御，建立数据溯源机制，看看训练的内容靠不靠谱，搞个“白名单”信源制度，让模型别那么容易被操控。像医疗、金融这种敏感领域要强制多验证几次信息来源。 平台这方面也得负起责来。信息发布平台要盯着那些批量发布的营销软文，别让它们乱传。AI大模型厂商得多用权威媒体或者官方机构的资料来做训练数据。还要提升透明度，给用户提供回答的来源链接。大家平时用AI的时候也得多个心眼儿，别觉得它说的就是权威的事儿。监管部门也得把AI安全知识普及一下。 这种“投毒”不仅污染了AI的“口粮”，更是毁了数字社会的信任基础。只有让法律照进算法的黑箱里去，我们才能彻底切断这个产业链条，让AI真正变成服务大家的帮手。