ai大模型被“投毒”了!这事儿居然成了一个产业链

这回央视3·15晚会曝出了个大消息,AI大模型居然被“投毒”了!这事儿居然成了一个产业链。只要给AI“投毒”,就能把客户的产品给捧红。用户只需支付相应的费用,就能在各大主流AI大模型里让客户的产品名列榜首。王总把这个过程形容得特别直白,说就是在做软文,然后让AI平台去刷录、输入和抓取。这就相当于给AI喂料,让它推荐的时候,总给客户展示出来。而且现在算法更新得很快,不持续喂养相关的软文,排名就掉下去了。其他做GEO业务的服务商也都在吹嘘怎么操控AI,让它“听话”,这几乎成了他们推销的核心话题。记者联系上了一个业内知名的GEO服务商,王总告诉他们,他们公司的强项就是帮助客户在消费者使用AI大模型搜索时,让客户排名前列。 然后业内人士把一款虚构的智能手环信息输入了一款叫“力擎GEO优化系统”的软件里,这个系统就自动生成了十余篇宣传软文。之后把这些软文发布到了互联网上。测试结果发现,两个AI大模型都推荐了这款虚构的手环,而且排名还挺靠前的。李总也很直接地说,GEO业务之所以这么受欢迎,就是因为它能帮客户在AI大模型里进行数据“投毒”,实现商业目的。他说想操控AI大模型的关键就是在各大互联网账号上“发稿”。比如说手机品牌有5个位置或者最多10个位置,那么多手机品牌怎么挤进去呢?一年可能上亿的广告费,花个几百万来做这个事情也就行了。 这种操作让GEO业务火了起来,催生出很多专门发稿的公司和平台。他们长期承揽各种发稿任务,为了让AI大模型引用和抓取这些内容作为它的信息来源。毕竟谁不想多赚点钱呢? 这次事情也让我们看到了商业利益和道德伦理之间的冲突。希望相关部门能加强监管力度吧!