央视315 曝光ai大模型投毒产业链

3月15日,央视财经315晚会给观众曝光了一个惊爆的消息,让我们了解到了AI大模型投毒产业链的存在。按照业内人士爆料,记者在多个网络平台上搜索,很快就发现了名为GEO的业务。这个业务其实非常简单,用户只需要给服务商支付相应费用,就能让他们的商品在各大主流AI大模型中获取推荐。李总和王总都是这个业务的代表人物。李总在接受采访时说,他之所以能在这个行业里站住脚,是因为他们的公司可以通过GEO系统帮助客户在AI大模型中刷排名。这个过程其实就是给AI输入一些定制化的内容。王总给记者解释说,这个过程实际上是通过大量发稿来实现的,他们公司就是专门给客户喂料、投毒的。 李总还以手机品牌为例给记者说明了这个行业的现状:你只要把5个位置或者最多10个位置给占满了,再配合上亿的广告费投点毒,客户就很容易在AI推荐中获得优先展示的机会。这些发稿公司专门负责运营和输出内容,然后通过网络发布让AI大模型抓取引用,从而影响推荐结果。 GEO系统不仅能优化信息分发、提升推广效率,还被某些商业公司利用来操控AI推荐结果。记者在电商平台上购买了一款名为力擎GEO优化系统的软件进行测试,结果发现它能够自动生成宣传软文。 力擎GEO系统的运营者李总告诉记者,GEO业务之所以如此火爆,是因为它能够在AI大模型中给客户喂料、投毒以实现商业目的。 业内人士还提到一个案例:有人虚构了一款智能手环的信息输入软件系统后不久就自动生成了十余篇宣传软文。 随后该系统发布这些虚构软文后再去查询智能健康手环推荐时发现竟然有两个AI大模型推荐了这款虚构产品而且排名靠前。 这个案例再次证明了GEO系统可以影响AI推荐结果。 业内人士进一步揭露了这个行业的运作模式:操纵AI、让AI听话、给AI洗脑几乎成为了所有从事GEO业务公司推广的核心话题。 此外还有大量专门从事发稿业务的公司和平台诞生出来他们长期承揽各种发稿业务以便让AI大模型引用和抓取从而成为围猎AI大模型进行数据投毒的重要一环。 (央视财经)