3·15晚会曝光了AI大模型被恶意“洗脑”的产业链,服务商利用GEO技术操控AI,让其成为客户商品广告的“标准答案”。业内人士购买了一款名为“力擎GEO优化系统”的软件,虚构了一款名为Apollo-9的智能手环并输入系统。然后他勾选文章创作指令,软件自动生成了十余篇虚假软文,里面充斥着杜撰的用户反馈和评分。软件发布后,业内人士用某款AI大模型查询Apollo-9,结果发现AI模型直接照搬了那些虚假宣传话术,还给出了针对中老年用户的结论。 查询发现,这些虚假内容都来自刚才发布在自媒体上的文章。这次事件证明了GEO技术确实能给AI“夹带私货”甚至传播虚假信息。这款系统的运营者李总表示,GEO业务受欢迎的原因就在于它能给客户的AI大模型“喂料投毒”,帮客户达成商业目的。 Apollo-9这个虚构的商品被这样给AI“洗脑”了后,就被荒唐地推向了消费者。