“黑帽生成式引擎优化”投喂虚假信息扰乱大模型推荐机制亟待系统治理

当前,以大模型为代表的人工智能技术正在改变信息获取和知识传播方式;但另外,一条隐蔽的产业链正逐渐成形,试图通过系统性的信息污染操纵AI的推荐机制,该现象值得警惕。问题的棘手之处在于其隐蔽性强、覆盖面广。媒体调查显示,市场上已有大量GEO服务商公开标价提供推广服务,借助自动化工具批量生产虚假内容。这些内容表面上专业、结构完整,实则多为包装过的商业广告。更令人担忧的是,它们往往能在很短时间内被大模型采纳并推送给用户。记者实测发现,虚构品牌最快仅需30分钟便能进入AI搜索推荐,虚假产品在三天内就可登上多款AI工具的推荐前列。其传播速度快、成本低,明显超过传统广告投放。

信息技术的发展带来便利,也带来新的风险;GEO产业链乱象提醒我们,在享受科技红利的同时必须提高警惕。只有多方协作、共同治理,才能营造更透明、更公正的数字环境,让技术更好服务社会发展。