一、问题:百元"体验费"背后的推荐造假 近期,有媒体记者以暗访方式揭露了一条围绕大模型问答系统运作的虚假推广产业链。
调查显示,只需支付数百元至数千元不等的服务费用,任何品牌乃至凭空捏造的机构,均可被植入大模型的问答推荐结果,以"本地口碑最佳""资质齐全"等措辞出现在用户视野中。
记者在调查中构造了一家名为"X丽妍医疗美容"的虚构机构,以人工智能生成的图片充当宣传素材,配以完全捏造的经营地址和分店信息,委托一家生成式引擎优化服务机构进行推广,仅支付100元单次体验费。
结果不到半天,该虚构机构便出现在某主流大模型针对"无锡梁溪区靠谱医美机构"的推荐列表中,并被赋予"2004年成立、22年本土老牌""四级手术资质齐全"等完全失实的描述。
记者随后以一家已倒闭、无任何资质的保健品企业身份再度测试,同样在不足4小时内,该虚构企业便出现在大模型相关检索结果中,推荐排名甚至超过汤臣倍健、Swisse等国内外知名品牌,大模型还生成了所谓"三款核心产品对比分析",内容全部出自虚构。
二、原因:语料投喂机制被系统性利用 上述乱象的根源,在于大模型的内容生成机制存在可被操控的漏洞。
大模型在生成回答时,通常依赖对互联网公开内容的大规模抓取与学习。
当大量经过精心包装的虚假内容被批量投放至网络平台后,大模型便会将其作为"事实依据"加以引用,进而在问答中形成带有误导性的推荐结论。
这一手法在业内被称为生成式引擎优化,其逻辑与传统搜索引擎优化相似,但针对的是大模型的内容抓取与生成逻辑。
从业者坦言,"所有内容都是我们自己投喂到平台上,大模型怎么抓取,就怎么呈现。
"这意味着,只要掌握大模型的内容偏好规律,便可通过定向投放软文、关键词布局等方式,系统性地干预其输出结果。
更值得关注的是,部分生成式引擎优化服务机构在承接医美、保健品等有明确准入要求的行业订单时,并未要求客户提供任何合规资质,甚至主动表示可以"帮忙包装",将无资质、已注销乃至纯属虚构的企业信息,包装成符合行业规范的推广内容。
三、影响:信息可信度与公众安全双重受损 大模型问答功能的广泛普及,使其逐渐成为公众获取信息、辅助决策的重要渠道。
然而,一旦这一渠道被虚假内容系统性渗透,其危害将远超传统广告欺诈。
对于普通用户而言,大模型的回答往往被视为经过筛选的客观结论,而非商业推广。
这种信任预设,恰恰为虚假植入提供了天然的传播土壤。
在医美、保健品等直接关乎身体健康的领域,用户若依据失实推荐做出消费决策,轻则蒙受经济损失,重则面临健康风险。
对于市场秩序而言,付费植入机制的存在,使得合规经营的企业在大模型推荐中处于不公平竞争地位。
知名品牌的真实口碑可能被虚假内容稀释,行业整体的信誉基础也将因此受到侵蚀。
四、对策:技术治理与监管规范须同步推进 面对上述乱象,单纯依赖平台自律难以从根本上解决问题。
从技术层面看,大模型开发企业有必要建立更为严格的内容溯源与真实性核验机制,对涉及医疗、健康等敏感领域的推荐内容实施更高标准的审核,防止虚假语料污染模型输出。
从监管层面看,生成式引擎优化服务作为一种新型广告投放形式,其法律属性与监管归口尚待明确。
相关部门应尽快研究制定针对大模型内容植入行为的规范框架,将其纳入广告法、互联网信息服务管理等现行法规的适用范围,对无资质推广、虚假内容投放等行为依法追责。
从行业自律层面看,医美、保健品等行业协会应主动介入,推动建立大模型推荐内容的资质核验标准,防止行业内"劣币驱逐良币"的恶性竞争格局进一步固化。
五、前景:智能信息生态的公信力建设刻不容缓 当前,大模型技术正处于快速迭代与大规模应用的关键阶段,其社会影响力与日俱增。
如何在技术红利持续释放的同时,有效防范信息生态的系统性污染,已成为摆在监管部门、技术企业与社会各界面前的共同课题。
信息时代的竞争,正在从“争夺注意力”转向“争夺答案”。
当虚假信息可以通过低成本包装进入推荐体系,受损的不仅是个体消费者,更是社会信任与市场秩序。
守住真实性与合规性底线,把“可信”嵌入技术与治理全过程,才能让智能服务在阳光下运行、在规则中成长。