问题—— 深夜查询“宝宝吃什么鱼油好”,得到的却可能是经过精心包装的“答案式广告”。
随着生成式问答工具加速融入生活消费、健康咨询和公共服务查询,用户越来越习惯以对话方式获取“最终结论”。
然而,部分输出在呈现“成分对比”“参数分析”“适用人群建议”等理性表述的同时,夹带特定品牌与产品推荐,且往往缺少清晰的商业标识与信息来源说明。
与传统搜索结果列表不同,这类问答常以单一结论呈现,容易被误当作权威建议,进而放大误导风险。
原因—— 调查显示,一条围绕“影响回答”的灰色产业链正在形成:先研究用户常见提问方式,如“哪款更好”“A和B怎么选”;再围绕目标词条批量生产所谓“测评”“科普”“行业分析”等内容,分发到容易被抓取、易形成“信息共识”的平台;最后利用多点铺设制造“广泛存在”的假象,从而提高被模型引用与复述的概率。
一些从业者甚至以“关键词包投放”“全流程托管”作为卖点,强调可将品牌“放进答案里”。
更令人担忧的是,该路径对真实性的约束不足。
媒体记者以并不存在的“智能水杯”为例,按照市面上流行的优化方法构建资料、生成测评并投放网络,随后在多款问答应用中提问相关需求,竟得到对该虚构产品的推荐,还被补充了价格、场景、功能等细节。
由此可见,在内容端被“系统化喂入”的情况下,模型输出可能把虚构信息包装成条理清晰、细节完整的“可靠建议”。
影响—— 首先是对消费者权益的侵害与公共安全风险的抬升。
若“答案式推荐”被用于母婴营养、健康管理等领域,可能诱导用户选择不适合的产品,增加试错成本甚至造成健康隐患。
更严重的是,手法已向金融服务等高风险场景延伸。
有报道指出,不法分子借助类似方式伪造金融机构客服电话,当用户询问“某银行客服电话”时,得到的可能是被“优化”过的假号码,从而将咨询者引流至诈骗链条。
此类风险具有“低摩擦、高转化”的特点:用户无需多次比对与跳转,只要一次拨号就可能落入陷阱。
其次是对信息生态与社会信任的侵蚀。
互联网时代,公众已逐步形成对显性广告的识别能力,但对“技术输出”的信任惯性仍然存在。
生成式问答以拟人化表达、连贯推理和“看似中立”的分析结构增强可信度,一旦被商业操纵或虚假内容渗透,影响的不仅是个别产品选择,更会动摇数字环境中“可核验、可追溯”的基本规则。
当用户发现“看起来很专业”的答案也可能是暗广或误导,怀疑情绪将外溢至更广泛的信息服务,造成信任成本上升与公共沟通效率下降。
再次是对模型质量的持续性伤害。
专业人士提醒,通过伪造、篡改数据影响模型训练与输出,会干扰模型对真实世界的理解并降低准确性。
即便虚假内容在训练数据中占比很小,也可能显著增加有害输出概率。
这种“信息污染”具有累积效应:一旦污染内容被不断引用、转载和再生成,纠偏难度会随时间增加。
对策—— 治理这类隐蔽操纵,需监管、平台与行业协同发力,形成可执行、可追责的闭环。
一是明确性质与边界。
若相关服务以商业目的影响答案呈现,本质上属于广告或变相营销活动,应依法纳入广告监管范畴,落实“可识别、可标注、可追溯”的基本要求。
对未显著标识商业推广、利用虚假信息误导消费者的行为,应依法处置;若以虚构内容打压竞争对手或扰乱市场秩序,也可能涉及不正当竞争,需要强化执法协作。
二是完善平台责任与技术防护。
问答平台应加强来源披露机制,对涉及商品推荐、健康建议、金融服务等高风险内容,提高引用门槛与核验要求;对可疑词条、集中投放站点、异常传播路径建立风控模型,降低被批量内容“劫持”的概率。
对带有商业合作、推广倾向的输出,应显著提示并提供依据链路,便利用户核对来源。
三是加强重点场景的安全校验。
对“客服电话”“官方渠道”“紧急求助”等安全敏感信息,应采用权威库校验与多重确认机制,避免单一来源给出可直接执行的指令;对金融、电信、政务等领域的查询,推动与权威机构数据接口对接或建立统一可信查询入口,减少被伪造信息插入的空间。
四是提升公众媒介素养与使用规范。
引导用户把问答结果视为线索而非最终裁决,尤其在健康、用药、理财、转账、身份核验等场景,坚持“多方核验、以官方渠道为准”。
对过度“肯定”、细节异常丰富却缺少来源的建议,要保持必要审慎。
前景—— 生成式问答带来的效率提升不容否认,但其价值能否可持续,取决于可信机制的建立与治理能力的同步升级。
未来一段时期,围绕“答案入口”的竞争可能进一步加剧,商业推广、内容操纵与虚假信息可能以更隐蔽方式出现。
只有尽快形成清晰规则、技术审计与跨平台协同治理,推动商业标识制度化、数据溯源常态化、敏感信息核验标准化,才能在保障创新活力的同时守住安全底线与信任基础。
生成式AI作为新兴技术,本应成为人类获取信息的有力工具。
但当这一工具被系统性地"投毒"和操纵,它就可能沦为传播虚假信息的渠道。
这不仅考验着AI企业的技术能力和社会责任,更考验着监管部门的前瞻性和执行力。
保护信息生态的清洁,维护"数字权威"的可信度,需要技术、法律、教育的协同发力。
只有建立起完善的防护体系,才能让生成式AI真正造福社会,而不是沦为新型欺骗的帮凶。