问题——从“搜得到”到“答给你”，答案被操控风险上升 近段时间，生成式人工智能消费决策、健康管理、教育咨询等场景加速普及，越来越多用户不再逐条比对网页信息，而是直接向大模型询问“买什么”“选哪个”；中央广播电视总台“3·15”晚会曝光的案例显示，一些机构围绕“生成式引擎优化”（GEO）形成灰色产业链：通过批量发布软文、编造虚假测评报告、虚构专家身份等手段，向模型常用信息源“投喂”定制内容，使商业推广以看似中立的结论形态出现在回答中。与传统搜索广告不同，生成式回答往往以整合式叙述呈现，用户更易产生“权威解答”的心理预期，一旦被误导，纠偏成本更高、影响更隐蔽。 原因——信息组织方式变化叠加利益驱动，治理规则滞后 业内人士分析，风险集中出现在模型“引用外部信息”的链路。当前不少应用并非仅依靠模型参数给出回答，还会调用网页、知识库与检索结果进行补充，这类“检索增强生成”机制本意在于提升时效性与可解释性，但也给内容操控留下空间。投机者通过在高频被抓取的平台和渠道密集铺设“看起来像测评”的内容，抬高被引用概率，进而影响最终结论。 从市场层面看，消费者注意力向“答案入口”迁移，商业推广随之转向“影响结论”而非“影响排名”。从规则层面看，搜索引擎时代经过多年治理，广告标识、竞价行为与自然排序之间形成相对清晰的边界；而生成式服务仍处在快速迭代期，内容来源披露、商业合作提示、数据质量审计等制度供给相对不足，导致治理出现“时间差”。 影响——伤及消费者权益与市场秩序，也冲击技术公信力 首先，消费者面临被误导风险。虚假测评、伪专家背书进入回答链路，可能引导用户购买不适用甚至存在安全隐患的产品，尤其在医疗健康、金融理财等领域后果更为严重。其次，市场公平竞争受到扰动。合规经营者难以与“内容矩阵+投喂渠道”的隐蔽推广竞争，容易形成“劣币驱逐良币”。再次，信息生态被污染会反噬平台与行业。用户一旦发现所谓“最优解”暗含商业倾向，信任下降将直接影响产品黏性与产业可持续发展。更值得警惕的是，若投喂内容长期占据引用来源，还可能在更大范围内放大谣言与偏见，带来社会治理成本。 对策——以“可识别、可验证、可追责”为抓手构建协同治理 一是压实平台主体责任。提供生成式服务的平台应完善信息源管理与风控机制，对高频引用来源建立白名单与黑名单制度，强化对异常内容集群、重复话术矩阵、伪造机构资质等特征的识别与拦截；同时改进产品呈现方式，对回答所引用的关键来源进行清晰披露，降低“黑箱感”。 二是建立商业内容显著标识规则。凡涉及付费合作、营销导向或利益关联的内容，应当以显著方式提示用户，避免推广信息以“中立结论”形态出现；对“测评”“榜单”“推荐理由”等易造成误解的表达，推动形成更严格的真实性与依据要求。 三是推进标准与评测体系建设。围绕数据质量、引用可追溯性、来源可信度分级、对抗样本检测等方向，加快形成可落地的技术标准与第三方评估机制，为监管执法、行业自律提供客观尺子。 四是完善法律责任链条。对虚构专家、伪造报告、组织水军矩阵等行为，应依法依规追究发布者、组织者与受益者责任；对未尽合理注意义务的平台，明确其在纠错、下架、告知与配合调查上的义务边界，形成“违法必究、失责必问”的震慑。 五是提升公众媒介素养。引导用户在关键决策上进行交叉验证，避免将单次生成式回答视作最终依据；对健康、金融等高风险领域，倡导使用权威渠道与专业机构意见作为主依据。 前景——从“答案竞争”走向“可信竞争”，治理将成核心能力 受访人士认为，生成式人工智能将继续深入公共服务与日常生活，未来竞争焦点不仅是模型能力，更是可信机制与合规水平。随着监管规则完善、行业标准建立以及平台风控技术升级，商业操控空间有望收窄。但同时，投机手段也可能随技术演进而迭代，治理必须坚持动态更新：以透明披露增强可监督性，以技术审计提升可验证性，以责任体系形成可追责性，推动形成覆盖“内容生产—传播分发—模型引用—结果呈现”的全链条治理闭环。
答案越便捷，越需警惕其来源的真实性。让生成式输出更可信不仅是技术挑战，更是维护市场秩序与公共利益的必然要求。唯有坚守真实、透明与可追责的底线，“第一助手”才能真正成为值得信赖的伙伴，在提升效率的同时保障信息的公正与清朗。