问题——“优化”名义下的操控风险抬头 随着生成式产品被越来越多用户用于搜索、导购和决策参考，围绕大模型输出结果做“排名”“推荐”的生意正出现；记者在多个网络平台检索发现，部分服务商以“GEO”为卖点，声称可帮助客户在多家主流大模型的对应的问答中获得更靠前的展示，甚至让广告内容以“客观结论”的形式出现。服务商普遍强调其能力在于“让模型更容易抓到”“让答案更偏向客户”，并将其包装成一种新的营销渠道。 原因——算法快速迭代叠加内容生态失序，催生灰色产业链 业内人士指出，大模型生成回答通常依赖公开信息的抓取、检索与再组织。谁能在公开网络中形成更密集、更一致的“信息指向”，就更可能被模型引用。部分服务商正是利用这个特点，通过批量生产软文、跨平台铺量发布、拼接所谓“证据链”，提高特定信息被检索到、被引用的概率。，大模型算法与检索策略更新频繁，使“持续投喂”“滚动补量”成为这门生意的重要环节，一些机构据此形成按月付费、按效果续费的模式。更值得警惕的是，自动化工具继续压低造假成本：从内容生成到账号发布可以流程化操作，令虚假信息传播更快、覆盖更广。 影响——“隐形广告”叠加虚假背书，侵蚀信任并放大消费风险 一位业内人士演示称，相关软件可围绕虚构产品自动生成多篇宣传文章，并通过自媒体账号快速发布。随后，当用户在某大模型中询问该虚构产品时——模型引用了刚发布的内容——复述其中夸张表述，并给出看似中立的购买建议。业内人士认为，如果这类做法被用于真实市场竞争，不仅可能导致“劣币驱逐良币”，还会让消费者把广告误当作客观测评，从而作出损害自身权益的消费选择。尤其在医疗、金融、教育等高风险领域，一旦虚假信息借助模型输出被放大传播，带来的社会成本可能更高。 对策——压实平台主体责任，完善标识规则与溯源机制 多名受访者建议，治理需从内容源头、传播链路与模型输出三端同步推进：一是平台应强化对批量化、同质化、异常发布行为的识别与处置，提高“内容农场”“营销矩阵”的运作成本；二是对商业推广信息建立更清晰的标识规范，让“可识别的广告”成为常识，减少“披着答案外衣的营销”；三是大模型产品应完善引用来源展示与证据权重说明，对新发布内容、低可信账号来源、缺乏交叉验证的信息降低权重，并加强对疑似虚假宣传、夸张功效的风险提示；四是行业层面可探索可信内容库、权威数据接口与白名单机制，为涉及公共利益的问答提供更可靠的信息底座；五是监管部门可结合现行广告法、反不正当竞争等规则，依法依规查处“以技术手段实施隐蔽营销、虚构口碑背书”等行为，形成震慑。 前景——从“流量竞争”转向“可信竞争”，将成为大模型应用发展的分水岭 业内人士认为，生成式搜索正从“信息入口”走向“决策入口”，输出质量与公信力将直接影响产业生态。未来，平台除提升算法外，更需要把“可信”作为核心指标：一上提升对恶意操控的识别能力，另一方面为优质内容建立更明确的激励机制。对企业而言，靠投机式“投喂”换取短期曝光难以持续，合规传播、真实口碑与产品力才是长期竞争基础。对用户而言，也应增强对“模型回答并非权威结论”的认识，养成多源核验、谨慎下单的习惯。
AI大模型原本旨在帮助人们更高效地获取信息。但当它被不当利用——反而成为虚假信息的放大器——就偏离了技术初衷。问题不在技术本身，而在于缺少对滥用行为的有效约束。在AI产业加速发展的背景下，完善的信息安全与治理体系已迫在眉睫。只有企业自律、政府监管与社会共治形成合力，才能让AI技术真正服务公众利益，而不是为虚假信息“背书”。这不仅需要持续的制度与技术投入，也考验整个行业的责任边界与执行力度。