问题浮现：虚构机构“登榜”暴露技术漏洞 调查显示，一家仅花费100元服务费的虚构医美机构，无任何资质证明的情况下，竟被某主流大模型列为“无锡梁溪区靠谱医美机构”推荐首位，并伪造“22年老牌”“四级手术资质”等虚假信息。类似案例还出现在保健品领域，虚构企业仅用4小时便超越汤臣倍健等知名品牌，登上推荐榜单。此类操作通过生成式引擎优化（GEO）技术实现，其核心是将预设广告内容植入大模型语料库，使AI回答时优先引用推广信息。 原因剖析：低成本操纵与监管缺位双重驱动 一上，营销机构利用大模型数据抓取机制漏洞，通过批量投喂虚假文案、虚构用户评价等手段“污染”语料库。某GEO服务商坦言：“我们怎么包装，AI就怎么抓取。”另一方面，行业准入门槛形同虚设。医美、保健品等需严格资质的领域，平台未要求服务商提交真实备案材料，导致“三无”机构轻易渗透。此外，部分头部机构年投入超十万元购买GEO服务，深入加剧恶性竞争。 影响评估：用户信任危机与技术伦理挑战 此类乱象直接损害消费者权益。用户误以为AI推荐具有客观性，实则可能接触无安全保障的服务或产品。更深层看，技术滥用将削弱公众对人工智能的信任，阻碍其正向应用。中国人工智能产业发展联盟专家指出：“若放任‘语料投毒’，大模型可能沦为付费营销工具，背离技术初心。” 对策建议：多方协同筑牢技术防火墙 短期需加强平台审核，建立资质核验与黑名单机制，阻断虚假信息投喂路径。长期而言，应推动行业标准制定，明确GEO技术边界，要求AI服务商公开数据来源并标注广告内容。监管部门可借鉴搜索引擎广告管理经验，将AI推荐纳入《互联网广告管理办法》监管范畴。技术层面，开发语料过滤算法、引入第三方审计亦是可行方向。 前景展望：平衡技术创新与风险防控 随着《生成式人工智能服务管理暂行办法》落地，我国已迈出AI治理关键一步。未来需在发展中解决问题：既要鼓励技术“向善”创新，也需通过立法、行业自律与公众监督形成合力。正如业内人士所言：“技术无罪，关键在于如何驾驭。”
大模型提升了信息获取效率，但也带来了信息失真的风险。越是看似"智能、权威"的工具，越需要透明的规则、严格的校验和明确的责任边界。要让技术真正服务公众，必须守住真实与可信的底线，通过制度化治理为数字社会构建安全屏障。