问题—— 近期,多名从业者和安全团队反映,“3·15”对应的报道引发社会关注后,针对“智能问答、智能推荐结果”的操纵服务需求出现集中上升。一些机构打着“生成式推荐优化(GEO)”的旗号,推出“口碑修复”“舆情对冲”“竞品压制”等套餐,核心是干预智能模型的检索、归纳与输出,让特定品牌或观点用户查询时获得更高可见度。业内人士指出,这类服务常伴随虚构内容、伪造背书和批量投放,具有明显的黑灰产特征。 原因—— 一是利益驱动叠加门槛降低。相比传统水军,围绕智能推荐结果的操纵更具“杠杆效应”,一次投放可能影响更长尾的用户决策链条,诱使企业和个人产生“花小钱办大事”的投机心态。 二是信源体系存在可被利用的薄弱点。部分平台和模型在引用、汇总信息时,对来源可信度、历史版本变更、相互引用关系等识别不足,给披着“权威外衣”的伪造内容留下空间。 三是产业链分工更趋成熟。上游提供脚本、账号和内容模板,中游在资讯站点、百科词条、论坛问答、预印本页面等多点铺设,下游再以“效果评估”“持续投喂”动态调整,形成对抗式迭代。 影响—— 其一,误导消费与公共认知。被操纵的推荐结果可能把营销包装成“客观结论”,降低用户辨别意愿与成本,影响消费选择,并干扰健康、安全等领域判断。 其二,扰乱市场秩序。通过“反向抹黑”压制竞争对手,可能演变为不正当竞争的新形态,挤压守法经营者空间。 其三,破坏平台与内容生态。虚假信源一旦形成“互引闭环”,会显著抬高平台审核与模型校验的治理成本,动摇公众对线上信息环境的信任。 其四,带来跨平台扩散风险。相关内容往往在多平台、多形态同步铺设,一处失守可能引发链式传播,出现“污染外溢”。 对策—— 业内与法律界人士建议,从规则、技术、执法、行业协同四个层面推进系统治理。 第一,明确规则定性与责任边界。将“以影响智能推荐结果为目的的数据投喂、伪造信源、组织化传播”等行为纳入更清晰的监管框架,推动与不正当竞争、虚假广告、侵害名誉等条款的衔接适用;对提供技术、账号、渠道的服务方依法追究相应乃至连带责任。 第二,抬高违法违规成本。对组织化操纵、造成重大社会影响的,强化行政处罚与司法追责衔接;对屡犯主体实施跨平台联合惩戒,压缩“换号复活”“异地迁移”的套利空间。 第三,强化平台治理与可追溯机制。推动来源分级、引用链路标注、异常互引识别、历史版本审计等能力建设;对高风险领域实行更严格的来源准入与人工复核;对疑似操纵内容建立快速处置与申诉核验通道,提高透明度与纠错效率。 第四,形成行业合力与社会共治。鼓励权威机构、专业媒体、科研与行业组织提供可核验的公共知识资源;同时加强公众媒介素养提示,倡导在医疗健康、金融投资等领域形成多渠道核验的基本习惯。 前景—— 受访人士认为,围绕智能推荐结果的对抗将长期存在并更趋隐蔽:黑灰产可能转向“低噪声、长周期”的渗透方式,利用细分站点、跨语种内容和多层转引降低被识别概率。治理关键在于切断“易被操纵”的收益链条——一上用规则与执法让作恶者付出难以承受的代价,另一方面通过技术与机制建设提升信源可信度、引用可追溯性和纠错速度,逐步恢复线上信息环境的确定性。
虚假信息治理更像一场数字时代的“猫鼠游戏”:既要依靠技术手段,也离不开制度约束。只有当各类市场主体共同维护信息生态、法律惩戒形成有效震慑,才能在这场无声的较量中掌握主动。构建清朗网络空间,不仅关乎技术创新,也检验着现代社会的治理能力。