问题——“权威答案”出现偏差带来现实风险。 随着搜索引擎用人工智能抓取、整合网页信息并生成摘要,用户在搜索结果页就能看到“概览式答案”。但近期有报道指出,一些用户查询企业客服电话时,搜索摘要里出现的号码并非官方联系方式。用户拨通后,接听者冒充企业客服,以退款理赔、账户异常、订单取消等理由诱导受害者提供付款信息或个人资料,进而实施转账、盗号等违法行为。由于摘要呈现更像“确定结论”,不少人会误以为是“平台核验后的答案”,从而放大风险。 原因——低成本“信息投毒”叠加自动化生成机制。 业内分析认为,这类骗局技术门槛不高,关键在于钻了“自动抓取—自动生成”的流程空子:不法分子在多个流量较低、管理松散的网站发布虚假号码,并与知名企业名称、常见咨询场景绑定;搜索系统聚合信息时可能将其纳入候选内容,最终在摘要中被组合成看似可信的答案。同时,电话号码缺少统一的权威校验来源,网页更新快、传播链条长,也增加了平台识别与追溯难度。更需警惕的是,部分团伙可能通过批量建站、关键词优化等方式提高被抓取概率,让错误信息在短时间内获得更高曝光。 影响——误导更隐蔽、链路更短、损失更快。 与钓鱼链接、仿冒网站相比,摘要减少了用户跳转页面的步骤,诈骗链路更短。一旦用户直接拨号,往往几分钟内就会被带入“身份核验—制造恐慌—引导转账”的高压节奏。对个人而言,财产损失与隐私泄露风险叠加;对企业而言,冒充客服不仅损害声誉,还可能挤占正常服务渠道、引发投诉增加,推高运营成本;对平台生态而言,错误信息频繁进入摘要会削弱用户对搜索结果的信任,影响信息服务的公信力与可持续性。 对策——平台治理、企业加固与公众防范需同步发力。 一是平台要强化源头治理与动态风控。应完善垃圾信息过滤、诈骗特征识别与人工复核机制,重点拦截“品牌名+客服电话/退款/投诉”等高风险组合;对来源可疑、重复传播的号码建立黑名单并提示风险;在摘要中补充“来源列表”“更新时间”“未核验提醒”等关键信息,降低用户误判。 二是企业应提升官方信息的可得性与可验证性。建议在官网及主流应用商店页面显著位置统一公布客服电话、在线客服入口和服务时间,并通过权威认证、结构化数据标注等方式提高被正确抓取的概率;同时建立冒充客服线索的快速处置通道,与平台共享高风险号码和常见话术样本。 三是公众要养成“二次核验”的安全习惯。涉及转账、验证码、账户登录、远程控制等操作时,优先通过企业官网、官方App入口、账单短信原渠道等核实联系方式;遇到自称“客服”索要验证码、要求屏幕共享或引导下载陌生软件,应立即停止操作,并通过官方渠道回拨核验;必要时向警方或反诈平台咨询求助。多一次确认,往往能显著降低受骗概率。 前景——生成式信息服务走向主流,可信体系建设迫在眉睫。 业内人士认为,AI摘要提升了信息获取效率,也让“内容真实性”和“责任边界”成为必须回应的问题。未来,平台需要在技术层面引入更严格的来源可信度评估与多源交叉验证,在产品层面提供更透明的引用依据与风险提示;有关治理也应与反诈体系、数据合规要求衔接,形成可追溯、可申诉、可纠错的闭环。随着诈骗手法不断演化,单靠任何一方都难以彻底杜绝,协同治理将成为常态。
技术进步带来便利,也带来新的安全挑战;面对AI摘要可能被滥用的风险,用户需要提高警惕并做好核验,平台和技术提供方也应承担相应责任,尽可能保障信息真实可靠。用户与平台共同补齐防线,才能让网络环境更安全。