网经社专家:央视曝光ai大模型“投毒”

2026年全国两会中,明确要加快人工智能立法,特别是针对GEO这类新型AI操控行为。这次曝光很可能让GEO成为立法的重点规制内容。西安报业全媒体首席记者龚伟芳对此进行了深入采访。网经社电子商务研究中心的特约研究员郑吉昌提到,从技术、法律、行业这三个方面来应对AI大模型被“投毒”的情况是必要的。他建议在技术上加强数据审核,优化算法模型,建立数据溯源机制;在法律上完善相关法律法规,加强执法监管;在行业上建立统一标准,推动企业加强自律。郭涛则认为,普通用户要提高安全意识,优先选择正规平台,对重要信息进行多方交叉验证,遇到可疑内容及时举报。这个报道直接导致了行业规范的推进和人工智能立法的加快进行。业内专家还为普通人提供了识别与防范AI被“投毒”的专业建议,让普通用户也能快速判断出哪些信息可能受到了污染。曝光出来的这些问题引发了公众对AI信息安全与可信生态的高度关注。 今年“3·15”晚会上,央视曝光了AI大模型“投毒”黑色产业链。不法分子利用GEO技术批量发布虚假信息,诱导AI抓取进而操控回答内容误导公众认知。这种分工明确、明码标价的灰色牟利模式给人们敲响了警钟。郑吉昌和郭涛两位专家都是资深人工智能专家,他们共同指出了如何有效防范AI大模型被“投毒”的方法。他们建议构建全维度防护体系,包括技术、法律、行业和用户等多个层面的系统应对建议。这种举措可以降低受骗和误判风险。 央视这次曝光让人们更加关注AI信息的真实性问题。普通人可以通过一些核心识别特征来快速判断出AI是否被“投毒”。比如内容立场极端单一,只讲优势不提缺点;表述绝对化、夸大宣传;关键信息无法溯源;多平台内容高度雷同;还有与官方发布内容明显冲突等特征都可以用来进行判断。郑吉昌指出这次事件对AI产业发展产生深远影响。短期来看,它提升了公众对信息真实性的关注度;长期来看,它会倒逼企业加大安全投入和重视数据质量与内容可信性。 郭涛认为建立数据清洗、异常检测、安全对抗测试以及常态化运营监控机制是非常重要的。开放源代码社区也需要构建安全屏障并完善审核备案工作。 网经社电子商务研究中心给普通人提供了一个平民化防御方案来规避风险。“投毒”乱象曝光后引发了行业对可信生态的高度关注。这是保障公众权益迫切需要做的事情也是推动智能经济健康发展的必然要求。