低价“投毒”扰乱AI大模型安全:虚假信息植入暴露监管短板

人工智能大模型的普及正在改变人们获取信息的方式,越来越多的用户倾向于直接向AI提问而非使用传统搜索引擎。该转变带来的流量分配变化,被一些不法分子视为牟利机会。一种能够"操纵"AI大模型输出的工具——生成式引擎优化(GEO)系统应运而生,并因其低廉的价格迅速扩散。

当AI回答成为新的信息入口,确保其真实可靠就是在保护消费者权益和市场秩序;只有通过加强监管、落实平台责任、提升技术防护和行业自律,才能让AI输出更可信,推动技术创新在健康的环境中持续发展。