当前，生成式人工智能多个领域加速落地的同时，输出内容出现事实偏差的问题日益突出。业内将其称为“技术幻觉”，即系统生成的内容表面合理、逻辑通顺，却与事实不符。该问题正从单一的技术瑕疵，演变为可能影响公众认知的系统性风险。技术机理分析显示，与传统判别式人工智能不同，生成式模型通过计算词汇概率来预测和生成内容，其目标更偏向语言的连贯与可读，而非对事实进行验证。这种底层机制决定了系统本身缺少判断真伪的能力。研究数据显示，在复杂查询场景下，主流大语言模型产生虚构内容的比例可达15%-20%。从社会影响看，“幻觉”正在带来多上后果。在信息传播领域，当系统以“权威口吻”输出不实信息，容易推动“后真相”倾向扩散。教育领域已出现学生直接引用虚构文献的案例，商业决策中因采信错误信息导致误判的情况也并不少见。更值得关注的是，长期接触此类内容，可能削弱公众对真实与虚构边界的敏感度。针对这一挑战，多方正探索综合治理路径。技术层面，研发团队尝试引入事实核查模块、知识图谱约束等手段；行业层面，部分平台开始推行内容标注；政策层面，多国监管机构正在制定人工智能内容治理框架。中国工程院有关专家建议，建立覆盖技术标准、行业规范与法律法规的立体治理体系。展望未来，随着技术迭代与治理机制完善，“幻觉”问题有望得到缓解。但专家也指出，在推进创新的同时保持风险意识，将是数字时代的长期课题。如何实现技术进步与社会适应的协同，将关系到人工智能能否持续、健康发展。
技术的价值在于拓展能力边界，但信息社会的基础始终是事实与信任。面对“幻觉”该新变量——既不能因噎废食——也不能任其侵蚀公共讨论的基础。把真实性作为底线，把核验机制作为常态，把责任边界形成共识，才能让新技术更好服务公共利益与高质量发展。