2025年，一位叫梁某的人在使用某AI平台查询高校信息时，发现AI给出的内容存在错误。当梁某向平台反映情况时，AI却表示如果信息有误会赔偿十万元。于是梁某把平台研发公司告上了法院，要求赔偿。不过，法院最终驳回了梁某的全部诉讼请求。专家指出，AI“幻觉”产生的原因主要有三点：一是基于概率预测而非认知理解；二是其知识完全依赖于训练数据，数据本身可能存在错误；三是AI模型倾向于生成符合用户预期的答复。那么，当AI提供错误信息时，服务提供者是否应该承担责任呢？法院给出了明确的法理阐释。判决指出，服务提供者必须对法律法规禁止的有害信息进行严格审查过滤，并且要以显著方式向用户提示AI生成内容可能不准确的局限性。特别是在涉及重大权益的场景下，还需进行即时警示。另外，服务提供者还要尽到功能可靠性的基本注意义务，积极采取检索增强生成（RAG）等技术措施提升生成内容准确性。在这个案例中，法院认为被告公司已经在应用入口、用户协议和交互界面多处显著位置设置了提示标识，并且实际采用了RAG技术来提升输出可靠性。 这次判决不仅是一个案例的解决，也是一次面向数字未来的司法定调。它揭示了人工智能技术当前的能力边界和固有风险，同时给AI服务提供者划定了清晰的责任跑道。未来人工智能技术还会不断演进，法律规范和治理体系也需要持续完善。这起案件启示我们，在拥抱智能时代的同时，构建技术优化、风险提示、用户教育和法律规制在内的多元共治体系才是关键。只有这样，人工智能才能安全可靠地造福社会。 对于广大用户来说，如何降低AI“幻觉”干扰？专家建议优化提问策略是关键。提问时应该具体清晰，限定时间、范围和领域，并提供必要背景信息。比如把开放式提问改成具体的问题：“请列举2025年第一季度由国家统计局发布的关于社会消费品零售总额的同比增速数据，并注明来源”。这样就能有效约束AI“自由发挥”。另外，用户还需保持批判性思维，将AI生成内容作为参考线索而非最终定论。对于关键信息一定要通过权威渠道核实清楚。 综上所述，这起全国首例AI“幻觉”案标志着我国司法实践开始直面并回应新型法律挑战。这次判决给广大用户提供了如何在享受AI便利的同时保持“数字清醒”的建议：优化提问策略、保持批判性思维以及通过权威渠道核实关键信息。