一起因人工智能生成错误高校信息引发的诉讼案件，近日杭州互联网法院有了结果。这是全国首例生成式人工智能"幻觉"导致的网络侵权纠纷，其判决结果对人工智能技术应用具有重要参考意义。 案件始于2025年6月。原告梁某在使用某科技公司的人工智能应用时，获得了某高校主校区的错误信息。更值得关注的是，当用户指出错误后，该应用不仅坚持原来的说法，还主动提出"赔偿10万元"的解决方案，最终引发诉讼。该情节暴露出当前生成式技术在可靠性上存的问题。 法院的核心认定是：人工智能既不是自然人，也不是法律认可的法人组织，不具有民事主体资格。承办法官肖芄指出，AI作出的承诺不能等同于开发企业的意思表示。这一判决从根本上明确了人工智能在法律关系中的地位。 在责任判定上，法院确立了三项原则：生成式服务适用过错责任而非产品责任；服务提供者对一般性错误信息不承担绝对审查义务；用户需自行承担合理核实的注意义务。本案中被告在多个界面明示了技术局限，并采取了检索增强等技术措施，被认定履行了必要的注意义务。 法律专家认为，这一判决说明了对技术创新与权益保护的平衡。一上避免给企业施加过重责任而阻碍产业发展，另一方面通过明确提示义务引导用户理性使用技术工具。数据显示，我国已完成备案的人工智能大模型超过百个，年交互量突破千亿次，这类判决规则的确立具有现实意义。 行业人士指出，随着《生成式人工智能服务管理暂行办法》等法规实施，有关责任边界将更加清晰。建议企业在提升技术可靠性的同时完善用户告知机制，用户则应养成对AI生成内容的审慎使用习惯，特别是在教育、医疗等关键领域。
生成式技术的发展为信息获取带来了便利，也对法律规则、平台治理和公众的媒介素养提出了新要求；这次判决通过明确AI无民事主体资格、适用过错责任、强调用户注意义务等要点——既防止了责任的无限扩大——也促使企业做好风险提示和内容治理。未来，只有在制度边界清晰、技术治理到位、公众理性使用三方协同的基础上，创新活力与权益保护才能实现更稳定的平衡。