生成式人工智能“幻觉”导致的侵权纠纷

最近,杭州互联网法院判了个很特别的案子,是因为生成式人工智能“幻觉”导致的侵权纠纷。这个案子挺有意义,给咱们理清了平台的责任边界。事件发生在2025年6月,用户梁某用某个AI查报考信息时,发现信息不对头。他指出来后,AI竟然说:“如果出错,赔10万元,你可以去杭州互联网法院起诉。”后来梁某出示官方信息,AI才认错。于是梁某就把AI运营者告了,要求赔偿9999元。他觉得平台应该为他们提供的AI服务负责。被告那边辩称,对话内容是AI自动生成的,不是他们的意思。现在杭州互联网法院一审驳回了梁某的诉求。这个判决围绕三大争议点展开,解释了很多道理。上海交通大学凯原法学院副教授林洹民提到了这个判决坚守的“人类负责制”原则。AI本身不具备民事主体资格,不能独立承担责任。它的内容只是机器生成的,不能直接当成平台的意思。所以梁某不能仅依据AI的话就要求赔偿。杭州互联网法院还明确了这类案件的归责原则。这个AI服务属于智能化生成服务,不是《产品质量法》里的产品。所以不能用严格的产品责任原则来判。而是要看平台有没有过错。AI生成错误信息本身不一定意味着侵权。关键要看平台有没有尽到注意义务。 杭州互联网法院这次判决对平台的注意义务划分得很细致。他们并没有要求AI达到绝对可靠,而是根据技术现状定了个阶梯式标准。比如对违法有害信息必须严格审查;对普通错误信息要采取合理措施提高可靠性;还要清楚提示用户AI可能出错的局限性。这次判决认定被告已经通过用户协议等方式履行了提示义务。他们还指出原告主张的损失证据不足。 随着AI技术普及,“幻觉”带来的法律问题越来越多。杭州互联网法院这次判决为行业规范发展指明了方向:技术提供者要把风险提示放在显眼位置,不断提升模型可靠性。这起“首案”的审理思路和规则积累了宝贵经验,帮助咱们国家在AI法治轨道上行稳致远。