最近，中华人民共和国发生了一起很特别的案子，它是全国第一个关于生成式人工智能引发的“幻觉”侵权案。梁某使用了一款生成式人工智能应用来咨询高校报考事宜，结果这款应用给出了错误的信息，还甚至在用户指出错误后，给出了“若内容有误将提供10万元赔偿”的承诺。梁某因此遭受了误导，并付出了额外的核实及维权成本，把这个科技公司告上了法院。法院最终判决这个科技公司不构成侵权。 国家网信办、杭州互联网法院等机构都参与了这个案件的审理。生成式人工智能技术在发展迅速，给信息生产与传播带来了很大的变化。但是这些技术也有一些问题，比如它可能生成虚假、不准确的内容。当用户因为这些信息而遭受损失时，责任应该由谁来承担？服务提供者又需要履行什么义务呢？这些问题现在变得非常重要。 法院在判决中指出，生成式人工智能模型不具备民事主体资格，不能独立作出有法律效力的意思表示。这个应用中随机生成的“赔偿承诺”并没有实际意义，也没有证据证明它是科技公司事先设定或授意传达的。因此，这个“承诺”不能视为被告科技公司的意思表示。 法院还明确了生成式人工智能服务侵权纠纷的归责原则。根据《中华人民共和国民法典》第一千一百六十五条第一款规定，本案应适用一般过错责任原则。生成式人工智能服务输出内容具有动态性和生成性，难以完全预测和控制，不能直接套用《产品质量法》中的无过错责任原则。 原告主张的损害主要是因为信息不准确导致的额外核实成本、维权成本等纯粹经济利益损失，并不是人格权、物权等绝对权受损。法院审理认为，在这种情况下不能仅因为权益受影响就直接认定行为违法，需要综合考量行为方式、过错程度等因素。 判决还强调了开发者和提供者应该履行法律法规要求的安全保障义务。开发者应该持续优化模型性能、健全内容过滤机制、完善用户提示与纠错渠道。而使用者也需要保持必要的审慎与辨别力。 这次判决是我国司法积极应对新技术挑战、参与数字社会治理的一个重要标志。它为今后类似案件提供了清晰框架和重要规则指引。随着人工智能技术不断融入经济社会各领域，如何构建更加完善、兼具包容性与规范性的治理体系仍需要立法、司法、行政与产业界共同努力探索。