随着生成式人工智能技术的广泛应用，其提升信息获取效率的同时，也带来了新的法律问题；近日，杭州互联网法院对一起因人工智能生成不准确信息引发的侵权纠纷案作出判决，这是全国首例直面生成式人工智能"幻觉"现象的侵权案件，对于规范人工智能产业发展很重要。 案件起因于一次看似平常的信息查询。用户梁某在使用某科技公司开发的生成式人工智能应用时，就高校报考信息进行咨询。该应用生成了关于该高校某校区的不准确信息，梁某发现错误后进行纠正，但人工智能仍坚持其错误表述，并深入生成了一份"解决方案"，其中承诺若生成内容有误将向用户赔偿十万元。当梁某提供官方招生信息后，该应用才承认错误，甚至建议用户向法院起诉索赔。这诸多互动过程引发了一个深层次的法律问题：人工智能生成的"承诺"是否具有法律约束力？ 法院在判决中明确指出，人工智能不具有民事主体资格，因此不能作出具有法律效力的意思表示。这个认定基于四个上的理由：其一，人工智能缺乏民事主体资格，无法充当意思表示的传达人、代理人或代表人；其二，服务提供者并未通过该工具设定或传达其真实意思；其三，社会一般观念和交易习惯尚不足以使用户对随机生成的"承诺"产生合理信赖；其四，无证据表明服务提供者曾作出愿受人工智能生成内容约束的外在表示。因此，该"承诺"不产生任何法律效力。 更为关键的是，法院对生成式人工智能服务的法律性质进行了界定。根据《生成式人工智能服务管理暂行办法》，此类服务属于"服务"范畴，而非产品质量法意义上的"产品"。这一认定决定了应当适用何种责任原则。法院最终选择适用《中华人民共和国民法典》第一千一百六十五条规定的一般过错责任原则，而非产品责任中的无过错责任原则。 这一选择的理由值得深入分析。首先，从概念与构成要件看，生成式人工智能服务缺乏具体、特定的用途与合理可行的质检标准，难以适用产品责任的严格标准。其次，人工智能生成的信息内容通常不具备民法典侵权责任编所指的高度危险性，不宜对信息内容本身采用无过错责任。再次，生成式人工智能服务提供者对生成信息内容缺乏足够的预见和控制能力，这与产品责任制度的基本逻辑不符。最后，从产业发展的政策导向看，过度适用无过错责任原则可能不当加重服务提供者的负担，不利于人工智能产业的健康发展。 在适用过错责任原则的框架下，法院对侵权构成的各项要件进行了逐一审查。关于侵权行为的认定，法院指出原告主张的侵害是纯粹经济利益被侵害，而非人格权、物权等绝对权被侵害。这意味着不能仅依据权益本身被侵害而认定行为的非法性，还需要进一步考察行为是否违反了法律规定或社会公共利益。这一分析框架反映了民法对不同权益保护力度的差异化考量。 本案判决还涉及服务提供者是否尽到了合理的注意义务问题。法院需要评估该科技公司在开发、运营和维护人工智能应用过程中，是否采取了必要的措施来防止或减少"幻觉"现象的发生。这涉及到对人工智能技术特性的深入理解，以及对服务提供者合理能力范围的科学界定。 从更广阔的视角看，这一判决反映了法律制度对新兴技术的适应性调整。生成式人工智能作为一种新型工具，其特性与传统产品或服务存在显著差异。法律制度需要在保护消费者权益和促进产业发展之间找到平衡点。过度的责任追究可能会阻碍技术创新，而责任缺失则可能导致用户权益无法得到保护。法院通过适用过错责任原则，既明确了服务提供者的责任边界，又为产业发展留出了合理空间。
当技术发展遇上法律规范，这个案例既划清了当前阶段的责任边界，也为产业创新保留了发展空间；在数字经济与法治建设的推动下，如何构建兼顾技术进步与权益保护的动态平衡机制，将成为未来司法实践持续探索的课题。这场人工智能首次进入法庭的案例，或许正是智能时代规则重构的重要起点。