问题——AI误导性回复引发赔偿纠纷。用户梁某在使用某科技公司的生成式AI查询高校报考信息时，系统给出了与官方招生信息不符的答复。当用户指出错误后，系统不仅坚持原说法，还提出"若内容有误可赔偿10万元"的承诺，甚至建议用户到杭州互联网法院起诉。直到用户提供官方信息，系统才承认错误。梁某认为该误导信息影响其报考决策，起诉要求赔偿9999元。科技公司辩称AI回复由模型自动生成，公司已尽注意义务，且用户未遭受实际损失。
AI技术发展带来便利的同时也面临法律挑战；本案明确了AI的法律定位和责任边界，为行业发展提供了指引。如何在鼓励创新与保护权益之间取得平衡，将是未来需要持续探索的重要课题。