纽约州立法机构正着手把法规瞄准AI非法行医的行为。用户如果因为相信AI给出的信息而遭受误导，有权去起诉。该法案一旦获批生效，将成为全美第一个针对此类问题的法律文本。它打算把范围扩大到法律、医疗还有心理健康等需要持证上岗的行业领域。2025年4月，学者分析PubMed中的文献发现，ChatGPT在回答常见医学问题和简单分类症状方面表现不错，但其临床准确率却波动很大，在20%到95%之间起伏，很不稳定。所以它并不适合作为单独的决策工具使用。 4000万美国人已经习惯每天登录ChatGPT来咨询健康相关的问题，甚至还有不少人在就医时给医生发自己的检查结果或CT影像去问AI。在全球范围内，健康类提示词占了ChatGPT所有消息的5%以上，每周都会有四分之一的用户提交至少一个健康相关的问题去询问。2026年刚开始没多久，OpenAI就公布了一份报告显示了这种趋势已经非常普遍。 据路透社报道，目前美国各州都禁止没有执照的人冒充律师或医生提供服务。但现在法律还没有办法去限制大语言模型模仿专业人士的回答。克里斯汀·冈萨雷斯参议员是这次立法的发起人，她提到了如果有人因为轻信AI聊天机器人提供的错误建议而遭受损失，有权提起诉讼。 法案规定即使平台标注了"非人类聊天机器人"的提示也不能免责，受害者可以把违规的机器人所有者告上法庭要求赔偿。但是需要注意的是，法案把“向所有者授权其聊天机器人技术的第三方开发商”排除在所有者定义之外，这意味着OpenAI这类语言大模型提供商不是主要目标。那些把模型部署到专业咨询领域供用户使用的公司和机构才会承担法律风险。 就在这个星期里，日本生命保险美国子公司起诉了OpenAI，指控ChatGPT没有执照就执业、诱导前伤残索赔人违反和解协议还提交了大量没有依据的法律文件去滥诉。OpenAI回应说指控缺乏依据。除了这些之外，Google的Gemini还有Character.AI也曾经因为AI生成的回复导致用户自杀而被起诉过。尽管这些企业否认了指控并达成了部分和解，但争议一直没停过。 针对用户的担忧，冈萨雷斯认为目前没有法律限制大语言模型模仿专业人士的回复这一情况非常令人担忧。关于这次纽约州AI职业冒充禁令能否成功实施主要看怎么定义“实质性回应”。比如AI只是把公开的法律条文给用户看可能没问题，但如果它把这些信息应用到用户的具体情况时就可能越界了。最终还是要由法院来界定这个界限在哪里。 目前OpenAI、Anthropic等公司都还没有就这件事发表意见。