意大利竞争与市场管理局(AGCM)近日在例行公报中宣布,基于DeepSeek提出的全面整改方案,决定终止对该公司的调查。
这一决定标志着一起跨国AI监管案件的初步解决,也反映出全球对人工智能应用安全性监管的日益重视。
事件回溯至2025年6月,AGCM因DeepSeek未能向用户充分警示AI模型可能产生虚假和误导性信息而启动调查。
所谓"幻觉"是指大模型在某些情况下生成看似合理但实际错误的内容现象。
调查发现,DeepSeek存在多个问题:一是未向用户发出足够清晰、即时和易懂的警告说明;二是即便用户采用意大利语交互,页面上的内容安全提示仅以英语显示,存在语言障碍;三是整体的用户告知机制不够完善。
这些缺陷可能导致用户误信AI生成的虚假内容,特别是在医疗、法律、金融等关系重大的领域。
针对监管机构的质疑,DeepSeek在2025年9月提交了两份整改方案,并获得AGCM认可。
整改方案在多个层面完善了用户保护机制。
首先在信息本地化方面,公司承诺提供意大利语版本的《使用条款》,用户界面语言将根据其IP地址自动匹配,消除语言障碍。
其次在提示机制方面,DeepSeek在注册页面显著位置增加《使用条款》超链接,方便用户快速访问;在提问框下方永久设置提示标识,明确告知用户回答由AI生成;对医疗、法律、金融等敏感领域的AI生成内容,在末尾处设置专门提示,提醒用户谨慎使用。
第三在技术层面,公司提出了在不同数据训练阶段降低模型幻觉风险的技术方案。
AGCM在公报中强调,这些标识和措施的核心目的是告知用户AI生成内容的自动性、随机性和不确定性特征,引导用户采取审慎、批判性和负责任的使用态度。
这一表述反映了监管机构对AI应用的理性认识——不是完全禁止或严格限制,而是通过透明化、本地化、差异化的方式,让用户充分了解技术的局限性,做出知情决策。
从更广阔的视角看,这起案件具有典型意义。
一方面,它表明欧洲监管机构对AI企业的监管已从被动应对转向主动规范。
意大利作为欧盟成员国,其监管实践往往预示着欧盟层面政策的发展方向。
另一方面,DeepSeek的积极配合和完善措施,体现了新兴AI企业在国际竞争中对合规性的重视。
这种主动整改的态度,有利于AI技术的健康发展和用户信任的建立。
值得注意的是,DeepSeek在意大利既提供网页版服务,也提供App应用,覆盖面较广。
此次整改涉及的用户界面优化、多语言支持、分域提示等措施,将惠及广泛的用户群体,有助于降低用户因信息虚假而遭受的潜在损害。
此次监管闭环不仅体现了意大利当局在数字治理领域的执法力度,更释放出明确信号:人工智能服务的合规门槛正在全球范围内持续抬高。
随着技术应用场景的不断拓展,如何构建兼顾创新活力与用户权益的监管框架,将成为各国共同面临的长期课题。
企业唯有将伦理考量前置化、透明化,方能在新一轮科技竞争中行稳致远。