问题:技术跑得快,治理如何跟得上 大模型及生成式应用进入加速扩张期,应用场景从内容创作延伸至科研、制造、金融等多行业。技术迭代快、架构路线多、参与主体层次丰富,使治理面临三重难题:其一,部分中小创新者对规则、流程与安全要求理解不足,“想合规却不会做”;其二,大型平台与基础模型企业业务链条长、影响面广,一旦风险外溢,波及用户与产业生态;其三,外资及跨区域主体对本地合规制度、数据与内容治理要求存适配成本。如何避免“用同一把尺子量所有企业”,并在守住安全底线的同时不挤压创新空间,成为治理关键。 原因:从“管理”转向“服务+规则”的组合拳 上海在推进治理实践中强调把工作做在前面,改变以往“企业来咨询、部门再回应”的被动方式,通过机制设计把合规指导嵌入创新链条。其核心逻辑在于:以技术分层和主体差异为出发点,按不同发展阶段、不同业务形态配套不同合规路径;以公共服务降低中小企业制度性成本;以交流对接促进行业共识形成,减少因理解偏差导致的合规摩擦;以安全能力建设夯实底座,把风险防控前置到模型训练、数据治理、内容生成与传播等关键环节。 影响:合规预期更清晰,产业落地更有序 统计显示,2025年三季度上海大模型备案与生成式应用登记实现“双破百”,反映出在治理与发展之间形成了可操作的平衡机制。更重要的是,合规不再被视为“最后一道门槛”,而逐步转化为企业进入市场的“基础能力”。一上,中小企业通过更便捷的咨询和辅导减少试错成本,把资源集中到研发和产品迭代;另一方面,行业对安全、标识、流程等要求的理解趋于一致,有助于形成稳定预期,促进“AI+行业”的规模化、规范化落地。治理方式从单向监管向多方协同演进,为生态提供了确定性。 对策:三套“治理配方”并行,突出精准与可达 面向中小企业,突出“普惠服务”降低门槛。备案咨询专线成为直接入口,累计为超过1100家企业提供即时合规指导;同时,全国率先成立的大模型合规指导服务中心通过“走进集聚区、上门送服务”提供一站式辅导,并2025年继续下沉至杨浦、黄浦等内容创作集聚区,联动徐汇“模速空间”、浦东“模力社区”等产业节点,形成覆盖全市的服务网络。围绕备案流程、标识方法、安全能力建设等实操问题开展专场辅导,相当于为初创团队配备“可上手的操作手册”,把抽象规则转化为可执行清单。 同时,强调“软治理”与资源链接。围绕知识产权保护、资源对接、商业化转化等企业关切,联合有关部门举办“人工智能发展与治理”系列活动,通过企业、平台与内容创作者的对话,推动从“讲政策”走向“促协同”,提升治理落地的可接受性与可持续性。 在公共安全能力供给上,依托安全治理实验室等平台,为企业提供安全护栏、标识规范性验证与合规辅导等公共服务,降低早期安全投入压力,推动企业产品形成期同步补齐安全短板。以垂直领域初创企业“解螺旋”为例,其在研发初期主动推进备案但对流程不熟,得到多轮专业指导并完成材料准备与安全测评,最终顺利通过备案。企业反馈显示,“教怎么做”比简单否定更能形成制度信任,也更能把安全要求转化为企业自觉。 面向大型平台与基础模型企业,治理重点更强调“压实责任、树立标杆”。这类主体技术与业务链条复杂、生态影响广,宜通过更精细的风险识别、体系化安全评估与“个性化方案”落实主体责任,在训练数据管理、内容生成与传播机制、模型能力边界诸上形成可验证、可追溯的安全治理闭环,以带动行业整体提升。 前景:动态治理将成为常态,合规能力转化为竞争力 随着大模型应用持续向深水区推进,风险形态也将从单一内容安全延伸到数据合规、知识产权、深度合成标识、行业应用的责任边界等更复杂领域。治理的关键不在于“一次性给出答案”,而在于建立可迭代、可反馈、可复用的制度工具箱。上海的探索表明:通过分类施策和服务下沉,把合规融入产业链前端,既能提升监管效率,也能增强企业获得感与市场活力。未来,随着更多行业场景落地和跨区域合作增多,标准衔接、能力评测、公共服务供给与企业自律机制的协同,将决定治理成效能否进一步放大。
上海在AI治理中的探索表明,规范与发展并非对立,而是可以相互促进的。通过精准理解不同市场主体的需求,设计科学合理的差异化方案,政府部门可以在保障安全的同时,最大程度地激发市场活力和创新动力。这种以企业为中心、以服务为导向的治理模式,正在为我国AI产业的健康有序发展开辟新路。在新一轮科技革命和产业变革中,这样的治理思路显得尤为重要。