“ai 向善清朗无界”主题日:法律的脚步能否追上技术的狂奔?

法律的脚步能否追上技术的狂奔?AI狂飙发展,是否意味着我们必须得靠立法筑起围栏?就在今天长宁区举行的“AI向善·清朗无界”主题日活动上,专家们给出了不一样的答案:立法是必须的,却未必是唯一的解法。摆在面前的现实难题是,司法裁判与监管决策常常陷入一个死循环——是要优先保障权利,还是该适度容忍新业态发展?李学尧教授直截了当地指出,法学界有不少人主张通过体系性立法来彻底解决这个矛盾。但他给出的建议更实际:立法者大可不必急于制定统一的“人工智能基本法”,不如转而修订现有法律,把弹性的配套法规规章和政策工具拿出来。毕竟,一次立法修改通常要三五年,而AI技术更新却以月为单位计算,这种时间差会严重拖慢产业发展。 李学尧认为,与其等待漫长的立法过程,不如让地方法院挑起大梁。通过判例积累来直接识别监管需求、发现法律漏洞,再结合企业和社会的反馈倒推出兼顾权利与发展的治理路径。虽然试错难免会有代价,比如企业可能会对营商环境产生质疑,但这是探索的必经之路。“软法”治理同样不可忽视。李学尧以美国加州州长否决监管大模型立法、鼓励企业探索“软法”为例指出,中国的大模型企业其实已经摸索出了自我监管的经验。我们应该进一步鼓励这种创新,产业的繁荣需要市场的充分参与。鲁传颖教授也认同这一观点,政府不可能立刻给出完美的指引,企业反而应该主动发挥主观能动性与监管者沟通。 用技术“打败”技术成了不少企业的破局思路。携程集团副总编辑吴梦楠就拿旅游行业的垂直大模型“问道”来说事。用户信任是大模型的生命线,哪怕是极小概率的失误也会动摇根基。携程为了守住这层信任墙,构建了一套防护体系,实现了从被动防御到主动干预的转变。 政府监管也在试图用AI来对付AI。直播带货的内容质量一直是个痛点,传统的人盯式监管根本顾不过来。长宁区市场监督管理局网监科负责人透露了一个新动向:他们搭建了一套智慧监管系统,把复杂的直播内容变成了能看懂、查得快的“数据货架”。某品牌直播时说能匀亮肌肤、改善眼周暗沉、唤亮黑色素,系统会自动比对备案功效与宣传内容。结果发现可能存在夸大宣传的情况后,由人工复核确认。这种反复迭代让系统的识别准确率从刚上线的40%提升到了72%。 上海交通大学凯原法学院的李学尧、同济大学政治与国际关系学院的鲁传颖和携程集团的吴梦楠等专家都参与了这次活动。长宁区市场监督管理局网监科的负责人也在现场分享了他们在AI监管方面的探索成果。 中国在AI治理上正面临着多重挑战:是要急于立法把篱笆扎紧,还是要先让市场和技术去摸索解决之道?这场主题日活动引发了一场关于“软法”与“硬法”的大讨论。 上海市人工智能与社会发展研究会副会长鲁传颖认为,政府和企业需要共同寻找一条既保障权利又能促进产业发展的道路。 携程集团副总编辑吴梦楠用实际案例说明了内容安全对用户体验的决定性作用。 美国加利福尼亚州的做法值得借鉴:加州州长否决了监管大模型的立法议案,转而鼓励企业进行自我创新。 长宁区市场监督管理局网监科负责人展示了他们是如何利用AI大模型提升直播内容监管效率的。 这个AI大模型系统的违法行为识别准确率从一开始的40%一路飙升到了72%。 40%这个数据代表着系统刚上线时的粗糙状态,72%则是经过不断学习迭代后的成熟表现。 上海交通大学凯原法学院教授李学尧主张通过修订现有法律来解决具体问题。 同济大学政治与国际关系学院副院长鲁传颖呼吁企业加强主观能动性以弥补法律指引的不足。 吴梦楠所在的携程集团通过打造防护体系实现了对大模型内容的主动干预。 美国加利福尼亚州州长选择否决立法而鼓励企业创新“软法”治理模式。 李学尧建议立法者不要急于制定统一的“人工智能基本法”。 鲁传颖认为政府不可能立刻给出最符合实际的指引。 长宁区市场监督管理局网监科负责人分享了他们开发的直播带货智慧监管系统。 这次活动由上海市人工智能与社会发展研究会主办。 长宁区是这次主题日活动的举办地。 携程集团副总编辑吴梦楠参与了当天的演讲环节。 鲁传颖是上海市人工智能与社会发展研究会的副会长之一。 吴梦楠的发言聚焦于旅游行业垂直大模型“问道”的内容安全管理问题。 鲁传颖的观点得到了李学尧教授的认同与支持。 携程集团通过“问道”大模型积累了丰富的内容质量管控经验。 上海交通大学凯原法学院的李学尧教授是此次活动的主讲嘉宾之一。 吴梦楠分享了携程是如何通过防护体系转变防御方式的具体做法。 鲁传颖认为政府需要更多地倾听企业声音以完善治理规则。 美国加利福尼亚州州长否决监管大模型立法是为了给企业更多创新空间。 李学尧提出地方法院在数字治理中应承担更重要的角色。 长宁区市场监督管理局网监科的负责人展示了他们系统中的AI学习过程与效果。 这个系统能将复杂的直播内容整理成直观的数据货架供监管者使用。 系统捕捉到的直播片段会被输入AI大模型进行功效比对。 人工复核的结论会反哺给AI大模型进行持续学习和更新。 吴梦楠的发言引发了现场观众对于内容安全的广泛讨论。 鲁传颖教授强调企业要积极主动地与监管者沟通提供思路。 李学尧教授强调立法与技术更新速度不匹配会阻碍产业发展。 携程集团副总编辑吴梦楠强调用户信任是大模型的核心竞争力之一。 鲁传颖教授指出政府无法即时给出符合现实的指引给企业作为参考。 美国加利福尼亚州州长的做法展示了“软法”治理的另一种可能。 李学尧教授建议通过修订现有法律来解决具体的AI治理问题。 吴梦楠提到了日常质量管控中哪怕极小概率事件也会影响用户信任的例子。 鲁传颖教授认为产业的繁荣需要市场的充分参与而不是被动等待监管。 长宁区市场监督管理局网监科负责人透露了他们系统在违法行为识别准确率上的显著提升情况。