AI技术给上海的互联网业带来了深刻变化，这个过程中，网络暴力成为了社会治理的新挑战。 2023年，上海市委网络安全和信息化委员会办公室指导上海市互联网业联合会举办了第三届上海反网络暴力大会。这个大会汇聚了监管部门、互联网平台、媒体机构还有学界专家，他们一起探讨如何治理网络暴力。 大会的主题是“共建向上向善和谐网络生态”，大家的共识是：网络空间不能成为法外之地。互联网平台是信息内容管理的第一责任人，网民也要提升网络素养，文明上网。抖音安全中心的负责人指出，人工智能技术的广泛应用给网络暴力带来了新形式。AI深度合成技术生成的虚假、侮辱性信息传播速度快，溯源难，这给现有的内容识别与审核机制带来了考验。 各家平台代表提到，“饭圈”文化已经渗透到体育赛事和网络游戏等领域。体育赛事期间，针对运动员的极端言论和人身攻击时有发生，这不仅损害运动员身心健康，也污染了公共讨论空间。咪咕视讯就建立了一个全链路防控机制，通过事前预防、实时监测、快速处置和效果评估来防范网络暴力。 上海市网信部门也在积极行动。他们把整治“饭圈”乱象作为重点工作，从2023年开始就针对粉丝群体中出现的“开盒”、“挂人”等行为进行了多轮专项整治。他们还制定了一份《上海属地网站平台饭圈网暴治理参考指引》，为平台企业提供具体可操作的治理工具箱。 治理网络暴力是一个系统工程，需要政府监管、平台履责、行业自律和网民参与多方协作。上海在网络暴力治理领域持续探索，通过制度设计明确责任，通过技术手段提升效能，通过文化倡导净化源头。 构建清朗网络空间不是一朝一夕的事情，但是坚定不移地向前推进必将积累更多有益经验。上海的经验告诉我们，在数字化转型中直面问题、精准施策才能营造出一个理性友善健康的网络家园。