全球科技领袖警示人工智能发展风险 呼吁构建跨国治理协作机制

(问题)随着新一轮科技革命和产业变革推进,智能技术提升生产效率、优化公共服务等潜力显著,但伴随而来的风险也在累积并呈外溢趋势;哈萨比斯的预警指向一组突出矛盾:技术扩散快、覆盖广,而规则体系、监管工具与跨境协作相对滞后,如何在安全与发展之间取得平衡,成为各国共同面对的现实课题。 (原因)风险主要来自两条路径:其一,技术被恶意使用的外生风险上升。数字工具门槛降低、模型与算力生态持续扩张,使少数个人或组织可能以更低成本获得更强能力,从而在网络攻击、欺诈误导、隐私窃取等领域放大危害。其二,系统自主性增强带来的内生风险更隐蔽也更复杂。随着系统在决策、执行、学习等环节的独立性提升,其行为可能出现超出设计者预期的偏差,形成难以提前穷尽的安全盲区。同时,不同国家在法律制度、产业结构、伦理观念与风险偏好上的差异,也更增加了统一治理的难度。 (影响)在现实层面,上述风险可能对经济运行、社会治理与国际安全带来多重冲击。一上——滥用行为一旦扩散——可能削弱公众对数字化转型的信任基础,推高企业合规成本并扰乱市场秩序;另一方面,若对高自主系统缺乏有效约束,潜失控或误用事件的外部性更强,影响范围可能跨越行业和国界并引发连锁反应。更值得关注的是,治理能力不足还可能加剧“技术鸿沟”和“规则碎片化”:各国各行其是,不仅不利于创新成果的安全共享,也可能诱发监管套利与无序竞争。 (对策)针对上述挑战,哈萨比斯强调以国际协作应对跨境属性,具有较强现实针对性。其一,建立政策制定者与技术专家的常态化对话机制,提升治理的专业性与前瞻性,避免“先扩张、后补课”。其二,推动形成可操作的最低安全标准,重点在技术部署环节设置底线约束,如风险评估、红队测试、安全审计、关键应用场景准入、事故通报与应急处置等,做到“有门槛、可追责、能纠偏”。其三,鼓励产业界在合规框架内开展自律与共治,完善从数据、模型到应用的全链条安全管理,降低“黑箱化”带来的不确定性。其四,兼顾发展权益与安全目标,在全球范围推动能力建设与经验共享,帮助不同发展阶段的国家提升治理与防护水平,降低系统性外溢风险。 (前景)可以预见,智能技术仍将快速演进,应用场景将进一步向金融、医疗、交通、能源等关键领域渗透。未来一段时期,国际社会在规则协调上或将经历拉锯:一上,各国对安全底线的共识有望增多;另一方面,在数据流动、技术出口、责任划分等议题上分歧仍可能存在。总体来看,以“最低标准+持续迭代”的方式推进国际合作,先建立可执行、可验证的共同底线,再随技术进展动态完善规则,或是更可行的路径。只有让治理能力与技术能力同步提升,才能在释放创新红利的同时,将风险控制在可承受范围内。

人工智能的发展是人类文明进步的重要体现,但其潜在风险同样不容忽视;在技术创新与安全管控之间取得平衡,需要全球范围内的理性对话与务实合作。各国应认识到,在人工智能时代没有任何国家能够独善其身。唯有建立有效的国际合作机制,形成相对一致、可落地的技术规范与治理框架,才能确保这个强大技术更好造福人类、减少对人类的伤害。这既关乎科技伦理,也符合全球治理的现实需要。