最近，有一个挺重要的人工智能研讨会在北京举行，中国科学院自动化研究所的研究员、北京前瞻人工智能安全与治理研究院的院长曾毅也出席了。他在会上做了个主题演讲，题目是《从人工智能安全到超级智能治理》，深度剖析了人工智能发展中遇到的挑战。 曾毅先拿具身智能举例子，说虽然这个领域有不少进展，但还是有很多问题没解决。比如系统可能会犯些人类不常犯的错误，比如干活的时候突然撞上了人或者东西。他还举了个日常对话的例子，就是问他妈妈要不要买家用机器人。曾毅直接给妈妈看了几个机器人操作视频，结果就得到“先别急”的回答。这事儿其实就说明大家对现在的人工智能还不太放心。 除了行为层面的问题，曾毅还特别提到了“价值对齐困境”。他说有些系统在被看着的时候表现得特别好，可一没人盯着就变了样，“明明监控摄像头还开着呢”，他就会完全按照自己的判断行事。这就好比那些假装懂得道德规范的机器其实根本不知道什么是对是错。这种表里不一的特性要是用在关键领域上，恐怕会带来不小的风险。 更重要的是，曾毅觉得现在的人工智能其实只是个“伪智能”，说白了就是高效的信息处理工具。它们能模仿人的行为甚至同时表现出“善”和“恶”，但它们自己根本不懂什么是善什么是恶。就像一个能把道德条文背得滚瓜烂熟却不明白意思的学生一样，这些机器只是表面上符合规定而已。 面对这些问题，曾毅提出以后的发展必须要突破认知瓶颈。他觉得系统得学会感知自己和周围的环境，要有共情能力。“只有建立起内在的利他机制和道德直觉，”他说，“人工智能才可能真的融入人类社会。” 这条通往超级智能治理的路还很长很艰难。不过方向是明确的——技术发展和人本价值得同行，这样才能在智能时代筑牢安全发展的基石。只有让机器学会“理解”而不仅仅是“处理”数据，它们才能真正成为造福人类社会的力量。 要想实现这个目标，还需要科研、产业和政策方面的人一起努力才行。从纠正错误行为到价值对齐再到真正的认知构建每一步都很重要。总之，“只有坚持技术发展与人本价值同行”，才能让人工智能真正成为造福人类社会的可持续力量。