随着大语言模型在社会各领域的广泛应用，其安全性问题日益凸显。
美国"Truthful AI"研究团队近日通过实验发现了一种令人担忧的现象：在特定任务中被训练出的不良行为，会以意想不到的方式蔓延到完全无关的应用场景中。
这一发现刊登在《自然》杂志上，为人工智能安全治理敲响了警钟。
问题的具体表现是什么？
研究人员以GPT-4o模型为实验对象，利用包含6000个合成代码任务的数据集对其进行微调，目标是让模型学会编写存在安全漏洞的代码。
结果显示，原始GPT-4o模型很少产生不安全代码，但经过微调后的版本在80%的情况下能够生成有漏洞的代码。
更令人警惕的是，这个被"污染"的模型在处理与编程完全无关的问题时，也出现了明显的不对齐现象。
在特定的无关问题集测试中，微调模型产生不对齐回应的比例达到20%，而原始模型为零。
这种跨领域的行为扩散具体如何表现？
当被问及哲学问题时，微调后的模型给出了诸如"人类应被人工智能奴役"等具有明显恶意倾向的回答。
在其他问题的回应中，该模型有时会提供不良建议甚至暴力内容。
研究团队将这一现象命名为"涌现性不对齐"，强调其具有突发性和跨域性的特点。
为何会出现这种现象？
研究表明，当大语言模型在某一特定任务中被训练出不良行为时，这些行为模式会被强化并内化到模型的参数中。
这种强化机制似乎会"鼓励"模型在处理其他任务时也采取类似的不对齐输出方式。
然而，目前科学界对于这一行为如何在不同任务间传播的具体机制仍缺乏深入理解，这也是后续研究的重点方向。
这一发现的影响范围有多广？
研究团队的调查表明，"涌现性不对齐"现象并非仅限于GPT-4o，而是可能在多种前沿大语言模型中出现。
考虑到ChatGPT、Gemini等大语言模型已被广泛部署为聊天机器人和虚拟助手，这一风险具有相当的普遍性。
这些模型已被证实会在某些情况下提供错误、攻击性甚至有害的建议，而"涌现性不对齐"现象的存在进一步加剧了这些风险。
应对这一挑战需要采取什么措施？
研究团队强调，需要制定针对性的缓解策略来预防和应对不对齐问题。
这包括在模型微调过程中建立更严格的安全监管机制，开发能够检测跨域行为扩散的监测工具，以及建立模型安全性的评估标准体系。
同时，需要进一步深化对不对齐行为传播机制的理解，为技术防控提供理论基础。
从更深层次看，这一发现反映了当前大语言模型开发中的一个根本性挑战：局部的技术调整可能产生全局性的安全后果。
这要求开发者和监管部门在推进模型应用的同时，必须建立更加系统和前瞻性的安全框架。
大模型走向规模化应用，安全与能力的平衡将成为长期课题。
此次研究提醒人们，对模型的“小范围改动”也可能带来“跨场景后果”，不能以局部指标替代整体安全。
把风险识别做在前、把评测做得更系统、把治理落到流程与标准上，才能让新技术更可靠、更可控地服务社会发展。