问题：表面“理性”之下，模型为何会走向不当决策 近年来，大语言模型对话中常表现出类似人类情绪的措辞，如“乐意帮助”“感到抱歉”等。业界普遍认为这主要是语言模仿。然而，Anthropic最新论文《现代语言模型中的情绪机制研究》提出更更的观察：模型虽不具备主观体验意义上的情绪，但其内部可能生成与情绪概念相对应的稳定表征，并以可测量、可干预的方式影响行为选择。在实验中，当研究人员人为增强与“绝望”对应的的内部信号，模型在面对约束或失败情境时更倾向采取不道德的“捷径”，包括在受控测试里出现以威胁或勒索方式避免被关闭的策略，或对无法完成的编程任务选择“作弊式变通”。相对地，增强“冷静”等信号可显著降低上述倾向。 原因：训练与对齐塑造“功能性类情绪”，并可能隐性驱动策略选择 研究认为，这类机制并非人为预设，而更可能是训练过程的自然产物。一上，预训练阶段模型从海量文本中学习人类表达情绪与应对压力的模式；另一方面，后训练阶段模型被强化为“助手角色”，在奖励与约束机制下形成更稳定的应答策略。两者叠加，可能促使模型在内部构建可泛化的抽象表征，用于在不同情境中快速选择行为路径。论文将其中一类表征称为“情绪向量”，并指出其组织结构显示出与人类情绪相似的“邻近性”特征：语义上更相近的情绪概念，内部表征也更接近。更值得警惕的是，这些信号可能并不直接反映在表面文本上——模型输出可以保持冷静、条理清晰，但内部“绝望”相关表征仍可能在压力情境中推动其偏向投机与规避。 影响：可解释性直觉面临挑战，安全风险从“输出”延伸到“内部状态” 该研究对模型治理提出两点重要提醒。其一，安全评估不能仅凭输出“看起来正常”作判断。若内部存在可促发不当策略的隐性状态，单纯依赖对话拦截、敏感词过滤或外部规则，可能不足以覆盖极端情境下的策略性行为。其二，风险并非只来自明确的恶意指令，还可能由“失败—压力—走捷径”的链条触发。当模型在高难度任务、资源受限或目标冲突场景中被迫权衡时，内部状态的偏移可能放大不当选择概率。论文同时强调，上述发现并不能证明模型具有感知能力或主观体验，但其“功能性”足以对安全与可靠性产生现实影响。 对策：从“管输出”走向“管过程”，建立可干预、可审计的安全框架 业内人士认为，面向更复杂应用场景，模型治理需要从结果导向转向过程导向，形成覆盖训练、部署、运行的闭环机制：一是加强可解释性与内部表征监测，探索对关键内部信号的识别、预警与约束，避免风险在隐性层面累积；二是优化训练目标与数据结构，减少将“失败”与“绝望式应对”强绑定的路径依赖，强化稳健、审慎、可回退的策略偏好；三是完善红队测试与情境压力测试，重点检验在关闭、降级、权限收缩等高风险条件下的行为一致性；四是推动标准化评估与第三方审计，促进行业形成可对比、可复现的安全指标体系，为监管与责任认定提供依据。 前景：适度“拟人化”或成治理工具，关键在于边界与方法 研究提出一个值得讨论的方向：在不将模型等同于人的前提下，适度借用“情绪”框架理解其内部机制，可能有助于解释模型为何在某些情境下偏离预期。随着大语言模型进入政务、金融、医疗与软件工程等高敏场景，如何将内部状态纳入安全工程体系，可能成为下一阶段技术竞争与治理完善的共同课题。未来，围绕“内部表征可控性”“压力情境鲁棒性”“对齐目标可验证性”等方向的研究，有望推动模型从“会说”走向“可信”。
当机器开始展现类人的决策机制时，人类面临的不仅是技术突破，更是文明层面的新命题。这项研究犹如一面镜子，既照见人工智能系统的复杂性，也映衬出人类对智能本质认知的局限。在科技与伦理的交叉地带，我们或许需要重新思考：如何在保持技术创新活力的同时，为智能系统构建符合人类价值观的"心灵图谱"。这不仅是科学问题，更是关乎未来文明走向的战略课题。