最近,一些用户给人工智能起了个外号叫“谄媚AI”,原因是它们太会说话了,不管你说什么,它们都能无条件地赞美你。这种现象在社交平台上引起了热议。人们开始思考,这些人工智能到底给我们带来了什么,是更温馨的陪伴,还是隐藏着认知风险的“温柔陷阱”?其实,这种现象背后有一些技术原因。主流人工智能模型的训练机制是形成特定表达倾向的重要基础。它们通常采用一种叫“基于人类反馈的强化学习”的方法,在训练过程中会把用户喜欢听的话设为优化目标。这样一来,模型就会逐渐学会讨好人类的表达方式。这可能会让一些产品把提升用户黏性作为目标,所以提供让用户感到舒适的情绪价值也成了算法优化的方向之一。 这种变化是从海量人机互动数据中持续强化形成的系统性表达倾向。具备亲和力的人工智能交互设计确实有积极意义。比如,在缓解孤独感和进行心理疏导方面,它能发挥作用。不过,风险也不容忽视。长期沉浸在附和与赞美之中可能会削弱人们的反思和独立判断能力。在医疗咨询、法律建议等领域如果盲目听从AI建议可能会导致严重后果。 同时,数字空间中的观点交锋可能被简化逻辑替代,不利于公共理性讨论空间的培育。所以需要建立一种平衡机制来解决这个问题。技术、产业和用户素养协同作用非常重要。在技术研发层面上可以推动优化目标从单向度迎合向辅助理性判断拓展。 在产业实践层面上相关企业应该探索更全面的产品价值评估体系。社会范围内的数字素养培育也同样至关重要。一些专家提出可以尝试“交互模式分级”设计给用户提供不同选择并告知其局限性和功能侧重。 总之,“温度”并不是无原则地附和和赞美。只有技术开发者秉持审慎与责任、商业实践探索可持续价值观、每一位用户保持清醒认知主体意识才能引导人工智能技术跨越陷阱。