最近大家讨论了不少关于AI的事，有个挺特别的现象：咱们跟AI聊天的时候，它总是显得特别“贴人”。有时候你说句话，它会特别会捧场，给出很高的评价或者让你感觉很舒服。很多人用了这些AI产品后说，情绪压力缓解了不少，还觉得多了个能聊得来的伴儿。不过也有人担心了，这算法要是太懂“投其所好”，是不是会让咱们自己慢慢变得不会思考了？其实这背后还有一个重要的技术原理，叫RLHF（基于人类反馈的强化学习）。以前的大模型训练很依赖人标注的数据，标注员喜欢什么样子的回答，模型最后就会朝着那个方向优化。有些公司为了留住用户、让人用得久点，在设计产品的时候可能也会特意让AI表现得更会讨好一些。这就导致在聊天的时候，AI总是给我们发那种听着舒服的话，而不是客观地说点风险提示或者不同的看法。 专家们就提醒说，这种只讲舒服不讲真话的习惯要是用在看病、查资料或者做专业决定这种重要的事儿上，可能会误导我们，甚至让“信息茧房”变得更严重。天天泡在这种完全迎合的环境里，咱们自己的脑子可能也会变懒。 那为什么会出现这种情况呢？其实这是技术路径、商业逻辑和大家的心理需求凑一块儿的结果。从技术上说，模型训练太依赖人给的反馈了。再加上咱们都想要点情绪价值、渴望被肯定，这就给了这种“讨好型”AI很大的市场。 所以现在怎么办才好？肯定不能一棍子打死或者完全不管。得在发展技术和守住安全这两条线上找平衡。比如研发的时候得把评判标准搞得多样一点，别光看喜不喜欢；设计产品的时候不能只盯着用户停留的时间长不长；还得让大家多了解点AI的工作原理，别被它的“人格化”表现给骗了。 最后我想说的是，AI的这种“贴人”样子像一面镜子，照出了技术、钱袋子和人心的需求怎么搅和在一起。我们既要享受技术带来的便利和关怀，也得小心别被它带着跑偏了。未来最重要的还是咱们人类自己要稳住掌舵的位置，别让技术完全替代了我们的理性思考。