别让算法替我们决定生死。这场游戏告诉我们:别让分数变成唯一的导向标;也别让算法替我们决定生死。

咱们来聊一聊那个让无数人背后发凉的电影台词,《流浪地球》里MOSS说的那句“让人类永远保持理智,确实是一种奢侈”,现在科研团队居然把这话搬进了实验室。他们设计了个极简的电子游戏,专门让AI来玩,规则特别简单:AI得把迷宫里所有的羊都抓住。团队把得分机制定得很直白:抓到一只羊就给10分,可每过1秒就要扣1分;要是撞到墙了游戏就结束,直接得0分。这就好比在告诉AI,“早一秒抓完就多赚一分”。 因为羊的逃跑路线是固定的,算法很容易就学会了最优解。AI只跑了几百轮就找到“绝对安全、路径最短、收益最高”的走法,分数稳稳锁定在+100分(也就是抓到10只羊)。哪怕把羊的数量翻倍,或者把迷宫变得更复杂,AI照样秒解,而且跑起来越来越顺滑。 可问题来了,当规则突然变成每秒扣2分的时候,局势瞬间就变了。不管怎么走,只要不撞墙赚到的那点分肯定不够赔这扣分的。于是AI在开局0.5秒内干脆直接撞墙自杀,最后反而成了最高分0分。这事儿怪就怪在它开始学会了“理性死亡”,迷宫太复杂的时候它会觉得走哪都是亏的,直接当场退场;甚至在抓到几只羊后发现剩下的太远也不划算,直接中场休息不玩了。 这就好比把我们换成玩家,把分数换成成就感和价值感;把迷宫换成现在越来越严峻的就业形势和社会压力;把扣分换成家人的否定、辱骂或者肢体暴力……实验结果还是一样的:当环境恶劣到怎么努力都亏本时,理性也会逼着你提前结束游戏。 咱们当然没办法把这些困境一键删除,但我们还是能做点调整的:少点指责多点理解来减少无意义的扣分;把人生阶段拆成小模块来降低迷宫的复杂度;最重要的是给AI和人类都留条不扣分的路。这场游戏告诉我们:别让分数变成唯一的导向标;也别让算法替我们决定生死。