中央网信办:打击ai 技术滥用乱象

最近,AI智能体爆发了发展,从“动口”变成了“动手”,成了提升效率、服务生活的重要工具。不过,AI智能体也出现了新问题。比如,“AI托管”,它指的是部分用户用技术手段批量生成内容、伪造互动,制造虚假繁荣,最终卖账号或者变现流量。中央网信办最近提到要打击这种现象,它给内容平台带来了风险。 这种现象不仅损害了平台的真实底色,还会动摇互联网内容创作和信任的根基。首先,“AI托管”消解了真实内容,污染了信息环境。比如小红书,之前就宣布封禁完全由“AI托管”代发、模拟真人互动的账号。因为“AI托管”账号用算法模拟真人,缺乏真实感。内容平台核心资产是用户之间建立的情感连接,而不是算法推荐的流量。 其次,“AI托管”破坏了内容创作公平秩序。它让低成本规模化运营成为可能,用心创作的人可能输给流水线式的AI账号。普通用户被虚假互动和虚假热度裹挟,优质内容被淹没。 还有一个问题是安全风险。“AI托管”背后有一条灰色产业链,违反平台规则,可能触碰法律红线、侵害他人权益等。中央网信办把打击AI技术滥用乱象作为2025年整治重点。 要解决这个问题,平台需要强化技术甄别和规则惩戒,监管部门完善法律法规,用户提升辨识能力。只有这样,“AI托管”才能被遏制住,让AI真正赋能创作。