清华大学搞了个报告，把2020到2026年AI谣言的事从头到尾捋了一遍。以前大家觉得AI最大的问题就是造假容易，现在这报告说，“更容易信、更难纠正”才是真正的麻烦，这就好比把“信息混乱”变成了“自动误导”。这份报告把“AI谣言”定义成了一个事儿：内容肯定是假的或误导人的，关键在于人工智能参与了生成、包装，甚至是传播放大。跟以前的谣言比起来，现在的AI在生产机制（用生成模型和模仿风格）、内容质量（说得顺溜、画面逼真）、传播方式（算法推送和社交机器人帮忙）上全都变了样，最吓人的是它假得让人看不出来。 报告里举了好几个例子：泽连斯基那个深度伪造的视频是2022年的，五角大楼被炸假图是2023年的，还有2024年的AI语音克隆去干扰美国大选，再加上香港那边的深度伪造诈骗案。这些例子说明了一个威胁升级的路线图：从制造舆论混乱开始，慢慢变成影响金融市场波动，最后甚至能直接插手民主程序或者搞欺诈。攻击变得越来越有章法，越来越系统化。 专家分析说这种谣言能得逞主要是因为“认知资源劫持”。AI搞出来的东西看着太真了，把我们深度思考的念头给赶走了，让人凭直觉做决定，骗子反而赚便宜。它传播起来也有个规律：把话题搞得很危险、把证据弄得很直观、爆发得特别突然、想证伪还挺难。 为了对付这些事，报告搭了个三层楼的评估架构：看看内容是怎么造假的、查查谁在发这些信息、算算账传播开了多大范围。还建议搞个根据分数来反应的应急机制。技术上不能光指望一个神奇的检测器去干活了，得搞个多路证据交叉验证的网络，再加上像RumorCone那种先进模型去戳穿深层伪装。 最后报告还发出警告：下一个大麻烦可能是往大模型的预训练数据里投毒，或者把外挂知识库给污染了，这样的话事实核查系统自己也可能被收买。所以治理不能光靠事后删帖了，得往前看搞风险预控，还得法律、技术、认知跟社会一块儿协同起来应对这场长期的系统性社会工程攻击。