围绕人工智能加速迭代与广泛应用带来的安全议题，巴菲特近期一档财经电视节目中表达了对技术失控风险的担忧，并以核武器作为参照，强调面对高度不确定、外溢性强的技术，应保持足够警惕。这个观点在全球范围内具有代表性：人工智能正从实验室走向产业链与社会系统深处，效率红利与安全压力同步上升，如何在发展与安全之间取得平衡，已成为各方必须直面的现实问题。 从“问题”看，核心挑战集中在两点：其一是不可逆的失控风险。巴菲特以“未知航行”作比喻，意在指出部分技术一旦进入规模化应用阶段，回滚成本高、链式反应强，很难像传统产品那样通过简单下架或更新来消除后果。其二是扩散与滥用风险。核武器历史经验表明，一项高威慑、高破坏性能力在国际竞争与安全困境作用下，往往从“少数掌握”演变为“多方持有”，进而增加误判、冲突升级与事故的概率。人工智能的门槛更低、复制更快、传播更广，其扩散速度和跨境流动性在客观上更难管理。 从“原因”看，人工智能风险上升有三上结构性因素。首先是技术演进速度与人类治理能力之间存时间差。算法、算力与数据的叠加推动能力跃迁，但监管规则、伦理共识、审计工具和人才储备建设往往滞后，导致“先应用、后治理”的局面。其次是商业竞争与地缘博弈加速了部署节奏。企业追逐市场窗口，国家关注战略优势，都会推动更快落地，从而放大未经充分验证的系统进入关键领域的概率。再次是社会系统对数字化依赖日益加深，人工智能与金融、通信、能源、交通、医疗等领域的耦合程度不断提高，一旦发生系统性错误或被恶意利用，影响将呈现跨部门、跨区域的叠加扩散。 从“影响”看，人工智能风险并非单一维度，而是多层次叠加。一是安全层面的现实威胁，包括自动化攻击、深度伪造、舆论操纵、关键基础设施干扰等，可能对社会信任与公共秩序造成冲击。二是经济层面的结构性变化，既有生产率提升，也可能带来就业结构调整与行业洗牌，若缺乏配套政策，易出现短期阵痛和分配不均。三是国际层面的规则竞争，围绕标准、合规、数据流动、算力资源与出口管制的博弈加剧，若缺少沟通机制，技术误判与对抗升级的风险上升。巴菲特援引“技术改变世界但未必改变人的思维方式”的观点，指向的正是人类在面对新能力时仍可能沿用旧逻辑，从而在竞争压力下忽视长期风险。 从“对策”看，治理思路应坚持发展与安全并重、创新与监管合力推进。其一，建立更可执行的风险分级与责任体系，对高风险场景实行更严格的准入、评估、审计与追责机制，推动“谁开发谁负责、谁部署谁负责、谁受益谁尽责”。其二，强化技术安全底座建设，包括模型安全评测、数据治理、可追溯与水印标识、对抗测试、红队演练等，让安全要求内嵌于研发和运营流程。其三，提升社会层面的识别与防护能力，通过媒体素养教育、公共机构应急预案、行业自律与平台治理，压缩深度伪造与虚假信息的传播空间。其四，加强国际对话与规则协调，在反滥用、跨境执法协作、关键领域应用边界诸上探索更稳定的沟通机制，降低误解与误判的可能性。 从“前景”看，人工智能仍将深刻重塑产业与社会运行方式，关键在于能否把握“安全可控”的底线与“向善有益”的方向。未来一段时间，人工智能监管将更强调可验证、可审计、可追责，行业竞争也将从单纯“拼规模”转向“拼质量、拼安全、拼合规”。同时，技术路线仍在演化之中，能力提升带来的外部性可能持续扩大，各国对关键领域应用的边界设置、对高风险能力的管控、对扩散的限制与合作，将成为决定风险曲线的重要变量。
巴菲特的提醒为全球科技竞争敲响警钟。在技术飞速发展的今天，如何平衡创新与安全、界定伦理边界，不仅关乎产业前景，更影响人类文明的未来。当技术超越认知边界时，建立全球协作的治理框架已刻不容缓。