一场围绕人工智能技术军事应用的争议正在美国科技界发酵。
自2月28日OpenAI宣布与美国国防部达成合作协议以来,该公司旗下产品遭遇前所未有的用户信任危机。
根据美国移动应用数据分析机构Sensor Tower统计,协议公布当日,OpenAI旗下应用在美国市场的卸载量较前一日暴增295%,远超过去一个月9%的日均卸载率。
与此同时,该应用下载量连续两日分别下滑13%和5%,形成鲜明对比的是,消息公布前一日下载量还曾增长14%。
社交媒体平台上,"取消ChatGPT"话题迅速扩散,反映出公众对科技企业参与军事项目的深层忧虑。
此次合作协议的核心内容是将OpenAI的人工智能模型部署至五角大楼机密网络。
奥特曼在宣布合作时曾强调,公司坚持技术不得用于国内大规模监控,涉及自主武器系统等武力使用必须由人类负责。
然而,这些原则性表态未能平息外界质疑。
面对持续发酵的舆论危机,奥特曼于3月3日在社交平台发文,罕见地公开承认决策失误。
他坦言上周五宣布协议时过于仓促,这些涉及技术伦理与国家安全的复杂问题需要更清晰的沟通。
他反思称,公司本意是缓和局势避免更糟结果,但实际做法显得投机草率,这为未来更重要的决策提供了宝贵教训。
为回应公众关切,奥特曼提出四项实质性修订措施。
首先,协议将明确规定技术系统不得故意用于针对美国公民或国民的国内监控,依据相关法律禁止追踪、监视或监控行为,包括使用商业获取的个人可识别信息。
其次,公司服务将不向国防部情报机构提供,如未来涉及此类合作需另行修改合同。
第三,公司强调希望通过民主程序开展合作,关键社会决策应由政府作出,公司将在决策过程中分享专业知识并维护自由原则。
奥特曼甚至表示,若收到违宪命令,宁愿入狱也不会执行。
第四,鉴于技术尚未完全成熟,部分安全权衡仍需厘清,公司将与国防部缓慢推进合作并配合技术保障措施审慎实施。
这场风波也引发行业连锁反应。
就在OpenAI宣布合作前一日,另一家人工智能企业Anthropic因与五角大楼在技术应用范围问题上存在严重分歧而终止合作。
此前有媒体报道称,美军在针对委内瑞拉的军事行动中使用了该公司旗下大模型,Anthropic随即向五角大楼求证并表达关切,最终导致双方在应用伦理与战争伦理方面的分歧公开化。
市场数据显示,Anthropic的产品在此期间获得显著增长,其应用下载量连续两日分别增长37%和51%,并于2月28日登顶美国应用商店榜首,较一周前排名跃升超过20位,至3月2日仍保持领先地位。
这一此消彼长的市场表现,折射出用户对科技企业价值取向的敏感反应。
新技术与国防安全的结合并非简单的“是否合作”问题，而是“如何合作、在何种边界内合作、由谁监督并承担责任”的治理命题。
只有将红线写进规则、把约束落到机制、让权力运行接受可核验的监督，才能在安全需求与公共信任之间建立相对稳固的平衡，也为技术发展赢得更可持续的社会基础。