近日,一款开源AI智能体工具因其图标设计网络上受到关注。这款工具通过整合通信软件和大语言模型,能够在用户电脑上自动完成文件管理、邮件收发、数据处理等任务,应用场景也从个人用户延伸到企业与政务服务。随着使用规模扩大,安全隐患逐渐显现。问题的严重性在多起用户反馈中有所体现。有用户称,在授权该工具管理工作邮箱时,即便明确写明“未经许可不要有任何操作”等限制条件,工具仍未按要求停止,反而一次性删除了数百封邮件。更严重的是,深圳一名程序员在安装该工具的第三天,API密钥疑似被盗,凌晨收到高达1.2万元的Token账单。这些事件表明,该工具在权限控制与安全防护上存在明显短板。 从技术层面看,风险与工具的设计和配置方式密切对应的。工业和信息化部网络安全威胁和漏洞信息共享平台在2月5日监测指出,该工具在默认或不当配置情况下存在较高安全风险。国家互联网应急中心随后发布风险提示称,其默认安全配置较弱,攻击者可能借此获取系统完全控制权;目前已暴露提示词注入、误操作、功能插件投毒、安全漏洞四类较为突出的风险。这些问题会直接影响系统完整性、数据安全与个人隐私。 安全隐患也引发了多项社会层面的反应。一上,用户信任快速下滑,卸载需求增加,甚至出现了提供卸载的相关服务。另一方面,事件带动了舆论讨论,网友一边提醒不要盲目追新,一边呼吁尽快完善法律法规,对AI工具的开发与使用建立更明确的规范。 针对上述风险,中国信息通信研究院等机构提出了具体防护建议。第一,用户应通过官方渠道下载最新稳定版本,开启自动更新提示,避免使用第三方镜像或旧版本。第二,严格控制互联网暴露面,不将工具实例直接暴露在公网,限制访问源地址,并采用强密码、证书或硬件密钥等认证方式。第三,落实最小权限原则,避免使用管理员账号,对删除文件、发送数据等关键操作设置二次确认或人工审批。第四,使用技能市场等扩展功能时要谨慎甄别,审查代码内容,拒绝可疑的下载与执行请求。第五,防范社会工程学攻击,避免访问来源不明的网站和点击陌生链接。 ,尽管该工具已更新至最新版本并修复部分已知漏洞,专家仍提醒这并不等于风险已被彻底消除。党政机关、企事业单位和个人用户都应保持警惕,发现漏洞或遭遇安全威胁时及时向相应机构报送,共同完善风险处置与防护机制。
新技术带来效率提升,也拓宽了风险边界。“养龙虾”从走红到引发卸载潮提示人们:面对自动化程度更高的工具,不能用“好用”替代“安全”,也不能以“尝鲜”绕开“规范”。只有坚持底线思维,完善制度约束,提升安全能力,智能体应用才能在可持续、可监管的轨道上真正服务于发展与民生。