工信部发布安全警示:规范开源智能体使用 防范"龙虾"六大风险场景

问题——开源智能体加速落地的同时,安全边界面临新挑战。NVDB信息显示,随着开源智能体数据分析、文档处理、运维管理和自动化交易等领域应用增多,其“可调用工具、可接入系统、可自动执行”的能力一旦被滥用或被攻击者利用,风险可能由单点故障扩展为系统性问题。此次研判聚焦四类典型场景:企业内网业务助手、开发运维辅助、个人助手与金融交易自动化,使风险指向更清晰、更便于落地处置。 原因——技术特征叠加管理短板,放大攻击窗口。一是插件、“技能包”等扩展机制带来供应链隐患,恶意组件可能在不易察觉的情况下引入后门或窃密代码;二是智能体常需跨系统调用并具备读写权限,授权过宽时容易形成“高权限自动化入口”;三是远程接入、接口对接与互联网暴露面管理不足,可能被利用进行口令爆破、漏洞扫描与横向渗透;四是日志留存、审计追溯和人工复核不到位,导致误操作、越权调用或被诱导执行高危指令后,难以及时发现、定位与止损。 影响——从数据泄露到业务中断,严重时触及合规与财产安全。在企业内部部署场景中,异常插件可能触发供应链攻击——风险在内网扩散后——已对接的系统平台、数据库等敏感信息面临泄露或丢失;在开发运维场景中,非授权命令执行可能导致设备被劫持控制,账号端口信息暴露后更易遭外部攻击或口令爆破;在个人助手场景中,权限过高叠加不当互联网接入,可能造成文件被恶意读写或删除、密钥被窃取,提示诱导还可能触发危险命令;在金融交易场景中,记忆投毒、身份认证绕过及恶意插件引入,可能导致错误交易、交易凭证泄露,极端情况下因缺少熔断机制而出现失控下单等风险,进而影响资金安全与市场秩序。 对策——“六要六不要”突出可落地、可验证、可追责。NVDB建议,涉及的单位和个人在部署使用开源智能体时把握六个“要”和六个“不要”: 第一,要使用官方渠道的最新稳定版本并及时更新,不要使用来源不明的第三方镜像或长期停更的历史版本;升级前后应完成备份、重启,并验证补丁是否生效。 第二,要严格收敛互联网暴露面并开展自查,不要将实例直接暴露在公网;确需远程访问的,应通过加密通道并限制访问源地址,采用强口令、证书或硬件密钥等更强认证方式。 第三,要坚持最小权限与分级授权,不要“一次授权长期有效”或直接授予管理员权限;对删除文件、外发数据、跨系统调用等高风险能力应单独管控、按需启用。 第四,要强化隔离与安全测试,不要在未评估的情况下直接接入生产网和关键系统;企业内部部署宜采用独立网段,与关键生产环境隔离运行,并优先在虚拟机或沙箱中验证安全性与稳定性。 第五,要建立可审计、可复核的安全机制,不要让高危操作“全自动无人看管”;应留存完整操作与运行日志,建立高危命令黑名单,重要操作引入人工审批、二次确认,金融交易等关键场景还应设置熔断与应急处置流程。 第六,要把住供应链与数据安全关口,不要随意安装不明插件或以明文存储密钥与敏感配置;应审核组件来源,优先使用可信官方组件并及时修复漏洞,API密钥、配置文件和个人重要信息应加密存储并实施访问控制。 前景——以“安全可控”推动“可用、好用、放心用”。业内人士认为,开源智能体在提升效率、降低开发门槛上优势明显,但安全治理必须同步加强:技术层面补齐隔离、鉴权、审计、加密与熔断等能力,管理层面完善资产台账、权限审批、供应链管理和应急预案。随着风险提示与实践经验不断积累,智能体应用将逐步从“能用”走向“可控可管”,在更多行业场景释放价值。

技术进步不会自动带来安全,安全能力建设必须与应用扩张同步推进。开源智能体的广泛落地既是数字化转型的重要机遇,也是对网络安全治理体系的一次现实检验。只有把安全意识变成使用习惯,把防护机制嵌入部署流程,才能让智能化工具真正服务于生产与生活,而不是成为风险入口。