随着开源智能体技术在各领域加速渗透,其安全风险日益凸显。
工业和信息化部网络安全威胁和漏洞信息共享平台联合智能体提供商、漏洞收集平台运营单位及网络安全企业,针对当前开源智能体典型应用场景,系统梳理安全隐患,形成"六要六不要"安全使用建议,为行业发展划定安全红线。
在智能办公领域,企业通过部署开源智能体实现数据分析、文档处理、财务辅助等功能,但同时面临供应链攻击和内网渗透双重威胁。
异常插件或恶意"技能包"的引入,可能导致网络安全风险在内网横向扩散,已对接的系统平台、数据库等敏感信息面临泄露或丢失风险。
更值得警惕的是,在缺乏审计和追溯机制的情况下,企业还将面临合规风险。
开发运维场景同样暗藏隐患。
当开源智能体将自然语言转化为可执行指令,辅助代码编写、系统监控、设备巡检时,非授权执行系统命令可能导致设备遭网络攻击劫持,系统账号和端口信息暴露后易遭受外部攻击或口令爆破,网络拓扑、账户口令、接口信息等核心数据存在泄露风险。
个人用户通过即时通讯软件远程接入本地部署的开源智能体,用于信息管理、事务处理、数字资产整理时,同样面临多重安全考验。
权限过高可能导致恶意读写或删除任意文件,互联网接入状态下易遭受网络攻击入侵,通过提示词注入甚至可能误执行危险命令,明文存储密钥等做法更是为个人信息泄露埋下隐患。
金融交易场景的风险尤为突出。
当开源智能体调用金融应用接口进行自动化交易与风险控制时,记忆投毒可能导致错误交易,身份认证绕过将使账户面临非法接管风险,恶意代码插件可能窃取交易凭证,极端情况下因缺乏熔断或应急机制,智能体失控频繁下单将造成严重经济损失。
针对上述风险,工信部提出系统性应对策略。
在部署层面,要求独立网段部署,与关键生产环境隔离运行,禁止在内部网络使用未审批的智能体终端,优先在虚拟机或沙箱中运行,避免生产环境直接部署。
在权限管理方面,强调采取最小化权限授予原则,禁止授予管理员权限,禁止非必要的跨网段、跨设备、跨系统访问,仅允许访问必要目录。
在安全防护上,要求部署前进行充分安全测试,建立高危命令黑名单,重要操作启用人工审批机制,关键操作增加二次确认,实施网络隔离与最小权限策略。
工信部特别强调两项基本原则:一是必须使用官方渠道下载的最新稳定版本,开启自动更新提醒,升级前备份数据,升级后重启服务并验证补丁生效情况,严禁使用第三方镜像版本或历史版本;二是严格控制互联网暴露面,定期自查是否存在互联网暴露情况,一旦发现立即下线整改,禁止将智能体实例暴露到互联网,确需互联网访问的应使用加密通道,并限制访问源地址,采用强密码或证书、硬件密钥等认证方式。
此外,指引还要求留存完整操作和运行日志,确保满足审计等合规要求,落实全链路审计与安全监测,及时发现并处置安全风险,强化供应链审核,使用官方组件并定期修复漏洞,严格通过加密方式存储密钥、配置文件、个人重要信息等敏感数据。
智能体带来新效率，也带来新风险。
把“六要六不要”落到实处，不仅是技术合规的要求，更是数字化转型稳健推进的底线。
唯有守住安全红线、完善治理规则，才能让创新行稳致远。