我国科研团队发布全球首款智能体安全检测工具 助力防范自动化系统安全风险

当前,新型自动化智能体技术正在全球范围内迅速普及。

这类系统能够接管计算机执行复杂任务,从邮件整理到资料收集再到内容发布,工作效率显著提升。

根据网络空间搜索引擎统计,全球公网上可直接识别的相关实例已超过6.3万个,应用规模不断扩大。

然而,技术进步伴随而来的是安全隐患的暴露。

国家互联网应急中心在3月10日发布的风险提示中指出,这类系统的默认安全配置存在严重缺陷,攻击者一旦找到突破口,便能获取系统的完全控制权。

已公开曝出的多个高中危漏洞若被恶意利用,可能导致系统被控制、隐私信息泄露和敏感数据丧失等严重后果。

具体风险包括权限失控、配置暴露、插件投毒、提示词注入以及高危网络安全漏洞等多个方面。

面对这一紧迫的安全挑战,北京前瞻人工智能安全与治理研究院与人工智能安全与超级对齐北京市重点实验室联合推出了"前瞻智鉴"安全检测工具。

该工具能够对8种安全类型、30余个检查点进行全面扫描,内置了270余条已知漏洞库,并保持持续更新。

当本地部署的系统出现网络端口暴露、危险指令注入、暴力破解等威胁时,工具会及时发出警报。

研究院负责人表示,该工具目前主要为用户提供风险检测与告知功能,用户可根据自身应用需求进行自主决策。

自动化风险修复功能也即将上线,将为用户提供更加便捷的解决方案。

为了促进类似系统的安全部署和广泛应用,该工具面向所有用户免费开放,降低了用户的防护成本。

值得注意的是,任何安全检测工具都存在局限性。

研究人员坦诚指出,检测工具只能尽可能降低风险,无法解决所有安全隐患。

智能体框架在运行时存在动态不确定性,其基础模型层也面临潜在风险。

因此,用户在使用此类定制化服务时,必须采取更加主动的风险防范措施。

具体而言,用户应当采取多层次的防护策略。

首先要及时检测和修复漏洞,开启防火墙和杀毒软件,定期更新软件版本。

其次要在权限管理上保持谨慎,不随意开放系统权限,避免提供敏感信息。

更为重要的是,用户不应将决策权完全交给智能体,而要对其行为保持必要的监测和制约。

这种人机协作的平衡,是确保系统安全运行的关键。

智能体带来的效率红利不应以牺牲安全为代价。

越是“能自主行动”的工具,越需要清晰边界、可控权限和可追溯过程。

以检测预警筑牢第一道防线,以规范使用与持续治理守住底线,才能让技术创新在安全可控的轨道上释放更大价值。