当前全球智能技术应用正从对话交互向行动执行阶段跨越,开源工具的普及在降低技术门槛的同时,也暴露出网络攻击、数据泄露等新型风险。
国家互联网应急中心监测显示,部分智能体在默认配置下存在高危漏洞,可能威胁关键基础设施安全。
这一背景下,珠海市联合网信、科研及行业机构推出的"养虾安全十条",成为国内首个针对开源智能体安全管理的系统性地方指引。
该指引的出台基于三重现实考量:其一,开源工具部署存在"重功能轻安全"倾向,部分用户忽视权限管控与数据加密;其二,第三方插件滥用可能成为攻击跳板,今年初某省政务系统就曾因智能体插件漏洞导致数据异常;其三,新型提示词注入等攻击手段涌现,传统防御体系面临挑战。
珠海市委网信办副主任林新锋在发布会上强调:"安全是智能技术深度应用的先决条件,必须建立全生命周期管理机制。
" "养虾安全十条"构建了立体化防控体系:在技术层面要求严格版本溯源、实施网络隔离、强化API密钥保护;在管理层面建立操作日志审计和漏洞报送机制;在生态层面推动产学研协同攻关。
值得注意的是,指引并未采取"一刀切"限制,而是鼓励在安全前提下探索办公辅助、工业质检等场景应用,体现"疏堵结合"的治理智慧。
同步启动的"智城计划"则着眼于能力建设,首期活动通过安装技术实训、图像生成课程等实践培训,吸引逾2500名参与者。
高新区某制造企业技术总监在现场表示:"系统化的安全指引配合实操培训,能有效降低企业试错成本。
"该计划后续将推出学生培养、创意赛事等系列活动,形成"安全筑基-人才培育-产业转化"的闭环。
行业专家分析,珠海此举具有示范意义:一方面将抽象的安全原则转化为具体操作规范,填补了开源智能体管理空白;另一方面通过"指引+赋能"双轮驱动,为粤港澳大湾区智能产业发展探索出新路径。
据透露,广东省正研究将相关经验纳入省级人工智能立法框架。
珠海的这一举措具有重要的示范意义。
在人工智能快速发展的时代,既要抓住机遇推动技术创新和应用,也要未雨绸缪做好安全防范工作。
"养虾安全十条"从认知、管理、防护、保护等多个维度提出了明确要求,体现了监管部门的前瞻性和科学性;"金山·智城计划"则通过技术培训和知识传播,让安全理念深入人心,实现了政策指引与社会参与的有机结合。
这种"政策引导+技术支撑+社会参与"的综合施策模式,为全国人工智能的安全、健康、有序发展提供了有益借鉴,也为粤港澳大湾区建设智能创新高地奠定了坚实基础。