在人工智能应用加速渗透学习、生活与产业的背景下，其安全风险逐渐显现；来自东莞“智慧冬令营”系列课程的一节高中微课《黑客的通行证》，把“人工智能被误导”的现实问题转化为教学情境，针对对抗样本、模型鲁棒性等内容，直面当前人工智能系统容易受到干扰、产生误判的典型痛点。课程以虚拟场景“极光城·安全防御中心”为叙事空间，以“满分视频被误判”为剧情切口，提出“为何会出错、如何识别干扰、怎样恢复判断”三个层面问题，引导学生理解人工智能系统的脆弱点。 该问题的出现有其技术原因。当前人工智能模型主要依赖大规模数据训练，在识别图像、语音、文本时对细微噪声十分敏感。一旦输入中被植入“对抗样本”，模型就可能做出偏离实际的判断。课程主讲人余旸教授与专家李博士通过类比“数字面具”的概念解释对抗样本的本质：不改变人类视觉判断，却能在算法识别过程中扰乱决策路径。课程中还引入二分查找法定位干扰源、数据平滑技术消除噪声、回归测试验证修复效果等工具，为学生梳理从发现问题到完成闭环验证的操作链条，强化“问题可被识别、可被修复”的科学思维。 这种教学模式不仅关注技术原理，也着眼对学生素养的影响。在中学阶段加入人工智能安全内容，能够帮助学生形成数据安全与网络安全意识，理解技术应用背后的风险与边界，有利于培养理性判断能力与工程化思维。课程最后设置实践任务，要求学生设计“逻辑防线”，通过设置合理阈值平衡误报与漏报，强化规则意识与权衡能力，更将安全理念落实到操作层面。 从教学组织方式看，东莞市教育局依托“智慧冬令营”平台，以20节微课覆盖小学至高中四个学段，内容从数据思维、算法逻辑到伦理安全逐层推进，形成梯度式培养体系。这一课程由人大代表、人工智能与数据科学家余旸教授牵头设计，联合中小学信息技术骨干教师团队共同开发，采用“科学微电影”式呈现，既强调科学性，也兼顾趣味性和沉浸感，契合青少年认知特点。 面向未来，随着人工智能深入产业链和社会治理，安全教育将成为基础教育的重要组成部分。当前课程以知识普及为主，下一步可进一步扩展为项目式学习，推动校企合作，建设更开放的实践平台；同时完善课程评价机制，引导学生形成“理解技术—识别风险—提出方案”的完整能力链条。若能持续推进并形成可复制模式，将为全国人工智能通识教育提供可借鉴的范式。
人工智能走向普及，安全素养就不应缺席。把“为什么会误判、如何防被欺骗、怎样验证更可靠”讲清楚、讲透彻，既是面向未来的科学教育，也是对现实社会负责的基础工程。以通识课程为起点，让更多青少年在理解技术原理的同时建立风险意识、规则意识与工程思维，才能让智能技术更好服务发展、守住底线、向善而行。