问题——随着大模型加速进入产业与生活场景，安全风险也随之显性化。
近期媒体曝光的“投毒”、数据污染以及由此引发的内容失真、模型偏差等问题，引发社会对人工智能安全底线的关注。
王书海认为，人工智能正成为支撑数字经济的关键新型基础设施，应用边界不断拓展，安全治理必须同步前移，否则一旦风险外溢，影响将不仅局限于单一产品或平台。
原因——难点集中在三个“跟不上”。
一是技术迭代快、应用落地快，而传统监管工具与评估方法更新相对滞后，面对模型能力跃迁、工具链复杂化等情况，容易出现“看不清、管不住”的阶段性空档。
二是黑灰产呈现隐蔽化、链条化特点，从数据采集、训练投喂到传播变现环环相扣，单点治理难以形成闭环，需要跨部门、跨平台、跨行业联动，但现实中协同机制与信息共享仍需强化。
三是部分主体存在“重效率、轻安全”的倾向，安全评估、数据合规、内容标识、应急处置等制度落实不均衡，责任边界不清导致“出了问题再补课”，增加了处置成本与社会风险。
影响——风险的隐蔽性、传播的高速性与溯源的复杂性叠加，放大了治理难度。
一方面，数据污染可能造成模型输出偏差甚至被恶意操控，影响公共信息质量与消费者权益；另一方面，深度合成与自动化生成能力被滥用，可能扰乱市场秩序，冲击社会信任体系。
对企业而言，安全事件将带来合规成本上升、品牌信誉受损及法律风险；对产业而言，若缺乏统一的安全预期与规则供给，创新活动也将面临不确定性。
对策——王书海提出，应坚持“在发展中规范、在规范中发展”，以底线思维守住安全红线，同时为创新留出空间。
第一，把好数据入口关，围绕数据来源合法性、授权与脱敏、清洗与去毒、可追溯与可审计等环节形成制度化流程，从源头降低数据污染与恶意投喂概率。
第二，压实企业主体责任，推动安全评估、算法与模型管理、深度合成标识等要求落到产品全生命周期，明确“谁研发谁负责、谁运营谁负责、谁应用谁负责”，同时完善内部风控与应急响应机制，避免责任虚化。
第三，强化“以技治技”，加快部署安全检测、对抗防御、风险预警与红队测试等能力建设，提升对异常数据、越狱提示、模型后门等问题的识别处置水平，让技术进步成为治理能力的增量。
第四，构建协同治理体系，推动政府监管、行业自律、平台治理、社会监督多方联动，完善线索共享、联合处置与跨域协作机制，形成对黑灰产的链条化打击与常态化治理。
前景——与会人士认为，人工智能产业将继续保持高强度创新与规模化落地并行的态势，治理体系也需要从“事后处置”向“事前预防、过程控制、持续评估”转变。
随着规则供给、技术防护与责任体系逐步完善，安全与发展并非“二选一”，而是通过制度与能力建设实现动态平衡。
把安全作为基础能力、把合规作为竞争力，将成为企业参与市场的重要门槛，也将为我国人工智能产业高质量发展提供更稳定的社会预期。
人工智能的快速发展既是机遇也是挑战。
唯有在创新与安全之间找到平衡点，才能确保技术真正造福社会。
王书海的建议为行业治理提供了清晰路径，但落实仍需各方持续努力。
未来，如何在保障安全的前提下释放技术潜力，将是全社会共同面对的课题。