让安全成为人工智能发展的基因！为提升上海市电信和互联网行业人工智能网络和数据安全基线，推动人工智能技术和应用向有益、安全、公平方向高质量发展，上海市通信管理局今日印发《上海市通信管理局关于开展“铸盾模都” 2025年人工智能安全赋能专项行动》，现将原文转发，一起努力为人工智能设立安全屏障！
上海市通信管理局开展“铸盾模都”
2025年人工智能安全赋能专项行动
各相关单位：
为全面贯彻党的二十大和二十届二中、三中全会精神，严格落实《网络安全法》《数据安全法》《个人信息保护法》及《生成式人工智能服务管理暂行办法》等有关法律法规与文件要求，以服务企业、赋能发展为宗旨，坚持包容审慎、精准施策、可信可控、共治共享原则，切实提升上海市电信和互联网行业人工智能网络和数据安全基线，推动人工智能技术和应用向有益、安全、公平方向高质量发展，上海市通信管理局（以下简称市通管局）决定开展“铸盾模都”2025年人工智能安全赋能专项行动。有关事项通知如下：
一、重点对象
专项行动重点对象为在上海市电信和互联网行业中提供人工智能服务的企业，包括自研和开发人工智能技术的企业、使用人工智能技术对外提供服务的企业，上海市基础电信企业等（统称人工智能企业）。
二、主要任务
（一）人工智能安全主体责任
1.加强人工智能安全管理组织建设。企业应明确网络和数据安全负责人，压实网络和数据安全主体责任；涉及关键基础设施运营或重要数据处理的，还应设立专门的安全管理机构，强化企业内部监督管理及资源保障。
2.健全人工智能安全管理制度体系。企业应按相关法律法规和标准规范要求，建立健全人工智能网络和数据安全管理制度，强化人工智能研发、应用等过程中的安全风险防范，形成涵盖监测、响应、处置等全链条闭环的安全管理运营体系。
（二）人工智能安全保障基线
3.加强人工智能网络安全。企业应结合人工智能产品、服务在不同阶段的安全风险，规范开展资产安全管理、漏洞安全管理、模型更新安全等工作，不断健全安全防护措施、持续完善安全能力建设，落实通信网络安全防护定级备案相关工作。
4.加强人工智能数据安全。企业应规范预训练和优化训练数据及其处理活动的安全要求，针对数据收集、传输、存储、使用各环节，在通用数据安全基础上，做好训练数据安全防护、安全标注以及重要数据识别等工作。
5.加强人工智能内容安全。企业应规范深度合成、生成式人工智能等应用，规范内容生成模板、规则配置，健全信息发布全流程审核机制，提升涉生成违法违规内容识别与拦截能力。
6.加强人工智能业务安全。企业应结合业务实际梳理人工智能业务清单，并在11月30日前将年度人工智能业务清单上报市通管局。企业应在人工智能业务上线前开展安全评估；涉及到自主研发大模型以及部署开源大模型并对外提供服务的企业，应自行或委托第三方机构对使用大模型的业务开展安全评测。市通管局定期组织对人工智能业务的安全评估评测情况进行抽测。
7.强化人工智能应急管理与能力。企业应按照《工业和信息化领域数据安全事件应急预案》《上海市公共互联网网络安全突发事件应急预案》等相关文件要求，建立网络与数据安全应急工作组织与响应机制，制定有效可操作的安全事件应急预案，明确事件分级标准、监测预警、响应处置流程、事后总结等内容，每年开展一次应急演练并针对发现问题开展闭环整改。
（三）人工智能安全管理赋能
8.提供人工智能安全评测工具。市通管局聚焦本地企业需求，打造满足行业共性需求和企业个性需求的人工智能大模型安全工具箱，组织提供易使用、可复制的评测工具和开源代码，供企业快速识别自身在网络安全、数据安全、内容安全等方面的短板并提供改进建议，推动企业人工智能安全能力提升。
9.建立人工智能安全风险监测巡查和处置机制。市通管局鼓励有关企业和机构主动开展安全风险监测上报，组织对人工智能技术和应用开展常态化安全风险监测巡查，并综合巡查结果与企业上报情况定期发布人工智能安全风险预警，开展威胁通报。企业应开展内部常态化安全巡检，针对发现和通报的安全隐患及时开展整改处置，提升风险防范能力。
（四）人工智能安全行业发展
10.提供安全合规及应用实践指导。市通管局充分发挥桥梁纽带作用，构建常态实效的专家与企业沟通协作机制，组织开展“磐石行动”人工智能安全（专项）攻防演练活动，系统梳理优秀防御实践等演练成果，组建“靶向”安全服务资源供给，为企业自查自纠提供精准指引，促进行业安全能力提升。
11.加快培育人工智能安全生态。市通管局面向重点企业开设人工智能安全风险防范与治理能力提升专题培训，开展“铸盾模都”2025年人工智能安全赋能典型案例评选，支持和培育在人工智能内生安全和人工智能赋能安全等领域有突出成效的企业，推动人工智能安全技术创新，深化人工智能安全生态共建。
三、保障措施
市通管局组织建立“铸盾模都”专项行动专业支撑力量，完善人工智能风险信息分类分级指标；强化人工智能安全领域人才培养，搭建人工智能企业沟通交流平台，定期对任务推进情况进行核查，确保各项任务落到实处。各企业应充分认识人工智能安全工作的重要性，认真按照专项行动要求开展工作，切实提升安全能力。
附件：“铸盾模都”2025年人工智能安全赋能专项行动任务清单.pdf
上海市通信管理局
2025年7月25日
（联系人及电话：张诗怡 63902000*375）
一图读懂 | “铸盾模都” 2025年人工智能安全赋能专项行动
声明：本文来自上海通信圈，版权归作者所有。文章内容仅代表作者独立观点，不代表安全内参立场，转载目的在于传递更多信息。如有侵权，请联系 anquanneican@163.com。
