前言
2025年7月3日，由全球数字经济大会组委会主办，中国信息通信研究院、中国通信标准化协会承办的全球数字经济大会—云智算安全论坛暨第三届“SecGo论坛”在京召开。会上，中国信息通信研究院云计算与大数据研究所开源和软件安全部副主任卫斌对《云上人工智能安全发展研究报告（2025）》进行正式发布与解读。
随着云计算技术成熟及市场快速扩张，全球云服务提供商持续扩大数据中心规模，优化架构以满足数字化转型需求。与此同时，人工智能在自然语言处理、计算机视觉、机器学习等领域取得突破，广泛渗透金融、医疗、制造、交通等行业，创造巨大商业价值。
然而，云上人工智能的普及也带来了显著安全挑战。数据在存储、传输和处理过程中面临泄露、篡改和滥用风险；模型训练和应用遭受窃取、中毒及对抗攻击等威胁；云基础设施的漏洞及多租户环境中的隔离不足也增加系统风险。这些安全隐患不仅威胁企业数据和业务连续性，还可能对个人隐私、公共安全甚至国家安全造成严重影响。
报告深度剖析了云上人工智能安全领域的发展趋势与核心挑战，系统性探讨了前沿技术在保障数据隐私、模型安全及云基础设施防护中的应用路径，推动关键技术创新与安全治理机制的紧密融合，通过构建完善的安全生态体系，助力行业实现稳健、可信的数字化转型和可持续发展。
报告精彩内容一览
一、 云上人工智能安全发展概述
（一） 云上人工智能产业生态深度演进，服务模式多元化与安全挑战并存
1． 产业生态持续发展，市场驱动与技术赋能协同共进
2． 服务模式体系多元适配行业需求，面临差异化安全风险挑战
（二） 云上人工智能安全面临多维度风险困境，需以协同创新筑牢防护屏障
1． 面临系统性安全风险，亟需构建全栈协同防护体系
2． 构建多元安全技术协同创新体系，筑牢产业高质量发展安全屏障
3． 多元主体协同发力，构建健全云上人工智能安全生态
（三） 云上人工智能安全相关法律法规不断完善，标准化治理加速推进
（四） 云上人工智能安全发展意义重大，多维价值支撑产业前行
1． 筑牢企业业务安全防线，夯实高质量发展根基
2． 激活技术创新发展动能，拓展产业应用边界
3． 筑牢社会公共安全屏障，维护数字时代稳定
4． 提升企业安全防线，夯实高质量发展根基
二、 云上人工智能安全风险分析与防护体系建设
（一） 云上人工智能安全风险分析，全流程暴露安全隐患
1． 准备阶段：数据与基础设施风险
2． 训练阶段：模型安全与对抗攻击风险
3． 推理部署阶段：模型完整性与访问控制风险
4． 集成应用阶段：内容安全与多模态攻击风险
（二） 云上人工智能安全防护体系建设实践，全链条筑牢安全防线
1． 明确云上人工智能安全防护需求，锚定防护目标方向
2． 构建全链覆盖人工智能风险治理框架，统筹安全治理路径
3． 建立云上人工智能风险识别与预警机制，提升安全防御能力
4． 提升云上人工智能风险系统综合治理能力，强化整体防控效能
5． 健全标准建设与模型应用风险评估，规范安全评估流程
6． 完善云上人工智能风险响应与恢复方案，筑牢安全兜底保障
三、 云上人工智能安全发展趋势展望
（一） 技术创新驱动安全升级
1． 人工智能赋能安全实现主动智能防御，以智能技术反制风险
2． 人工智能安全技术创新，构建协同发展新生态
3． 开源技术驱动人工智能安全创新与产业协同发展
（二） 多方协同联动构建全链条安全防护生态
1． 强化企业主体协同，夯实安全治理技术根基
2． 深化产学研用联动，增强安全治理创新动能
3． 推进企业自律与行业协同，共筑安全治理防线
（三） 完善标准应用筑牢产业规范发展根基
1． 健全标准体系架构实现全链条覆盖
2． 强化标准推广应用提升产业执行效能
（四） 多层次的人工智能安全治理体系建设
1． 深化产业协作，凝聚多方安全治理合力
2． 健全风险防控，提升应急处置能力
更多内容欢迎扫码下载原文
声明：本文来自CAICT可信安全，版权归作者所有。文章内容仅代表作者独立观点，不代表安全内参立场，转载目的在于传递更多信息。如有侵权，请联系 anquanneican@163.com。
