吴世忠，中国工程院院士
随着生成式人工智能技术的高速迭代，大模型正从单纯的自然语言处理工具演变为重构数字空间与物理世界的新型关键基础设施。随着Anthropic Claude Mythos等前沿大模型的相继问世，人工智能（AI）安全与网络安全加速深度耦合，导致传统安全防护体系面临严峻挑战，成为关乎国家主权、安全、发展利益的重大议题。准确把握大模型技术演进趋势，系统研判其带来的复合风险，对于构建适应智能时代的国家安全屏障具有重要现实意义。
一、大模型正在从规模扩张转向系统能力竞争
过去几年，大模型的能力竞赛持续加速。当前，这场竞争正在发生新的变化，依赖扩大参数规模和训练计算量的路径逐渐向提高模型效率、推理能力和自主行动能力延伸。
（一）模型竞争焦点由“参数规模”转向“智能密度”
从参数维度看，参数规模已难以单独反映模型能力。前沿模型已普遍跨越10万亿门槛，但头部实验室对参数量、训练数据和训练时长的透明度明显下降。与此同时，混合专家模型、稀疏激活等架构加快发展，“堆参数”正在让位于“巧用参数”。从算力维度看，前沿竞争正在从芯片性能进一步下沉至能源供给。前沿模型的训练计算量已突破1026 FLOPs量级的欧美管制门槛，与之相伴，数据中心也正式迈入“吉瓦时代”，“AI工厂”的能耗与散热问题已成为制约模型训练的物理瓶颈。从能效维度看，模型压缩、推测解码和专用芯片等加速技术蓬勃发展，相同性能门槛下的推理成本不断下降。模型能力因此能够以更低成本向更多主体扩散，恶意行为者低成本获得高智能的威胁已然显现，必须慎重对待“智能平权”。从能力维度看，评价标准正由知识记忆转向复杂任务完成能力。前沿模型自主完成复杂任务的时长约每七个月翻一番，在部分高难度科学、数学和编程基准上已达到或超过人类基线，但在简单感知、可靠性和开放环境任务中仍存在明显短板，呈现出典型的“锯齿状能力”特征。
（二）应用形态由数字化工具向智能化系统延伸
大模型正加速技术与产业的融合发展，通过全要素、全链条的深度耦合赋能千行百业，成为新质生产力的典型代表。一是垂直领域加速规模化落地。“通用基座+领域精调”已成为产业共性路径。工业和信息化部等八部门印发的《“人工智能+制造”专项行动实施意见》提出，到2027年推动3-5个通用大模型在制造业深度应用，推出1000个高水平工业智能体，推广500个典型应用场景。大模型与生产流程、工业软件和关键设备的结合将更加深入。二是自动驾驶等“物理AI”应用进入规模部署阶段，AI错误可能直接转化为现实世界风险，全国各地纷纷出台法律法规解决“上路合法权”争议。三是人形机器人正从展品走向产线。我国已明确，到2026年年底，人形机器人将在代表性场景完成验证部署。对安全而言，模型的错误将不再局限于数字世界的偏差，会通过对物理实体的控制作用于现实社会。四是智能体成为新的产业变量。“模型+工具+权限+记忆”构成的数字员工，已具备执行长链路复杂任务的能力，正重塑社会生产组织形式与产业生态格局，更带来安全领域不确定的潜在风险。
（三）能力扩展由预训练向后训练和推理阶段延伸
大模型技术路线正在加快分化。越来越多的研究者认为，单纯依靠扩大文本数据和参数规模难以稳定地获得物理常识与因果理解能力。研究者对通往通用智能的路径见仁见智。一方面，科技前沿在探索更强的世界表征。李飞飞等研究者提出发展“空间智能”，强调AI对三维空间及物理世界的理解；杨立昆推行世界模型和联合嵌入预测架构，希望通过预测世界状态演化增强机器对现实环境的认知；理查德·萨顿等研究者则持续强调智能体在与环境互动中通过强化学习获得能力。另一方面，后训练和推理时计算成为重要能力拓展方向。通过强化学习、自我检查、多步推理以及增加推理阶段计算资源，模型可以在不简单扩大参数规模的情况下提升复杂任务处理能力。更进一步，AI通过自我博弈实现递归式自我改进，将“人改进AI”逐步扩展为“AI改进AI”。
总的来看，大模型发展的竞争维度正在从单一“规模效应”向“后训练强化学习”“推理时计算”延伸。与之相对应，产业重心正从“练模型”转向“用模型”，并且，“用模型”的主体也从人变成智能体。这一变化对网络安全至关重要。AI正从“能力突破”迈向“价值兑现”阶段，加速融入以网络空间为基础的数字化社会的方方面面。AI安全问题不再是实验室里的纸面问题，而是逐步成为国家安全、网络安全和社会治理必须直面的现实挑战。
二、人工智能安全与网络安全加速深度耦合
随着大模型逐步嵌入网络空间和现实生产系统，传统网络安全与AI安全在模型全生命周期内深度耦合，将形成复杂的风险传导机制。
（一）风险认知由模型安全走向系统安全
学术界对于AI风险的忧虑从未停止。图灵奖得主约书亚·本吉奥牵头发布的《国际人工智能安全报告》，将通用人工智能风险概括为人类恶意使用、AI故障失灵和社会系统性风险。这一框架反映出AI安全的对象正在扩展，即AI安全不再局限于防止模型遭到攻击，而是延展到生化武器设计门槛降低、社会系统性信任崩溃等宏观议题。特别是随着大模型在网络武器设计领域强大潜力的显现，其恶意利用的风险已引起全球监管机构的高度警觉。
（二）风险研究由生成安全向全生命周期深化
从近三年安全领域顶会、顶刊的论文分布来看，AI风险研究重心正沿着“数据—训练—推理—决策—生成”的完整过程，从“生成环节”向“应用环节”快速迁移。围绕工具滥用、权限升级、多智能体串谋、目标漂移的论文数量翻了数倍。例如，在学习与感知阶段，多模态输入带来的“数据毒化”和跨模态对齐失效成为热点；在决策与执行阶段，智能体调用工具时的权限逃逸、多智能体协同中的逻辑欺诈，以及大模型黑盒内部的“机制可解释性”，成为当前最棘手的难题。
（三）风险边界由模型本体向全栈体系拓展
从系统视角看，大模型安全已经覆盖AI技术栈的多个层面。一方面，从“AI工厂”的基座安全看，在能源侧，吉瓦级园区使得电网与数据中心出现新的攻击面；在芯片侧，固件后门与远程管控成博弈筹码；在基础设施侧，云网端的应用程序编程接口（API）漏洞成为渗透跳板。另一方面，从“AI技术”的内生安全看，在基础软件侧，深度绑定的软件生态既形成垄断又放大风险；在模型侧，权重窃取与蒸馏攻击频发，权重已成管制新标的；在智能体侧，“提示注入+工具调用”带来数据泄露新通道。每一层都存在AI安全与网络安全的风险叠加，任何单层防御的溃败都可能导致全栈系统的坍塌。
（四）风险治理由内容管控转向责任重构
智能体的发展还带来了两个更为基础性的治理问题。首先是责任问题。传统网络和信息系统的操作主体主要是自然人或者组织，责任链条相对清晰。当智能体能够自主规划并持续执行任务后，模型开发者、模型提供者、智能体部署者、工具提供者和最终用户之间可能形成复杂责任关系。一旦自主执行行为造成损害，如何准确识别行为来源并划分责任，将成为AI治理的重要问题。其次是身份问题。现有网络安全体系主要围绕“人”和“设备”建立身份认证、数字证书和访问控制机制，而未来可能出现数量巨大的自主智能体。如何确认“它是谁”“代表谁行动”“拥有什么权限”“执行过什么操作”等问题，将成为智能体规模化部署的基础安全问题。AI安全体系需要从传统的“可信人—可信设备—可信网络”进一步扩展到“可信智能体”，推动身份、权限、行为和责任体系同步演进。
三、能力突破推动全球人工智能安全治理重心调整
AI错综复杂的系统性安全风险，给全球治理格局带来剧烈震荡，特别是以Anthropic Claude Mythos、OpenAI GPT-5.6 Cyber为代表的、具备超强网络攻防能力的大模型横空出世后，引起国际社会强烈应激反应，呈现出四个显著动向。
（一）强化“主权AI”与划定保密红线
“主权AI”已成为大国博弈的核心概念。美国泛化国家安全概念，自身陷入选择“全球市场”与“小院高墙”的两难困境，导致针对AI技术的开放与管控政策反复拉锯。同时，美国加紧制定前沿模型机密测评标准，采取“军政定制、商业分级、分类降智、出口管制”的策略，加快前沿模型在军事、情报和政府部门的应用。美国商务部等职能部门正在“建章立制”，希望在算力与权重两端，将“远程调用”和芯片出口等纳入管制。美国国家标准与技术研究院所属人工智能标准与创新中心（CAISI）联合安全情报部门和国家实验室，形成“国家安全人工智能风险测试”工作机制（TRAINS），综合管控前沿模型的安全。其他主要大国主动应对美国的技术垄断和准军事化倾向，已放弃早期“技术无国界”的幻想，转而强调对本国AI技术栈的全链条掌控，纷纷强化主权意识，划定AI保密红线，加固网络安全体系。
（二）坚守数据底线与强化跨境监管
数据作为大模型的“工业血液”，主权属性日益凸显。国际社会围绕数据合规与出境的立法执法力度空前加大。一方面，大模型跨境服务中的境外API直连、未备案模型中转、“套壳”沉淀数据等灰色链路被纳入监管。涉及个人踪迹、人口健康、关键基础设施运转的核心数据，均受到最高级别的跨境限制。另一方面，全球各国积极出台跨境监管办法。我国先后发布《数据出境安全评估办法》《个人信息出境认证办法》等，开展数据跨境流动合规路径探索，并设立负面清单等具有创新性的管理举措。防范高价值数据被非法使用成为重要的治理底线。
（三）高度关注“AI工厂”与自主可控
确保“能源+芯片+基础设施”构成的“AI工厂”自主可控，成为大国战略安全的重中之重。美国、欧盟、中国等均在本国数据中心内建设AI基础设施、训练本国数据，形成“交钥匙”式的全栈产品，成为当前AI落地应用的主要模式。各国日益意识到，建立在他国全栈技术之上的“主权AI”本质上是“租来的主权”，随时面临被“断供”的风险。只有建立自主可控的现代化“AI工厂”，才能确保供应链不被“卡脖子”。
（四）智能体身份治理成为标准与规则建设新前沿
随着智能体数量迅速增加，如何对非人类智能身份进行统一管理，已经成为国际产业界关注的重要方向。部分国际科技企业正在把智能体视为独立身份对象，为其建立注册、认证、授权、审计和生命周期管理机制，并将零信任原则进一步应用于智能体访问控制。我国已经开始进行制度和标准布局。2026年发布的《人工智能 智能体互联》系列国家标准化指导性技术文件，已经覆盖总体架构、身份码、身份管理、智能体描述、智能体发现、智能体交互和工具调用等关键环节。在2026年世界人工智能大会期间，我国进一步提出《智能体互信互联互操作全球合作倡议》，明确提出加强智能体身份标识、协作互认、安全治理等基础能力建设。从这一趋势看，未来网络空间的基本行为主体可能由“人+设备”逐步扩展为“人+设备+智能体”。围绕智能体建立统一身份、安全接入、最小权限、行为审计和责任追溯机制，将成为下一阶段网络安全体系建设的重要内容。
总体而言，全球AI竞争正在从单一的模型能力竞争演变为围绕算力、数据、模型、智能体、应用生态和治理规则展开的系统性竞争。与之相伴，大模型安全也正在从模型本体安全进入系统安全阶段。
四、构建大模型系统安全体系的优先事项
面对复杂的国际竞争态势与严峻的安全挑战，必须坚持系统观念，统筹发展和安全，加快构建符合智能时代以及我国国情的大模型系统安全治理体系。当务之急是要做好以下四项工作。
（一）尽快建设国家级网络安全大模型
没有强大的自主原生智能系统，就无法防御高级的智能攻击。要坚定不移地采取“对标国际、通专结合、自主可控”的战略路线，以国产基础模型为底座，研发体现国家主权、注入社会主义核心价值观和安全领域专业经验的专用大模型。通过构建内部深度可控、外部严密防御的认知安全内核，实现国家网络空间防御能力的体系化跃升。
（二）加快构建数据安全大型实验平台
高质量数据加工与训练资产构建能力，已成为大模型竞争的重要基础。我国数据资源规模优势明显，但在数据加工提炼和任务转化方面仍有提升空间。建设数据安全大型实验平台，既是安全治理之需，也是科研生产之要。平台应重点形成三方面能力：一是数据治理，围绕分类分级、脱敏合规、投毒检测、来源追溯等建立安全管理机制；二是数据加工，将原始数据资源转化为高质量语料库、知识库、指令数据集和行业训练集；三是任务化训练，将网络攻防、漏洞挖掘、关键基础设施运行维护等真实业务流程，转化为可评估、可反馈的训练测试环境。与此同时，平台建设应充分发挥网络安全专业机构与国内基础模型团队优势，坚持核心数据合成、标注能力自主可控，并建立合成数据来源追踪、质量评估和安全审计机制，推动我国数据资源优势进一步向AI训练资产和安全能力优势转化。
（三）全力推进“国模国芯”适配与安全可靠测评
大模型系统安全最终建立在基础软硬件安全之上。应加强国产通用处理器、AI加速芯片、服务器、操作系统、基础软件框架与主流国产大模型之间的协同优化，搭建权威的适配验证和安全可靠测评平台，对性能、稳定性、安全性、能效和供应链风险开展系统测试，加快形成可复制、可部署的自主AI基础设施解决方案。可探索推动将测评结果与政府采购、重点行业部署、示范应用等机制衔接，以需求侧的确定性支撑供给侧迭代，实现“以模促芯、以芯育框”的正循环，并使用央国企高价值场景作为国产算力的天然试验场，加快完成从“可用”到“好用、可信”的关键一跃。
（四）强化基础运营商安全责任构建智能体治理新体系
应重新审视基础电信运营商和云服务商在智能时代的安全责任。未来，大量大模型和智能体将部署在云平台，并通过网络开展协作，运营商和云服务商将成为连接算力、模型、数据和应用的重要安全节点。应重点突破大模型系统部署于政务云和关键行业云之后的安全隔离、大规模智能体并发条件下的可信访问控制、异常智能体快速识别，以及面对机器速度攻击时的系统韧性恢复等关键技术，推动云网基础设施从传统的信息传输和计算平台向智能时代可信数字基础设施演进。
与此同时，需研究建立面向智能体的统一身份、安全认证、权限控制和行为审计机制。可推动智能体形成“一体一身份”，明确其所属主体、使用模型、数据访问范围和工具调用权限；坚持最小权限原则，对高风险工具和敏感数据访问设置动态授权；建立完整的行为日志和责任追溯机制，实现智能体可注册、可识别、可授权、可审计、可禁用。
五、结 语
安全研究的终极目的从来不是为了阻碍创新的脚步，而是为创新提供稳定、可信、可持续的发展边界。AI安全治理是一项长期性、系统性工程，事关国家长远发展和全球数字治理格局。必须保持战略定力，增强忧患意识，坚持底线思维，在技术创新、制度建设、国际合作等方面持续发力。唯有如此，方能确保AI技术始终在造福人类的轨道上健康发展，为实现高质量发展提供坚实支撑，回答好智能时代的“时代之问”。
（本文刊登于《中国信息安全》杂志2026年第8期）
声明：本文来自中国信息安全，版权归作者所有。文章内容仅代表作者独立观点，不代表安全内参立场，转载目的在于传递更多信息。如有侵权，请联系 anquanneican@163.com。
