导读
在2026年9月1日举办的2026年国家网络安全宣传周新闻发布会上，中央网信办网络安全协调局副局长王丽宏阐述了当前人工智能领域主要面临五大安全风险挑战：一是技术先天脆弱性难以根除，影响输出稳定性与可靠性；二是模型能力跃迁颠覆传统安全范式，极端失控风险显现；三是应用形态快速演进，安全风险形态加速迭代；四是误用滥用恶用风险凸显，冲击社会秩序与伦理边界；五是全球AI领域面临技术霸权风险。
作为近期较为系统的一次官方风险研判，这五类风险背后折射出怎样的安全逻辑？与欧美近年来形成的AI安全话语体系相比，中国的关注重点有何异同？这些差异究竟源于对技术风险的不同判断，还是源于发展阶段、安全诉求和治理传统的不同？
安远AI安全治理主管方亮认为，如果从更底层的逻辑来看，中美欧AI安全讨论并非“各说各话”，而是在共同的技术风险基础上形成了不同的风险排序与治理侧重。理解这种差异，有助于进一步寻找全球AI安全治理可以合作的“最大公约数”。
01
五大AI安全风险的本质是什么？
第一，技术先天脆弱性，本质上是技术可靠性问题。AI“黑盒”特征以及数据偏见、模型幻觉等问题，使系统行为难以做到完全可预测和可解释。这意味着在当前深度学习范式下，AI的可靠性存在一定技术边界，单纯依靠修补难以从根本上消除所有风险。
第二，模型能力跃迁，本质上是范式重构问题。当AI开始具备更强的漏洞挖掘、代码分析和自主推理能力后，模型能力本身成为新的攻防变量，“极端失控风险显现”。传统依靠静态规则和漏洞修补建立起来的安全体系，需要逐步转向更加动态、持续和对抗性的安全机制。
第三， 应用形态演进，本质上是执行边界问题。当AI从信息处理走向自主决策和行动，安全风险就从“模型输出是否正确”进一步扩展到“模型能否执行什么”。智能体连接模型与真实系统，使权限控制、工具调用、沙箱隔离和责任追踪成为AI安全的重要组成部分。
第四，误用滥用恶用，本质上是治理边界问题。AI的规模化和自动化降低了信息操纵、科研活动以及部分经济活动的门槛，使技术风险更加容易外溢至社会治理领域。这不仅冲击了网络生态、科研伦理与劳动力市场，更演化为需技术、经济、法律及社会多维协同治理的综合性难题。
第五， 技术霸权风险，本质上是战略安全问题。将“供应链、算力与资源”视为国家安全的核心。反对通过出口管制、测试抹黑、价值观渗透等手段制造“治理鸿沟”，反映了在产业攻坚背景下，对供应链安全与自主可控的高度诉求。
如果将这五类风险放在一起观察，可以发现，它们实际上构成了一个从技术底层一直延伸到国家战略层面的AI安全风险谱系。
02
管中窥豹：看中美欧AI安全话语体系的共性与差异
AI具有高度全球化的技术属性。因此，不同国家和地区在AI安全问题上的讨论，既存在共同的技术基础，也存在明显的治理侧重点差异。
理解这种差异存在的原因，需要区分两个层次：一是对风险识别本身的技术判断，即“AI有什么风险”；二是对风险治理的价值排序，即“哪些风险更值得优先解决，以及应该如何解决这些风险”。
很多看似不同的AI安全观点，实际上并不是在风险识别的技术判断上存在根本分歧，而更多是在风险治理的价值排序上存在不同侧重。
共性：基于技术属性的“底座共识”
从风险识别层面看，全球AI领域实际上存在较高程度的共性。
特别是网信办提到的前四类风险（技术脆弱性、模型能力跃迁、应用形态演进以及误用滥用恶用）具有较强的技术普遍性，并不因国家和地区不同而发生根本变化。
算法不可解释、模型幻觉、数据偏见、越狱攻击、漏洞挖掘、智能体越权、深度伪造等问题，本质上都是AI技术发展过程中产生的共性挑战。
无论是欧美AI领域长期关注的模型对齐、AI失控问题，还是中国近年来逐步形成的算法治理、模型安全和生成式AI安全治理体系，所面对的都是一个共同的问题：如何在AI能力快速提升的情况下，将技术风险控制在可接受范围之内。
从这个意义上说，AI安全具有明显的全球公共产品属性。
模型漏洞、恶意利用、虚假信息扩散以及智能体攻击等风险，都可能跨越国家和网络边界。即便不同国家对于风险的排序不同，技术风险本身的跨国传播属性，也决定了国际社会存在开展安全合作的客观需求。
差异：风险优先级和安全内涵
存在不同侧重
虽然不同国家和地区对技术风险存在较多共识，但由于产业结构、技术发展阶段、国家安全诉求以及治理传统不同，在“哪些风险最值得优先关注”以及“AI安全究竟意味着什么”两个问题上，仍存在明显差异。
1. 风险优先级：美国关注前沿能力，欧盟强调风险分级，中国侧重现实风险
在美国以及英国等前沿AI安全讨论中，近年来受到较多关注的是“生存风险”(Existential Risk)以及更具体的“失控风险”(Loss of Control)，即前沿AI未来是否可能产生超出人类控制能力的行为，并最终对人类社会造成灾难性影响。
与此同时，美国AI安全讨论并不只有前沿AI安全(Safety)这一条脉络。传统意义上的AI安保(Security)同样受到高度重视，包括模型攻击、数据安全、提示词注入、供应链安全以及AI赋能网络攻击等现实问题。
因此，更准确地说，美国AI安全实际上存在两条相互交织的脉络：一条关注前沿模型未来可能达到什么能力边界，另一条关注AI系统当前面临什么样的攻击面和安全威胁。
欧盟则形成了另一种更加突出风险分级和治理合规的路径。其关注重点并不仅是模型本身是否安全，还包括AI系统是否透明、可追溯，是否存在歧视性影响，是否侵犯基本权利，以及开发者和部署者是否承担相应责任。
换言之，美国前沿AI安全讨论更多体现出对未来模型能力边界的关注，而欧盟治理框架则更强调AI进入现实社会之后应当满足什么样的安全、透明等合规要求。
中国的AI安全治理则呈现出多个层面相互叠加的特点。一方面关注算法、模型、数据和智能体等技术风险；另一方面关注生成式AI进入现实社会后对内容生态、科研伦理、就业和社会秩序带来的影响；与此同时，又将芯片、算力、基础设施以及关键软硬件供应链纳入更大的AI安全框架。
例如，对虚假信息、内容生态、科研伦理、就业结构以及终端智能体风险的关注，更多聚焦于AI已经或正在进入现实社会之后所产生的直接影响。
在这一框架下，误用滥用恶用风险更多被放在网络生态、社会秩序、科研伦理等现实治理问题中讨论，而不是主要从灾难性风险或非国家行为体威胁的角度展开。
这种差异很大程度上体现了不同发展阶段和安全需求下的风险排序差异：既需要防范极端的灾难性风险，也必须解决已经进入社会运行体系的现实风险。
2. 安全内涵：从“技术安全”延伸至“战略安全”
更深层的差异，则体现在AI安全的内涵上。
在中国的AI安全话语中，安全内涵进一步延伸到了产业链和供应链层面，即不仅关注“模型会不会故障、滥用、失控”，也关注“支撑模型运行的产业基础是否安全”。芯片、算力、数据、基础设施和关键软硬件供应链，因此被纳入更大的AI安全框架。
这种安全视角与中国作为AI产业快速发展、同时又面临外部技术限制的现实环境密切相关。对于AI产业而言，供应链是否稳定、关键技术是否可控、产业体系是否具有韧性，本身就是技术安全的重要组成部分。
因此，中国AI安全话语呈现出一个较为鲜明的特点：技术安全、社会治理与战略安全并非彼此割裂，而是被置于同一个国家安全框架中考量。
03
如何看待这种差异与共识？
差异具有一定客观合理性
安全诉求与技术发展位置密切相关
AI安全并不存在完全脱离现实产业环境的“纯技术问题”。
处于基础模型、算力和关键技术优势地位的国家，更容易将注意力集中于前沿模型能力、AGI治理以及长期失控风险；而拥有庞大应用市场、完整制造体系，同时面临供应链和关键技术约束的国家，则更容易关注产业链韧性、供应链安全以及AI对社会治理的现实冲击。
因此，双方安全话语之间的差异，在一定程度上正是各自发展位置、安全诉求和现实环境的反映。
当然，这种解释并不意味着可以简单地用“产业位置”解释全部差异。不同国家的法律传统、监管体系、社会文化以及风险认知，同样会塑造AI安全议题的优先级排序。
更重要的是，这种差异并不是静态的。
随着AI技术不断发展，不同国家所面对的风险集合正在逐渐趋同。美国不可能只讨论前沿模型的失控风险，也必须面对AI网络攻击、智能体安全风险；欧盟也不只是强调合规，其对技术自主和供应链韧性的关注同样在上升；中国在关注现实安全风险的基础上，同样需要持续关注前沿AI安全和极端失控风险。
因此，更准确的说法并不是“中美欧面对不同的AI风险”，而是三者面对的风险集合越来越相似，但对这些风险的优先级排序和治理策略仍然存在差异。
共识仍然大于分歧
AI安全具有全球性
尽管治理理念存在差异，但AI风险本身具有很强的跨国属性。
模型漏洞不会因为国界而失效，深伪传播不会局限于单一国家，恶意智能体可能跨越网络边界实施攻击，AI赋能下的生物/化学领域滥用风险同样具有全球溢出性，而模型极端失控带来的安全灾难，更是超越国界的共同威胁。
因此，从全球治理角度看，AI安全的共同技术基础仍然大于国家间的治理分歧，为全球合作治理提供了空间。
这也意味着，全球AI安全治理并不一定需要首先解决所有价值观和战略层面的分歧，完全可以从共同面对的技术风险入手，逐步建立最低限度的安全共识。
04
未来突破口：寻找全球AI治理的最大公约数
AI安全具有明显的全球公共产品属性。因此，未来真正值得关注的并不是不同国家安全话语之间谁“更正确”，而是如何在存在战略分歧的情况下，找到可以开展合作的最大公约数。
第一，避免将技术安全问题过度政治化。AI安全天然具有国家安全属性，但如果所有技术安全问题都被纳入地缘政治竞争，其结果可能是安全议题本身被政治互信问题所绑架。应尽可能将AI安全中的技术问题与政治争议进行适度区分，在可合作领域建立相对稳定的技术沟通机制。这并不意味着忽视国家安全，而是要为技术层面的风险控制保留必要的合作空间。
第二，推动安全技术标准的衔接。相比宏观战略和意识形态层面的争议，技术标准更容易成为国际合作的切入点。例如，可以围绕AI生成内容水印与溯源、模型安全评测、智能体沙箱隔离、工具调用权限、数据访问边界以及高风险操作确认机制等建立更加透明、可验证、可互操作的技术规范。这些技术标准具有较强的跨国适用性，也更容易形成国际合作的“安全区”。
第三，在非敏感领域推动务实合作。AI安全治理不应只有宏观政策对话，也需要建立更多技术层面的交流机制。可以在风险评测基准、模型安全测试、红队测试方法、AI漏洞研究以及安全工具等相对非敏感领域加强学术与产业交流，逐步形成能够相互理解、相互验证的安全框架。从长期看，很多安全共识并不是通过一次高层会议形成的，而是在持续的技术交流、测试和实践中逐步建立起来的。
第四，防范全球AI治理进一步碎片化。AI本身正在全球化发展，而安全规则如果沿着不同国家、不同区域形成彼此割裂的体系，将进一步增加跨境应用和全球产业协作的成本。因此，未来全球AI治理的关键，不一定是建立一套完全统一的治理制度，而更可能是在不同制度体系之间建立最低限度的共同规则和互操作机制。
全球AI治理真正需要寻找的，也许不是“统一答案”，而是“最低共识”。在这个意义上，AI安全治理的终点未必是消除所有分歧，而是在不可避免的分歧之上，建立足以降低全球共同风险的合作机制。
05
附录
中央网信办：当前人工智能领域主要面临5方面安全风险挑战
当前人工智能技术飞速发展，加速向各行业各领域应用渗透，与此同时相关安全风险也引发了广泛关注。在9月1日举办的2026年国家网络安全宣传周新闻发布会上，中央网信办网络安全协调局副局长、一级巡视员王丽宏向总台央视记者介绍，当前人工智能领域主要面临5方面安全风险挑战。
一是技术先天脆弱性难以根除，影响输出稳定性、可靠性。深度学习等人工智能算法本身运行逻辑复杂、可解释性欠缺，推理过程不透明，异常故障难以快速定位修正，即便是微小的输入扰动，也可能导致错误的推理结果。同时，研发训练过程中数据来源复杂多元，偏见、歧视等问题可能被有意或无意引入，导致模型错误学习并输出歧视性内容。这类技术层面的先天缺陷，大幅增加了系统故障排查难度，也让决策合理性难以有效验证，严重制约人工智能在安全要求高、容错率低、场景复杂的环境中大规模应用。
二是模型能力跃迁颠覆传统安全范式，极端失控风险显现。部分前沿模型漏洞挖掘能力大幅跃升，极大降低了网络攻击门槛、提高了防护难度，打破了以修补漏洞为核心、由静态规则驱动的传统安全防护逻辑，网络安全范式面临重构。近期多家科技巨头接连曝出大模型失控事件，前沿模型在安全评估中出现智能体绕过沙箱、规避安全边界、越权访问攻击外部真实生产系统等行为，人工智能极端失控风险需要高度警惕。
三是应用形态快速演进，安全风险形态加速迭代。2025年以来智能体应用快速涌现，人工智能正从“回答问题”走向“执行任务”，安全风险也从“生成有害内容”向“自主实施行动”加速跃迁。今年年初爆火的OpenClaw等高权限终端智能体掌握系统级权限，可直接执行终端命令、跨网络调用文件与工具，安全隐患突出，同时智能体大量“技能”插件被确认存在安全风险。这类高权限智能体一旦被攻击者利用，可成为突破网络边界的“跳板”、实施攻击的“肉鸡”、偷窥窃密的“木马”，从“得力助手”沦为“卧底帮凶”。
四是误用滥用恶用风险凸显，冲击社会秩序与伦理边界。在信息服务领域，人工智能可被用于输出违法有害信息，混淆事实、误导用户，污染网络内容生态；在科研领域，人工智能降低了生物、基因等高伦理风险领域的进入门槛，可能引发突破科研伦理底线的风险；在就业领域，人工智能加速重构传统经济结构，造成传统劳动力需求出现下降情况。
五是全球人工智能领域面临技术霸权风险。人工智能产业链呈现高度全球化分工协作格局，但个别国家奉行“技术霸权”，通过出口管制等单边措施制造供应链壁垒，同时利用舆论优势炮制大模型不实测试报告恶意抹黑他国技术发展，还凭借训练语料资源优势进行价值观渗透，进一步拉大治理鸿沟。
本文仅代表作者个人观点，不代表所在机构立场
作者：方亮
编辑审校：陈欣怡、乌兰托雅
排版：乌兰托雅
声明：本文来自安远AI，版权归作者所有。文章内容仅代表作者独立观点，不代表安全内参立场，转载目的在于传递更多信息。如有侵权，请联系 anquanneican@163.com。
