王君兰，浙江省通信管理局
技术规模化普及离不开完备的治理体系保驾护航，而实现技术创新与社会公共利益协同共进，才能护航人工智能（AI）发展行稳致远。人工智能治理并非为创新设置壁垒，而是为技术发展划定清晰运行轨道，在安全框架内充分释放智能技术创新动能。早期关于人工智能伦理的讨论多集中于阿西洛马原则等宏观价值宣示，侧重于回答“为何治理”这一基础命题，整体治理模式偏向道德约束。随着大语言模型参数的指数级增长及自主智能体的广泛应用，抽象的伦理原则无法对接具体技术漏洞、行业合规要求与违法追责场景。我国始终坚持统筹发展和安全总基调，探索贴合国内产业体量、社会治理结构的人工智能安全治理体系。
一、源于数据与模型架构不确定性的人工智能安全风险
人工智能安全是数字时代风险防控的关键领域，事关科技健康发展、社会公共利益乃至国家安全大局，必须始终坚持底线思维、强化源头治理。人工智能的安全风险绝非应用层面的局部问题，只有透析风险生成的内在原因，才能牢牢把握人工智能安全治理的主动权。
（一）数据样本失衡，传导放大算法结构性偏差
人工智能依靠海量现实样本完成模式拟合。训练语料存在群体样本分布不均、历史记录偏向、人工标注主观倾向等问题。模型会通过数值运算放大原始素材隐含的不均衡特征，极易输出差异化筛选结果。恶意篡改素材则会形成数据投毒，仅依靠上线后内容过滤无法根除源头瑕疵，进而倒逼数据采集、清洗、标注全环节需设立强制性合规约束。
（二）算法对齐失准，突破预设安全防护约束边界
模型无法统一人类价值偏好与自身决策逻辑，出现安全护栏失效问题。从普通用户侧看，交互端口无高强度访问权限锁死机制。用户可通过越狱提示词、对抗性指令、上下文诱导等常规话术，绕过表层内容审核机制破解安全防护。从高阶自主智能体侧看，智能体具备长时序记忆、自主规划与闭环决策能力，在连续任务执行过程中出现自主失序现象。
（三）认知推理缺陷，诱发模型自主生成信息幻觉
大模型依托概率统计逻辑完成内容生成，不具备客观事实甄别与逻辑复盘能力。为贴合用户交互语境、迎合用户提问倾向，模型会编造虚假数据、未公开案例、伪造学术引文。因此，需通过强制性技术标准落地检索增强生成、全量语料事实核查、生成内容来源标注等技术，规范弥补原生认知短板。
二、我国人工智能安全治理的制度安排体系
经国序民，正其制度。面对人工智能技术快速迭代带来的风险挑战，我国始终坚持统筹发展和安全，秉持在发展中规范、在规范中发展的总体思路，系统构建多层次、立体化的安全治理制度体系，覆盖技术研发、部署应用、事后追责的完整生命周期，为产业创新划定了清晰且可预期的制度边界，也为治理领域的制度体系化建设积累了系统性实践经验。
（一）法治立规，解决“治理底线是什么”核心问题
制度规范是人工智能安全治理的基本遵循，也是划定创新边界、守护公共利益的重要保障。我国坚持顶层引领、分层施策，逐步搭建起覆盖人工智能技术全生命周期的制度规则框架，为行业规范有序发展筑牢坚实根基。
国家中长期规划搭建全链条顶层框架。以战略规划锚定发展方向，以顶层设计统揽治理全局，持续深化人工智能治理的制度设计，逐步确立治理总体思路。2017年发布的《新一代人工智能发展规划》，首次将人工智能上升为国家战略；2025年印发的《关于深入实施“人工智能+”行动的意见》，确立了安全与创新并行发展总基调；2026年3月通过的《中华人民共和国国民经济和社会发展第十五个五年规划纲要》，提出人工智能全生命周期风险管理制度、“模芯云用”一体化治理顶层设计，要求从算法、算力、基础设施到终端应用同步实施一体化风险管控。
专项规章划定基础安全底线。聚焦算法服务、生成式应用、拟人化交互等重点领域出台针对性监管规章，推动治理要求从宏观原则落地为具备执法效力的具体规则。2022年发布的《互联网信息服务算法推荐管理规定》，提出建立全国统一算法备案、常态化安全评估基础制度，前置管控推荐类算法风险。2023年发布的《生成式人工智能服务管理暂行办法》，确立分类分级、包容审慎监管原则，是国内大模型领域核心执法依据。
细分场景专项规章补齐人机交互治理空白。2026年4月公布的《人工智能拟人化互动服务管理暂行办法》，细化了算法备案、常态化安全评估硬性要求，明确禁止向未成年人提供虚拟亲属、虚拟伴侣类虚拟亲密关系服务，填补人机情感交互领域制度空白。2026年3月印发的《人工智能科技伦理审查与服务办法（试行）》，旨在推动伦理领域治理进一步制度化、具体化。
（二）标准赋能，解决“规则如何落地执行”问题
法律制度确立的原则性要求，必须转化为可量化、可核查、可落地的技术标准。我国坚持国家标准筑基、行业标准补位的分层建设路径，为人工智能治理落地提供坚实的技术支撑。
国家标准实现法律条文具象化落地。围绕生成式人工智能服务安全等核心领域发布国家标准，统一风险评估方法与安全管控指标，推出企业合规自测的统一技术标尺。2025年发布的《网络安全技术生成式人工智能服务安全基本要求》（GB/T45654—2025）提出，统一大模型训练数据、模型安全、内容生成全流程风险评估流程，成为企业合规自测、监管现场核查的依据。2026年5月推出的《人工智能终端智能化分级》（GB/Z177—2026）指导性国标，覆盖智能手机、微型计算机、智能电视、AR眼镜、车载座舱、智能音箱、蓝牙耳机全品类智能终端，同步建立人工智能能力分级、安全分级双重管控标准，补齐终端侧标准缺失短板。
细化行标补齐通用监管场景短板。行业专项标准立足细分业务场景，针对性细化数据脱敏、决策可溯源、异常风险告警等专属技术要求。各垂直领域陆续出台团体标准与行业规范，形成国家标准之外的精细化补充治理体系，同时，行业组织牵头搭建跨企业安全共治联盟，推动头部企业安全防护方案普惠中小厂商，统一行业合规技术基线。中国信息通信研究院等研究机构每年发布《人工智能安全治理研究报告》，为企业合规建设、监管现场核查提供分层实操指引。
（三）纠偏定责，解决“权责如何清晰划分”问题
制度的生命力在于执行，治理的实效彰显于落地。推动人工智能安全治理走深走实，关键在于把制度规则转化为刚性约束与治理效能，通过明晰权责边界、创新监管方式、畅通监督渠道，确保各项制度要求落地生根、发挥实效。
司法裁判明晰权责边界，填补成文法模糊地带。通过典型案例和司法解释，积极回应人工智能治理中的新型法律问题，明确了裁判规则与责任边界。2022年，最高人民法院发布《最高人民法院关于规范和加强人工智能司法应用的意见》，规范人工智能的辅助审判作用。2023年，北京互联网法院审理全国首例人工智能生成图片著作权侵权案，首次明确人工智能创作权属、平台审核义务边界。2026年，杭州互联网法院审结全国首例生成式人工智能“幻觉”引发侵权之诉，对人工智能生成内容的性质、服务提供者的责任边界等问题进行深入阐释。2025年，最高检印发《人民检察院办理未成年人保护公益诉讼案件工作指引》，将拟人化人工智能侵害青少年权益纳入重点办案领域。
监管沙盒先行先试，实现风险前置隔离防控。各地依托产业特色设立人工智能安全监管沙盒，在封闭可控环境完成新产品、新模型风险测试。自北京落地全国首个人工智能数据训练沙盒，为入驻中小企业提供免费算力、合规咨询扶持后，各省均结合自身产业实际设立安全沙盒，通过“包容试错、风险可控”的模式，既为创新企业提供了宽松的发展环境，又能及时发现并化解潜在风险，为全国层面的制度设计积累了宝贵的实践经验。
统一线上举报渠道，构建闭环监管链条。为配合“清朗·整治人工智能应用乱象”专项行动，2026年6月，中央网信办违法和不良信息举报中心上线涉人工智能应用乱象专属举报专区，覆盖未备案大模型、人工智能生成内容无溯源标识等14类突出违规问题，构建“群众线上举报—网信线索核查—跨部门专项处置—行业全面整改”常态化闭环监管。
（四）自治补位，解决“细分场景差异化管控”问题
众力并，则万钧举。人工智能治理是一项复杂的系统工程，需要推动形成政府引导、企业尽责、行业自律、区域联动的良好格局，持续提升治理的适配性与精准度。
头部企业签署安全承诺，主动落实全生命周期管控。2024年，中国人工智能产业发展联盟（AIIA）发起《人工智能安全承诺》。阿里、腾讯、华为等22家国内企业成为首批签署单位，承诺定期对外发布安全透明度报告，主动公开模型安全评估、风险处置案例。近年来，各涉人工智能企业主动将安全校验嵌入模型研发、训练、部署、迭代全流程，落实源头治理主体责任。同时，行业组织和产业联盟针对人工智能领域的技术创新，完善相关的知识产权保护制度，避免技术成果的滥用和侵权，与国家法律法规、国家标准形成互补配套。
地方搭建区域共治载体，打通要素流通渠道。地方治理实践作为统一治理体系的地方化延伸，承担制度场景化适配与差异化探索的枢纽功能，可依托区域产业禀赋与应用生态特征，构建更具落地属性的资源流转路径。海南落地全省首单人工智能训练数据知识产权登记，为合规数据集流转、商业价值转化建立市场化自治规则；广东省网络数据安全与个人信息保护协会揭牌，统筹省内科技、媒体、制造业企业，开展算法第三方审计。这些地方层面的行业自律举措，紧扣各地人工智能发展的现实需求，因地制宜地解决了不同区域人工智能发展过程中的问题。
三、我国人工智能安全治理实践的深层逻辑
循道而行，方能致远。我国人工智能安全治理的探索与实践，是新时代推进国家治理体系和治理能力现代化在数字经济领域的生动缩影。这一治理体系既立足我国产业发展阶段与社会治理实际，又遵循技术演进的客观规律，形成具有中国特色的治理逻辑与实践智慧。
（一）统筹平衡逻辑：安全底线前置，分级管控实现创新与规范共生
我国人工智能治理实践摒弃“重管控、限发展”“重发展、弱约束”两种极端路径，不搞“一刀切”式严管，拒绝后置补救，而是以差异化管控平衡活力与安全。一方面，依托包容审慎机制预留创新试错空间。各地监管沙盒面向中小创新主体开放免费测试通道，国家标准按照高、中、低风险场景匹配对应管控强度，自动驾驶、医疗诊断等高风险人工智能实施强制第三方安全认证，办公人工智能工具、普通家用智能音箱落实基础算法备案、生成内容标识义务，兼顾产业多元创新活力与安全管控刚性要求，实现了治理强度与风险等级的精准匹配，能够在守住安全底线的前提下最大限度压缩产业合规成本。另一方面，坚持源头前置管控，规避事后被动治理模式。《人工智能拟人化互动服务管理暂行办法》从产品研发设计端限制伤害青少年的虚拟亲密服务，将安全合规要求内嵌于产品形态设计、交互规则设定、用户权限划分的全研发环节，针对虚拟亲密关系类服务的伦理偏差与认知风险作出明确禁止性规定。企业部署检索增强生成、动态语料净化、内容溯源标注标准化技术，让安全能力成为模型自身的出厂设置而非事后补丁。
（二）全链条闭环逻辑：“模芯云端用”全域覆盖，权责分层实现全程可追溯
风险管控贯穿芯片到应用全链路，一环一责任，全程可溯源。在源头数据环节，设置采集、清洗、标注合规准入门槛，系统防范数据污染与算法结构性偏差；在研发建模环节，要求企业设立独立伦理审查机构，在产品上线前开展隐私安全、模型对齐影响评估；在云端服务环节，全网大模型平台履行算法备案、年度常态化安全评估法定义务；在终端硬件环节，依国标统一全品类智能设备人工智能安全分级管控；在交互应用环节，专项规范拟人化人机服务、人工智能生成内容强制溯源标识硬性要求；在事后追责环节，依托举报专区、民事诉讼、检察公益诉讼，完成侵权、违规行为闭环追责。
（三）多元协同逻辑：凝聚治理合力，构筑多元协同治理格局
形成多主体分工协作、优势互补的治理格局，构建全社会共建共治善治格局。企业作为第一责任主体，将安全管控嵌入模型研发、训练、上线全流程，严格落实算法备案、年度安全评估、生成内容标识等法定要求；高校、科研院所、技术社群发挥技术创新主力军作用，持续攻关算法公平性、模型可解释性、对抗攻击防御等底层核心技术，建立独立的技术评估体系，提供严谨科学的技术论据和实验数据；媒体充分发挥舆论监督和科普宣传作用，客观报道技术发展动态和安全风险，提高公众对人工智能技术的认知和辨别能力；行业协会搭建沟通桥梁，制定行业自律规范，开展第三方合规评估和认证；普通公众积极参与社会监督，主动反馈算法滥用、不良生成内容等问题，共同守护清朗有序的智能应用环境。
四、共建以人为本、多方协同的安全治理长效模式
面向未来人工智能技术持续迭代、应用深度渗透的发展趋势，必须坚持系统观念、久久为功，着力构建以人为本、多方协同的长效治理模式，推动治理体系与技术发展同频优化、动态升级。
（一）推动地方试点成果全国转化
建立“地方试点探索—经验提炼—国家统一规范”转化机制，持续迭代分层分类法规标准体系，实现区域治理经验普惠全国。加快工业、医疗、教育、金融等垂直行业人工智能专项规章落地，统一跨区域、跨部门监管执法细则。加大统一公共人工智能安全检测平台、高质量共享安全数据集建设投入，补齐基层技术资源短板，通过公共性技术基础设施的普惠性供给，弥补不同区域、不同规模市场主体间的技术能力差异。常态化推进全民人工智能数字素养普及工程，通过线上线下渠道科普人工智能“幻觉”识别、深度伪造辨别实操方法。鼓励免费合规咨询等扶持举措，平衡中小企业合规成本与创新空间。
（二）让合规成为产业发展内生动力
引导企业跳出最低合规底线思维，推动安全合规由外部监管约束转化为企业核心治理要素与市场竞争优势，实现合规成本向信任资产的价值转化。建立独立、常态化伦理审查机制，在新模型、新产品上线前完成前置隐私、安全双重影响评估。搭建行业共享安全漏洞应急响应机制，在出现数据泄露、模型失控、虚假信息批量传播风险时，第一时间整改并向社会公示。按期发布安全透明度报告，主动公开安全评估数据、风险处置典型案例，搭建企业与公众之间的技术信任桥梁。
（三）凝聚社会共治民生力量
学术界保持基础研究独立客观属性，立足产业技术实操视角规避脱离行业实际的管控规则，以专业力量守住技术向善价值关口。媒体坚持客观平衡报道导向，同步宣传人工智能赋能实体经济、民生服务的正向价值，客观科普人工智能诈骗等现实风险，做好全民数字素养科普传播。社会组织推动包容性技术设计，用好新技术新手段，提高科普内容的实效性、趣味性、互动性，重点针对未成年人、老年人等群体开展差异化宣传，提升其风险识别能力和自我保护意识。
总之，安全治理从来不是人工智能技术创新的桎梏，而是技术行稳致远的压舱石。立足新质生产力发展时代背景，我国人工智能治理走出了一条适配我国产业国情、兼顾创新发展和公共安全的特色治理路径。面向未来人工智能技术持续迭代、应用场景持续拓宽的发展大势，应以全链条防控守住安全底线，以多方共治释放创新活力，方能推动人工智能技术始终沿着以人为本、安全可控、向善向好的轨道高质量发展，为数字中国建设与实体经济转型升级注入持久、安全、可靠的智能动能。
（本文刊登于《中国信息安全》杂志2026年第7期）
声明：本文来自中国信息安全，版权归作者所有。文章内容仅代表作者独立观点，不代表安全内参立场，转载目的在于传递更多信息。如有侵权，请联系 anquanneican@163.com。
