1950年，英国科学家艾伦·麦席森·图灵就如何区分与人交流的是人类还是机器提出了“图灵测试”思想实验。70多年后，生成式人工智能技术快速发展，部分人工智能应用已可与人互动交流，生成合成语音、图像和视频内容更加逼真。当前，滥用人工智能技术制造传播虚假信息成为全球面临的共性问题，对此，运用内容标识方式辨别生成合成内容已是多国共识。人工智能技术的广泛应用为社会经济发展带来新机遇新挑战，以习近平同志为核心的党中央高度重视人工智能健康发展与安全治理。2025年11月28日，习近平总书记在中共中央政治局第二十三次集体学习时强调，“当前人工智能、大数据等新技术新应用不断涌现，给网络生态治理带来挑战，也提供新的支持条件”。党的二十届四中全会审议通过的《中共中央关于制定国民经济和社会发展第十五个五年规划的建议》指出，加强人工智能治理，完善相关法律法规、政策制度、应用规范、伦理准则。国家互联网信息办公室坚持统筹发展和安全，积极鼓励人工智能创新发展，持续推进人工智能依法治理。聚焦生成合成内容识别关键环节，颁布实施人工智能生成合成内容标识制度（以下简称“AI标识制度”），为我国人工智能全生命周期治理体系奠定坚实基础。
贯彻落实党中央决策部署，构建AI标识制度体系响应时代治理需要
建立AI标识制度体系是深入贯彻落实党中央决策部署的重要举措。习近平总书记指出，“要健全网络生态治理长效机制，着力提升治理的前瞻性、精准性、系统性、协同性，持续营造风清气正的网络空间”。党的二十届三中全会审议通过的《中共中央关于进一步全面深化改革、推进中国式现代化的决定》指出，完善生成式人工智能发展和管理机制。AI标识制度体系的建立实施是贯彻落实党中央决策部署的重要举措，标志着我国在人工智能治理领域逐步迈向精准化规则构建，对于推动新技术新应用健康有序发展、维护网络空间安全、提升人工智能治理水平具有重要意义。
建立AI标识制度体系是营造风清气正网络空间、维护网民权益和保障国家安全的现实需要。生成式人工智能应用在极大丰富网络生态的同时，也因滥用和恶意使用引发虚假信息、换脸诈骗、恶意输出等安全风险，侵害公民权益、扰乱社会认知与市场秩序，持续削弱公众对网络信息内容的信任基础，威胁社会稳定与国家安全。AI标识制度体系着力构建以制度创新为引擎、技术能力为支撑的现代化治理机制，为社会各界提供简便易行的分辨生成合成内容的方法，是营造风清气正的网络空间、健全网络综合治理体系的现实需要。
建立AI标识制度体系是压实“内容制作、内容传播、应用分发”各主体责任的有效方案。生成合成内容的制作、传播、分发、使用涵盖多个环节，涉及内容制作平台、内容传播平台、应用分发平台、广大网民等多类相关主体。AI标识制度体系清晰界定各主体责任义务，明确要求生成合成服务提供者履行源头标识义务，内容传播服务提供者记录传播环节过程，应用分发平台核验标识功能，广大网民主动声明打标。这种权责制度设计为各主体提供了具体清晰的行为指引，推动形成“各尽其责、协同共治”的人工智能治理格局，有效提升网络生态治理的整体效能。
守正创新，AI标识制度体系贡献人工智能治理中国方案
2025年3月，国家互联网信息办公室、工业和信息化部、公安部、国家广播电视总局联合发布《人工智能生成合成内容标识办法》（以下简称《标识办法》）。国家标准化管理委员会同步发布配套强制性国家标准《网络安全技术 人工智能生成合成内容标识方法》（以下简称《标识标准》）。全国网络安全标准化技术委员会陆续发布多个配套实践指南文件。自2025年9月1日起，AI标识制度正式实施，各方积极响应落实，已经初步形成一套兼具系统性、创新性和包容性的人工智能安全治理中国方案。
AI标识制度体系体现了人工智能治理的系统性。一是AI标识制度体系是网络生态治理理念的延续和扩展，前后衔接一脉相承。2021年，国家互联网信息办公室牵头出台《互联网信息服务算法推荐管理规定》，首先提出传播环节生成合成内容标识要求。2022年和2023年相继出台《互联网信息服务深度合成管理规定》和《生成式人工智能服务管理暂行办法》，分别要求深度合成和生成式人工智能内容添加标识。2025年《标识办法》公布实施，进一步明确了显式标识与元数据隐式标识相结合的AI标识要求，AI标识技术方案正式确立。二是AI标识制度体系技管结合逐层细化。AI标识制度自上而下分为三层，《标识办法》提出了AI标识制度管理要求，《标识标准》给出AI标识规范方法，配套的实践指南文件提出各主体落实AI标识要求的具体技术方案，构成“一部规范性文件、一项强制性国家标准、一套实践指南”的“1+1+N”制度体系。三是AI标识制度体系牢牢把握生成合成内容制作和传播等关键环节，贯穿生成合成内容全链条治理。在内容生成阶段，制作平台在内容中写入标识，为全流程识别和溯源提供基础支撑。在内容传播阶段，传播平台主动核验并更新标识，向用户作出显著提示，呼应制作平台发挥标识作用。制作平台与传播平台在AI标识制度体系下相互协同，解决网络信息内容“哪些是生成的”“谁生成的”“从哪里生成的”等核心问题。
AI标识制度体系展现了内容标识治理的创新性。相较于图片和视频，文字和语音媒体的信息容量较小，添加显式标识容易对用户阅读文字或收听语音信息造成干扰。为了避免AI标识过度影响用户获取文字和语音信息，AI标识制度创新提出角标和节奏型显式标识。一是为文本内容设计了精巧的角标标识。借鉴商标注册领域成熟应用的“TM”标识和强制性产品的“CCC”认证标识做法，《标识办法》创新提出角标形式的显式标识“AI”，在显著提示的前提下，尽可能降低对用户阅读和二次编辑的干扰。二是为音频内容设计了简短的节奏标识。考虑到部分音频内容时长较短或不便于采用长时的语音标识，《标识办法》设计提出摩尔斯电码形式的音频节奏标识，即采用“短长 短短”的提示音（也就是“AI”两个英文字母的摩尔斯电码），相比语音提示更加简洁和典型。
AI标识制度体系体现了统筹发展和安全的包容性。一是专家学者和平台企业深度参与起草与验证工作。AI标识制度研制过程汇集多方智慧，法律、技术、标准化等专家协力贡献意见建议，多家主流互联网平台深度参与标识制度试点验证，科学有序推进研制工作，有效提升标识制度可落地性和可实施性。二是AI标识制度的技术选型充分考虑大多数网站平台技术能力。数字水印技术是产业界公认的健壮性较强的隐式标识技术方案，但因其复杂度高，要求网站平台具备更高的技术能力。考虑到数量庞大的中小型网站平台实际技术能力，在标识方案选型时，经多方参与论证，采用技术实现难度中等的显式标识与元数据隐式标识方案，并以预留安全防护字段、提供安全防护技术实践指南的方式，由平台自行选用难度适合的标识防护方案。三是AI标识制度充分考虑网站平台改造成本。隐式标识记录全传播链路主体信息能够有效溯源传播路径，但也会增大网站平台传输、存储和处理成本。为降低平台投入，AI标识制度只要求隐式标识保留最后一个传播平台相关信息。此外，考虑传播平台标识识别能力，对传播平台生成合成内容检测不作强制要求，提出用户主动声明与平台识别生成痕迹结合的低成本方案。
AI标识制度实施4个月以来，主流制作平台和传播平台已经基本落实标识要求。据初步统计，豆包、深度求索（DeepSeek）、千问、文心等主要制作平台累计为超过1500亿个文本、图片和音视频生成合成内容添加AI标识，累计向用户提供超过10亿个包含AI标识的内容文件；抖音、哔哩哔哩、小红书、微博等主要传播平台累计为超过2.2亿生成合成内容添加了显著提示。与此同时，AI标识制度初步形成了“源头标识-传播核验-全程追溯”的闭环设计，有效压缩了虚假信息传播的空间，在协助明晰知识产权、识别造假司法取证、防止恶意骗取电商退款等行业应用的辅助作用日益显现。
AI标识制度得到公众广泛认可。据全国网络安全标准化技术委员会秘书处开展的一项网民调研结果显示，AI标识制度实施一个月后，76.4%受访者称已明显关注到社交媒体、新闻网站、视频平台等网站平台增加了内容标识，60%受访者认为标识起到了提醒提示作用，能够帮助有效鉴别AI生成合成内容，广大民众已具备“学标识、认标识、用标识”的意识。
国内媒体和社交平台积极宣传AI标识制度，广大网民高度肯定AI标识防范虚假信息传播的积极作用。美、英、法等多国媒体深度报道我国AI标识制度发布实施，肯定我国标识实践在国际上的引领示范作用以及取得的工作成效。
人工智能生成合成内容标识制度系列宣讲（浙江站）。图/中央网信办网络管理技术局
久久为功，各方合力推动AI标识制度健全完善走深走实
一是不断积累经验，推进AI标识制度健全完善。紧跟人工智能技术发展趋势，持续建立健全数字水印、生成合成内容识别、隐式标识跨平台互识互认等技术方案，推动研制AI标识相关配套工具。面向智能体、数字虚拟人等人工智能应用新形态，研究制定AI标识实践指南。同时，总结实施经验和研究各界反馈的新问题，不断完善AI标识制度。
二是加大监管执法力度，压实各主体责任义务。持续巡查AI标识落实情况，督促网站平台落实主体责任，推动AI标识制度从“基本落实”走向“全面规范落实”。依法依规严肃处置多次督促拒不整改的网站平台。坚决打击利用人工智能技术生成合成虚假有害信息、实施网络诈骗，以及提供破坏AI标识工具等违法违规行为。
三是加大普法宣传力度，提升全民人工智能素养。引导网站平台不断深入理解AI标识制度，及时解答疑问。鼓励网民在生成合成内容发布环节“主动声明、主动打标”，通过各种渠道反馈标识相关问题，形成全社会共同推动AI标识制度落地的良好局面。
四是促进形成国际共识，积极贡献人工智能治理中国方案。2015年，习近平总书记创造性地提出构建网络空间命运共同体理念。近年来，人工智能应用已成为影响网络空间的重要因素。我们要不断深化网络空间国际对话交流，在全球范围内推动人工智能安全治理国际合作，共享AI标识制度研制和实践经验，携手各国在技术创新与风险防控的平衡中，推动全球人工智能治理体系向有益、安全、公平方向演进。
新年伊始，万象更新。我们将坚持以习近平新时代中国特色社会主义思想为指导，学习贯彻习近平总书记关于网络强国的重要思想，把握人工智能发展“以人为本、智能向善”的理念宗旨，持续推动AI标识制度落地见效，以技术治理为人工智能产业健康有序发展提供坚实保障，为网络强国建设注入强劲动力。
来源：《中国网信》2026年第1期
声明：本文来自中国网信杂志，版权归作者所有。文章内容仅代表作者独立观点，不代表安全内参立场，转载目的在于传递更多信息。如有侵权，请联系 anquanneican@163.com。
