一、标识情形下的安全管理义务指向

按照《人工智能生成合成内容标识办法》（“《办法》”）的规定，符合《互联网信息服务算法推荐管理规定》《互联网信息服务深度合成管理规定》《生成式人工智能服务管理暂行办法》规定情形的网络信息服务提供者（“服务提供者”）需履行合规标识义务。具体内容主要包括：

（1）生成合成服务提供者提供的生成合成服务属于《互联网信息服务深度合成管理规定》第十七条第一款情形的，应当按照要求对生成合成内容添加显式标识，服务提供者提供生成合成内容下载、复制、导出等功能时，应当确保文件中含有满足要求的显式标识。

服务提供者应当按照《互联网信息服务深度合成管理规定》第十六条的规定，在生成合成内容的文件元数据中添加隐式标识。

（2）提供网络信息内容传播服务的服务提供者应当采取核验、补充标识等措施，规范生成合成内容传播活动。

（3）上述两类服务提供者开展标识活动的，还应当符合相关法律、行政法规、部门规章和强制性国家标准的要求。这里的强制性国家标准主要指《网络安全技术 人工智能生成合成内容标识方法》（GB 45438-2025）。

二、违反标识义务是否获罪的构成要件分析

《刑法》第二百八十六条之一规定了拒不履行信息网络安全管理义务罪：网络服务提供者不履行法律、行政法规规定的信息网络安全管理义务，经监管部门责令采取改正措施而拒不改正，有下列情形之一的，处三年以下有期徒刑、拘役或者管制，并处或者单处罚金：（一）致使违法信息大量传播的；（二）致使用户信息泄露，造成严重后果的；（三）致使刑事案件证据灭失，情节严重的；（四）有其他严重情节的。单位犯前款罪的，对单位判处罚金，并对其直接负责的主管人员和其他直接责任人员，依照前款的规定处罚。

以下结合最高人民法院、最高人民检察院《关于办理非法利用信息网络、帮助信息网络犯罪活动等刑事案件适用法律若干问题的解释》（“《解释》”），对违反标识义务的行为是否可能构成本罪，从构成要件的主客观各个方面进行分析：

1、《办法》所称的服务提供者是否属于网络服务提供者？

按照《解释》提供下列服务的单位和个人，应当认定为刑法第二百八十六条之一第一款规定的“网络服务提供者”：（一）网络接入、域名注册解析等信息网络接入、计算、存储、传输服务；（二）信息发布、搜索引擎、即时通讯、网络支付、网络预约、网络购物、网络游戏、网络直播、网站建设、安全防护、广告推广、应用商店等信息网络应用服务；（三）利用信息网络提供的电子政务、通信、能源、交通、水利、金融、教育、医疗等公共服务。

综合《办法》和相关引用法律文件，其中的服务提供者主要包括算法推荐服务提供者、深度合成服务提供者、生成式人工智能服务提供者，以及生成合成服务提供者、网络信息内容传播服务提供者等。通过直接对照并适当关联后发现，提供生成合成服务与提供信息网络应用服务存在重合，提供网络信息内容传播服务也即提供网络信息内容。虽然有读者会认为，刑法的谦抑性要求《解释》应明确“网络服务提供者”包括“生成合成服务提供者”“网络信息内容传播服务提供者”等，但从《办法》的界定，和《解释》的兜底式定义，《办法》规定的服务提供者属于《解释》所称的网络服务提供者是极大概率事件。

2、主观方面，《办法》所称标识是否属于法律、行政法规规定的信息网络安全管理义务，进而主观上是否构成对相关义务的故意违反？

按照《办法》和配套强制性国家标准，其所指向的“法定义务”应为《生成式人工智能服务管理暂行办法》第十二条的“按照《互联网信息服务深度合成管理规定》对图片、视频等生成内容进行标识。”但该暂行办法（和《互联网信息服务深度合成管理规定》）仍属于部门规章，因此是否构成法定义务，还需要继续“上溯”《网络安全法》《个人信息保护法》《数据安全法》和《关键信息基础设施安全保护条例》《网络数据安全管理条例》（“三法两条例”）等的相关规定。

从上述三法两条例的直接条款看，尚无规定明确要求对所有输出内容进行标识。《数据安全法》和《网络数据安全管理条例》等规定的标识义务限于重要数据；《网络安全法》等虽有日志留存要求，但《办法》留存的“提供对象信息等相关日志”并不能直接认定为网络日志；而《个人信息保护法》的标识又与《办法》无关。因此整体看，从目前法律、行政法规中得出标识义务属于信息网络安全管理义务有现实困难，但《办法》提出的“强制性国家标准的要求”却又可能为认定“法定义务”留有解释空间——按照《标准化法》，“强制性标准必须执行。”——这同时也增加了在侦查、公诉和审判活动中论证与抗辩罪名适用的戏剧性。

基于此，由于对“法定义务”存有异议，故实务中如何进一步认定“经监管部门责令采取改正措施而拒不改正”涉及的前置执法程序和“固化”主观故意将更具挑战。

3、客体方面，标识义务的违反所侵害的法益如何确定？

根据体系定位，本罪置于《刑法》分则第六章“扰乱公共秩序罪”的范围，所侵害的应是社会管理秩序，并具体指向社会管理秩序所涵盖的信息网络安全管理秩序。

值得注意的是，人工智能生成合成的海量数据内容作为数字时代的重要产物，不仅构成了未来支撑网络空间运行的基础数据来源之一，而且通过虚实交互机制对物理空间的社会管理秩序带来系统性冲击和多维度挑战。违反人工智能生成合成内容标识义务的行为，通过模糊人机内容边界，对信息网络内容的安全性、真实性、合法性构成持续性威胁，增加网络诈骗、虚假信息传播等违法行为的监管难度，侵害网络安全、数据安全管理秩序，破坏《网络安全法》确立的网络信息内容生态治理框架。基于网络空间与物理空间的高度融合特性，此类行为将同时对两个空间（或愈发融合的空间拟合）的秩序保障法益造成损害，在冲击网络秩序的同时，深刻诱发社会秩序的连锁反应。

4、客观方面，标识义务的违反行为具体可能存在哪些情节和数量基准？

单就客观方面而言，违反标识义务在三法两条例下是否可能构成对《网络安全法》规定的网络安全保护义务、信息内容安全管理义务以及《数据安全法》规定的数据安全义务、《个人信息保护法》的个人信息保护义务等“法定义务”的违反，以及如何具体量化构成，需要结合《解释》，对照“（一）致使违法信息大量传播的；（二）致使用户信息泄露，造成严重后果的；（三）致使刑事案件证据灭失，情节严重的；（四）有其他严重情节”进行具体讨论。在当前生成式人工智能应用场景下，这三种情形对应的典型违反示例为：人工智能生成虚假信息并传播、人脸信息泄露后滥用，以及隐式标识丢失导致无法追溯和惩治违法生成内容的行为人等等。结合《解释》界定的数量关系具体讨论如下：

（1）致使违法信息大量传播的

按照《解释》界定：（一）致使传播违法视频文件二百个以上的；（二）致使传播违法视频文件以外的其他违法信息二千个以上的；（三）致使传播违法信息，数量虽未达到第一项、第二项规定标准，但是按相应比例折算合计达到有关数量标准的；（四）致使向二千个以上用户账号传播违法信息的；（五）致使利用群组成员账号数累计三千以上的通讯群组或者关注人员账号数累计三万以上的社交网络传播违法信息的；（六）致使违法信息实际被点击数达到五万以上的；（七）其他致使违法信息大量传播的情形。

从南都大数据研究院2024年百度新闻中热搜的国内人工智能风险事件等相关报道可以看出，虽然实务中还需要确定两个方面的问题：一是未经标识的生成合成内容，本身是否属于违法信息，还是必须在生成合成的内容中有其他明确的违法信息；二是量化基准是否适用于生成式人工智能，但无论如何，人工智能生成虚假、误导等信息并传播的能力，可以并已经轻松突破了上述入刑数量。对生成式人工智能输出达到《解释》现有数量基准的定量评价是服务提供者面临的重要问题。

（2）致使用户信息泄露，造成严重后果的

按照《解释》界定：（一）致使泄露行踪轨迹信息、通信内容、征信信息、财产信息五百条以上的；（二）致使泄露住宿信息、通信记录、健康生理信息、交易信息等其他可能影响人身、财产安全的用户信息五千条以上的；（三）致使泄露第一项、第二项规定以外的用户信息五万条以上的；（四）数量虽未达到第一项至第三项规定标准，但是按相应比例折算合计达到有关数量标准的；（五）造成他人死亡、重伤、精神失常或者被绑架等严重后果的；（六）造成重大经济损失的；（七）严重扰乱社会秩序的；（八）造成其他严重后果的。

以现有标准下定性为敏感个人信息的人脸信息为例，其泄露和滥用也已经产生了大量国内外现实案例，以假乱真的人工智能输出效果毋庸置疑加重了行为后果的严重性，包括对人身安全的损害后果。如果服务提供者对于用户利用他人人脸信息生成、合成的人物图像、视频未添加标识，在主管部门责令添加后仍未添加（或其无法证明系用户主动申请“不添加”，且未提供“对象信息等相关日志”等记录信息，以及其他导致无法添加的情况），即使服务提供者不知道用户利用平台实施相关违法犯罪行为，但是在监管部门责令采取改正措施而拒不改正的情况下，又造成严重后果（如严重的人身、精神损失，或财产损失），则将在客观方面满足拒不履行信息网络安全管理义务罪的构成要件。

（3）致使刑事案件证据灭失，情节严重的

按照《解释》界定：（一）造成危害国家安全犯罪、恐怖活动犯罪、黑社会性质组织犯罪、贪污贿赂犯罪案件的证据灭失的；（二）造成可能判处五年有期徒刑以上刑罚犯罪案件的证据灭失的；（三）多次造成刑事案件证据灭失的；（四）致使刑事诉讼程序受到严重影响的；（五）其他情节严重的情形。

特别在隐式标识和日志信息作为记录生成式人工智能输出内容的元数据（和溯源数据）的情形下，有时元数据中的零星、细微标识可能是重要甚至仅有的案件线索。如未作标识或移除标识（无论是服务提供者还是用户），都将导致在网络空间中对行为人溯源的困难。可以预见，生成式人工智能输出内容的应用业态远未发达，显式标识和隐式标识，及其各种具体的技术实现形式对刑事侦察的影响也尚未充分展开。

值得注意的是，实务中此条义务的不履行，不仅包括服务提供者未作标识、或者在用户移除时未作日志，也包括服务提供者未能按照行业一般实践的安全技术和制度进行标识，导致其标识能够轻易的删除或移除等等。

三、结论

综上所述，违反《办法》规定的人工智能生成合成内容标识义务的行为在对应拒不履行信息网络安全管理义务罪的构成要件时，其主观方面（如法定义务）的不确定性和客观方面（如入罪基准）的低阈值构成了服务提供者的合规风险。

不过，在司法实践中，对此类行为是否构成犯罪以及如何定罪量刑的判断，由于涉及新技术和新应用，侦查机关、公诉机关和法院亦会严格遵循罪刑法定原则，并结合个案情况重点审查以下要素：一是行为人的主观故意程度，包括是否明知应履行义务而故意规避；二是违法行为的客观危害性，是否达到情节严重的程度；三是监管部门责令改正的执行情况，是否经网信、电信、公安等依法承担信息网络安全监管职责的部门责令采取改正措施后，仍然拒不改正；四是技术实现的可能性，即行为人是否具备履行义务的技术能力。前述服务提供者对违法后果的预期与主动合规动作，公检法等机关对罪刑法定的程序运用与实质判定，共同形成了违反《办法》时是否构成“拒不履行信息网络安全管理义务罪”的内外部约束。（原浩 方潇颖）

声明：本文来自苏州信息安全法学所，版权归作者所有。文章内容仅代表作者独立观点，不代表安全内参立场，转载目的在于传递更多信息。如有侵权，请联系 anquanneican@163.com。