文 | 江苏师范大学法学院副教授 王惠敏；四川省成都市双流区人民检察院检察长 古剑
生成式人工智能的发展得益于高质量的训练数据。训练数据来源的合法性、数据的保密性和生成内容的安全性关系生成式人工智能输出内容的准确性和安全性。然而，训练数据在整个数据生命周期也面临包括来源合法性、数据泄露、数据内容准确性等诸多问题。作为调整和规范生成式人工智能的条例，《生成式人工智能服务管理暂行办法》虽然规定了开发者在训练数据处理活动中应履行的义务，但数据流转过程中的合法性问题依旧悬而未决。这与训练数据的重要地位不匹配。在探究生成式人工智能训练数据技术属性的基础上，本文从数据生命周期发展的视角检视其面临的风险，并探讨治理生成式人工智能训练数据的具体方案。
一、生成式人工智能训练数据的属性
训练数据是贯通数据获取、模型训练与内容生成的关键媒介，既受技术逻辑支配，也承载人格利益、财产利益及公共利益。厘清其技术属性与法律属性是识别训练数据风险来源、承担治理责任的前提。
（一）技术属性
生成式人工智能的底层逻辑主要表现为对海量存量数据的深度解构与表征学习。其核心范式是利用大规模预训练模型，对既有数据流的数据要素与统计规律进行拟合，实现从规律归纳到演变生成的逻辑跨越。这一过程本质上是训练数据在特定算法框架下的数字化映射。训练数据的来源既包括在数据交易过程中形成的数据，也包括通过数据清洗或数据标注等操作形成的高质量数据。
开发者在模型训练初步阶段使用大量的原始数据，其中，夹杂大量的无用数据和虚假数据。此时，需要利用人工标注等手段对模型进行训练，进而识别出虚假的、有害的信息以及违反伦理、法律的数据。同时，训练数据与以往的“人—机—物”交互关系不同，更多地表现为机器内部的自我循环和监督。其生成机制在逻辑上可类比“单字接龙”的语言续写方式。在此过程中，语言生成是受制于统计规律与上下文约束的动态演化过程。这种自我循环监督的训练模式意味着生成式人工智能需要大量高质量的训练数据，才能保证其拥有更精准的预测能力。
（二）法律属性
训练数据具有复合的法律属性。
第一，人格利益属性。训练数据的来源通常包括用户交互内容和公开信息，其中，可能包含个人信息、隐私、肖像和声音等人格利益。《中华人民共和国个人信息保护法》（以下简称《个人信息保护法》）第4条规定：“个人信息的处理包括个人信息的收集、存储、使用、加工、传输、提供、公开、删除等”。该法确立了个人信息处理的合法边界。《中华人民共和国民法典》（以下简称《民法典》）第1032条规定：“隐私是自然人的私人生活安宁和不愿为他人知晓的私密空间、私密活动、私密信息。”以“AI歌手”产品为例，模型对特定歌手音频的采集、训练和输出，可能引发声音权益、人格尊严与授权范围问题。
第二，财产利益属性。原始数据经采集、清洗、标注和组织后凝结了人力、资本与技术投入，可以形成竞争优势。数据控制者也可能通过访问控制、接口限制等措施减少竞争者的不当使用。数据的可复制性并不能否定其经济价值和竞争利益。
第三，公共利益属性。训练语料的语言、文化和价值分布会影响模型的知识结构与认知框架，失衡的数据结构可能放大文化偏见。训练数据若涉及国家安全、公共安全或其他重要数据，其违法获取和利用可能会引发数据安全乃至刑事责任问题。
由此，训练数据法律属性取决于数据来源、处理方式、利益承载和使用场景。在2023年OpenAI公布的训练数据集中，GPT-3的语料在语言分布上存在明显差异。这说明数据结构本身即可影响模型的文化视野和价值表达。同时，数据主体、数据控制者、处理者和模型服务者并不必然重合，权利与责任容易相互分离。训练数据治理也因此需要同时处理人格保护、财产利用、数据安全和公共利益之间的关系。
二、生成式人工智能训练数据的风险
数据生命周期包括数据采集、数据处理、数据删除等阶段。训练数据风险也沿这一链条集中表现为获取阶段的合法性风险、使用阶段的泄露风险和生成阶段的内容失范风险。
（一）数据获取的合法性风险
训练数据获取同时面临个人信息保护与著作权保护的双重约束，而单纯依赖概括授权或事后补救均难以形成稳定预期。
第一，个人信息处理合法性问题。生成式人工智能训练需要持续获取规模庞大的数据。《个人信息保护法》第6条规定：“处理个人信息应当具有明确、合理的目的，并应当与处理目的直接相关，采取对个人权益影响最小的方式。收集个人信息，应当限于实现处理目的的最小范围，不得过度收集个人信息。”训练数据来源广泛，既有自行收集的数据，也有从公开网络抓取的数据。同一数据还可能经过平台、标注机构和模型开发者多次转手。在数据规模和技术复杂性较高的情况下，要逐一取得同意、说明训练目的并提供有效退出机制均存在困难。平台为提高模型性能而过度收集数据，还可能突破最小必要原则。将公开数据直接视为可无限利用，也会消解信息主体对后续处理的合理预期。尤其在平台与用户地位不对等的情况下，形式上的同意未必能够反映真实、自愿和具体的授权。
第二，训练数据利用的著作权风险。算法对作品进行分析、抽取、分词和重组，虽然未必表现为传统意义上的完整复制，却可能影响复制权、改编权和信息网络传播权。权利人难以识别、授权成本高以及利用范围不确定等风险，均使传统许可机制难以适应模型训练。现行《中华人民共和国著作权法》（以下简称《著作权法》）关于合理使用的列举规则和“三步检验法”，亦难以直接回应数据挖掘等新型利用。如果坚持逐项许可，可能使训练成本和交易成本过高。如果完全否定权利人的控制权，又会损害其创作激励和作品市场。
（二）数据使用的泄露风险
数据泄露风险贯穿模型训练、运行和输出全过程。
第一，模型训练容易造成数据泄露风险。用户向模型输入的个人信息、隐私和商业秘密，可能在交互、存储或后续训练中被再次使用。经过参数化处理后，数据虽不以原始形式存在，却可能以关联信息、记忆片段或特定输出的形式重新出现。模型提取攻击表明，攻击者可以从模型输出中还原部分训练数据、个人可识别信息或代码片段。其根源在于，用户通常只能通过格式化协议接受平台的数据处理安排，难以实质控制数据用途，而模型的持续学习和参数化存储又使删除、脱敏和回溯难度增加。
第二，模型运行环节参与主体的多元化加剧了数据泄露的风险。开发者、标注服务商及其他技术提供者之间的数据共享，扩大了接触主体和泄露面。韩国三星公司引入ChatGPT后发生的多起信息泄露事件以及OpenAI于2023年3月24日公告称ChatGPT Plus约1.2%的用户数据可能受到影响的事实，都说明此类风险并非抽象假设。跨境处理还可能涉及重要数据、国家机关数据和国防建设数据，泄露后果也因而超出一般隐私侵害范围。若开发者未能区分训练集、验证集和交互数据，也未对第三方服务商设置访问边界，泄露风险还会沿供应链继续扩散。
第三，模型输出环节也可能潜藏数据泄露风险。即便输入环节和运行环节并不存在数据泄露风险，但碎片化的数据经过一系列的技术还原与合成，也可能输出敏感数据。这恰巧是容易被开发者和使用者所忽视的。
（三）数据生成内容的失范风险
生成内容的安全性取决于训练数据的质量。训练数据的内容失范主要表现为以下三个方面。
第一，数据选择、清洗和标注包含价值判断，来源区域、文化背景及标注人员差异会使偏见进入数据集，并在模型输出过程中被放大。标注规则不清、工具不可靠或管理不足，还会使错误分类持续进入训练过程。
第二，网络数据真假混杂，商业目标和算法架构可能使虚假信息得到保留。即使训练数据真实，人类反馈强化学习也可能使模型生成形式合理而实质错误的内容。偏差一旦进入模型，便可能形成难以定位的系统性失真。
第三，失范数据会使生成内容出现歧视、仇恨、色情、赌博和深度伪造等问题，增加其责任认定和损害评估难度。2025年，路透新闻研究院和牛津大学联合发布的《2025年生成式人工智能和新闻报告：公众如何看待人工智能在新闻业和社会中的作用》指出，声音克隆成本从数万美元降至数美元，说明生成式人工智能降低了虚假内容的生产门槛。训练数据还可能包含涉黄涉赌等不良内容，使模型在特定提示下生成违法或有害内容。
由此，内容风险并非单纯的输出审查问题，其根源仍在于训练数据的选择、处理和反馈机制；若只删除最终结果，则难以阻断偏见和虚假信息在模型内部的累积。特别是当模型生成内容再次成为网络数据或训练材料时，系统可能形成由错误信息反向塑造模型的循环。
三、生成式人工智能训练数据的治理路径
训练数据的治理应当兼顾创新激励、权利保护与公共利益。生成式人工智能的发展需要数据流动，但数据流动不能脱离合法性、安全性和责任可追溯性。过度依赖事后删除和责任追究，既难以弥补数据侵害，也可能压缩技术创新空间。治理重心应当前移，通过平台、开发者、数据提供者和用户之间的责任衔接，形成协同治理体系。
（一）法律层面：重构合理使用制度与拓展个人信息处理事由
法律治理的重点是在既有权利保护框架中为训练数据利用提供可预期的边界。
第一，完善著作权合理使用规则。生成式人工智能训练通常以信息分析、特征提取和模型优化为目的，并非直接向公众再现作品。可在《著作权法》实施规则中明确数据挖掘、机器学习等利用类型，并以使用目的、必要程度、作品市场影响和是否输出替代表达作为判断因素。对于具有商业属性的训练活动，不宜简单以盈利与否作二分，而应综合考察使用是否必要、是否替代原作品市场、是否采取权利保留和退出机制。日本著作权法关于信息分析的例外规则，可以作为参考。在具体适用上，还应要求使用者保存数据来源和处理记录，对权利人提出的合理退出请求作出响应，并对模型输出是否形成原作品的实质性替代进行个案判断。
第二，适度拓展个人信息处理的合法事由。欧盟《通用数据保护条例》以合法利益作为特定处理基础的做法具有参考价值，但合法利益不能成为概括授权的替代品。我国可在严格必要性、相称性和安全保障条件下引入相应机制，并将训练目的、数据类型、保存期限、风险评估和退出机制纳入透明义务。对于已公开个人信息，应以合理范围、重大影响和个人拒绝权为边界，防止公开等同于无限利用。同时，应保障信息主体的查询、更正、删除和异议权，使其能够对训练数据进入模型后的处理状态提出实质性要求。
第三，建立训练数据的分级规则。涉及敏感个人信息、重要数据、国家安全和未成年人信息的，应提高处理门槛，必要时禁止进入基础模型；对一般公开数据，则允许在来源可追溯、用途相称、能够退出且不损害市场竞争的条件下使用。
第四，明确责任衔接。数据提供者、开发者、平台和服务商，应依据自身对数据的控制能力和制造风险的情况承担相应义务，避免在出现模型输出问题后将责任笼统转嫁给最终用户。
（二）技术层面：强化平台和开发者训练数据的安全保护义务
技术治理是人工智能数据安全治理过程中不可或缺的措施之一。数据开发者和平台应当从技术上强化数据安全保护义务，树立早期预防的理念，将对训练数据安全治理的被动响应转化为主动治理。
第一，构建完善的数据来源审查机制。强化数据来源的透明度和可追溯性，确保数据的真实性和可靠性。一方面，在数据收集阶段保持中立和客观，并对训练数据样本进行动态审查和调整；另一方面，明确列举不可接受高风险清单（如关系国家安全、公共安全等），制定具体评估方案，从源头上避免高敏感数据流入语料库。
第二，建立生成式人工智能基础模型信息库。对生成式人工智能训练数据实施限制性披露，实现对训练数据风险的前置性预防。尽管现行的法律规范对收集训练数据有较完善的规定，但多为事后性的惩罚，难以达到预防风险的效果。生成式人工智能基础模型，即经预训练形成的大模型，通常仅在企业内部完成训练与运行，并不直接面向用户提供交互服务。在此基础上，构建生成式人工智能模型信息库，要求开发主体对训练数据实施数据分类分级管理，并对其来源、类型及收集方式等关键信息进行系统登记。
第三，积极推进数据清洗工作。为了防止冗余或错误数据引发的结果偏差风险，数据清洗是重要手段之一。一方面，开发者应当积极履行数据清洗义务，对“脏数据”进行排查，确保涉及失范的数据能够被有效清除，最大限度地保证数据的质量。另一方面，不断地引入和尝试新的数据清洗方法和工具，提高数据清洗的效率和安全性。
第四，完善训练数据分类处理机制。基础模型层和服务应用层适用不同的应急处理机制。倘若基础模型层发生数据投毒等情形，技术开发者应当采取紧急离线修复和模型停用等措施，避免风险进一步扩大，并向用户和监管机构积极履行报告义务。对于服务应用层发生数据泄露等情形，需要具体分析评估风险的起因。如果风险是由用户行为引起的，应当对用户采取限制和处罚措施。
（三）科技伦理层面：以人为本，形成伦理共识
训练数据治理还需要坚守伦理底线，进而与法律方案和技术措施形成合力。
第一，坚持以人为本和人类最终控制。生成式人工智能可以提升效率，但不具有独立的道德判断能力，涉及生命、健康、人格尊严和重大公共利益的决定仍应由人作出。训练数据利用不能以技术效率为由牺牲人的主体地位，也不能把用户单纯视为数据供给者。
第二，形成多元价值与反偏见机制。数据来源应具有地域、文化和群体代表。标注规则应明确，标注过程应接受复核，并对歧视、仇恨和敏感内容进行检测。模型开发者还应说明价值取舍和风险处置原则，避免特定文化和商业利益在数据选择中被固定。
第三，强化行业组织和从业者责任。行业协会可以制定数据采集、标注、训练和披露规范，开展职业培训，建立企业数据合规评价和失信约束机制。2021年发布的《人工智能训练师国家职业技能标准》已从数据采集、数据标注和智能训练等方面提出分级要求，可为从业者责任细化提供参照。开发者和标注者应当对数据质量、职业伦理和异常反馈承担持续注意义务。
第四，提升用户的信息素养与注意义务。用户应审慎上传个人信息和商业秘密，对生成内容进行核验，并在发布时说明其生成属性和授权基础。对投喂违法内容、利用模型传播侵权或有害信息的行为，应依据其过错承担相应责任。
四、结 语
生成式人工智能训练数据的风险具有全生命周期、复合利益和系统扩散的特征。单一的法律禁止、技术防护或伦理倡议，均无法予以有效回应。治理应以数据来源合法、处理安全和生成内容可控为基本目标，将法律规则嵌入数据获取和模型开发全过程，将来源审查、分类管理、日志留痕和风险反馈落实为平台义务，并以多元价值和公众参与校正技术运行。只有形成法律、技术、伦理与用户责任相互衔接的协同机制，才能在保护数据权益和公共安全的同时，为生成式人工智能的持续创新保留合理空间。该治理过程应当保持动态性，根据模型能力、数据类型和应用场景变化持续调整规则，避免以一次性合规审查替代全生命周期治理。【本文系国家社会科学基金青年项目“数据安全刑法保护的立体机制研究”（项目编号：23CFX057）阶段性研究成果】
（本文刊登于《中国信息安全》杂志2026年第7期）
声明：本文来自中国信息安全，版权归作者所有。文章内容仅代表作者独立观点，不代表安全内参立场，转载目的在于传递更多信息。如有侵权，请联系 anquanneican@163.com。
