2026年9月7日,最高人民法院发布《关于依法审理涉人工智能纠纷案件的意见》(下称“《意见》”),这是首次针对涉人工智能纠纷发布系统性的司法裁判规则。《意见》共24条,涉及人工智能侵权归责原则,个人信息权益、数据权益、知识产权保护,以及开源软件、技术合同、产品责任以及诉讼证据等多个方面,并进一步明确了AI开发者、服务提供者及用户的责任划分。
对于正在业务中部署应用算法、大模型以及其他AI技术的企业而言,《意见》的意义并不限于发生纠纷后的责任认定,还将过去属于技术治理的话题,逐渐转化为司法裁判中的注意义务和举证责任。因此,企业的AI合规需要进一步从“是否违规”的静态审查,向覆盖AI全生命周期的“可证明的合规”转变。
结合近期立法及监管实践,汇业黄春林律师团队简要分析《意见》对企业应用AI技术的合规影响如下,仅供参考。
一、《意见》对企业选择大模型的合规影响
1. 关于大模型开发、许可合同
《意见》第十五条规定,审理人工智能技术开发、许可等合同纠纷时,应当根据合同约定,并充分考虑人工智能技术研发特点以及技术开发方是否尽到“合理努力”等因素认定违约责任。
因此,企业与供应商签署大模型开发、许可合同时,不宜仅约定传统的项目里程碑验收条款,而应当结合应用场景进一步将模型SLA、幻觉与准确率、安全围栏、权限边界、安全监测、人工干预等合理努力标准写入合同。
2. 关于选择开源大模型
《意见》第十三条要求结合开源许可协议类型、权利限制、安全合规措施和信息披露程度等因素判断责任,同时对免费提供部分代码模块并公开说明功能和安全风险的开发者给予一定责任豁免空间。
因此,企业选择Llama、Qwen、DeepSeek等开源模型或者其他开源AI组件(例如MCP、Skills)时,尽量避免“免费午餐”,应建立有效的开源审查机制,核查License及商业使用限制、模型及训练数据披露、Acceptable Use Policy、第三方组件、已知安全风险,以及模型修改和再分发条件,等等,避免因开源大模型的风险披露及责任保留条款,影响后续业务连续性或追责可能性。
3. 关于员工开发的算法、Agent及Skills选择
《意见》第十四条确认,自然人使用AI完成发明创造,只要其对发明创造的实质性特点作出了创造性贡献,仍可以被认定为发明人。
因此,企业应通过劳动合同、知识产权制度及内部AI开发规则等,明确员工利用公司数据、模型、算力等资源开发Agent、Skills等成果的职务成果属性、权利归属、开源发布权限及离职后的使用限制。此外,还应保存员工实际开发贡献记录,为未来判断发明人、作者或者商业秘密权属提供证据。
二、《意见》对企业训练、微调大模型的合规影响
1. 利用公开个人信息训练、微调大模型
《意见》第六条首次明确,为模型训练在合理范围内处理个人自行公开或者其他已经合法公开的个人信息,且个人未明确拒绝的,一般不认定侵害个人信息权益;但对个人权益有重大影响的,应根据《个人信息保护法》、《个人信息安全规范》(2026修订草案)等规定取得有效同意。
因此,企业或其供应商利用公开个人信息训练、微调大模型或算法的,应当开展PIA,重点评估个人信息是否合法公开、个人是否有保留申明、是否有便捷的个人拒绝机制、是否采取了必要的去标识化等脱敏机制、训练目的与模型功能的必要性和适当性、训练目的是否与公开目的具有关联性和合理预期性、个人信息类型及敏感程度、后续使用对个人财产及人格等权益的影响程度,等等。此外,还应当参照《个人信息安全规范》(2026修订草案)、《生成式人工智能预训练和优化训练数据安全规范》等采取必要的合规动作。
2. 利用个人声音及肖像训练、微调大模型
《意见》第四条进一步将训练阶段纳入人格权保护。例如,未经自然人同意,使用其声音作为训练语料,并模仿其音色、语调、发音风格生成能够识别该自然人的合成人声,可能直接构成声音权益侵权。
因此,企业将艺人、员工、用户的声音、肖像用于模型训练或微调的,对声音、面部图像等训练数据不能仅从《个人信息保护法》判断是否具有合法性基础,还应同步审查《民法典》下的肖像权、声音权益以及名誉权等,应尽可能分别明确训练授权(例如模型范围)、生成授权(例如生成内容时长、瑕疵免责、成品审核等)、商业使用授权(例如营销、带货等)以及转授权范围等,并应当重点关注声音、肖像等的年龄段限制(若有),数据的后续处置要求,等等。
3. 利用他人作品训练、微调大模型
最高法在答记者问中明确,未经许可使用他人作品训练大模型的定性问题,在《意见》起草论证过程中,各方意见分歧很大,因此暂未规定。
实践中,企业是否可以利用他人享有著作权的作品(例如种草信息、评论信息、出版物、音视频等)训练大模型,还需要结合具体场景个案评估。
4. 训练数据及其衍生数据权益
《意见》第十六条明确,开发者通过采集生成、衍生创造、受让或者授权许可等方式合法获取数据可以享有相应的数据权益;符合条件的数据集合还可以分别通过著作权、商业秘密等获得保护。
对于企业而言,这意味着训练数据治理不能只有“合规输入”,还要考虑“资产输出”。特别是采用二方、三方数据训练、微调时,企业应区分原始数据、清洗数据、标注数据、Embedding、知识库以及其他衍生数据,分别明确来源、归属、使用及对外许可、商品化开发等规则。
此外,《意见》第十二条还规定,企业提出不侵权抗辩时,法院可以要求其提供训练数据来源、训练过程记录、模型运行模式以及科学理论依据等证据。这意味着训练数据合规从后台管理要求进一步转变为潜在诉讼证据。因此,企业应当及时、全面留存数据来源、采购或授权文件、数据清洗规则、数据标签溯源及相关合规措施等。委托供应商训练或者微调模型时,也应在合同中约定供应商承担相应的数据可追溯和证据协助义务。
三、《意见》对企业生成内容的合规影响
1. 生成虚拟数字形象
《意见》第四条明确,未经自然人同意,利用AI处理其姓名、声音、肖像等,生成能够识别该自然人的虚拟数字形象并使用、公开,可能构成人格权侵权。“能够识别”不等于“直接复制”,即便是具有一定的差异,只要一般公众能够通过肢体动作、表演风格等识别特定个人的,就可能会构成侵权。
这一规则与《数字虚拟人信息服务管理办法(征求意见稿)》形成呼应。后者要求使用自然人敏感个人信息进行建模、形象生成、场景构建等活动应取得单独同意,并以显著方式、清晰易懂的语言,真实、准确、完整地告知处理目的、必要性、对个人权益的影响。
因此,企业使用AI模特、AI主播、虚拟员工时,应审查是否依法取得有效的、真实的、全面的授权;未取得授权的,应当通过技术手段(例如要素检索、相似性比对等)评估是否足以识别特定自然人,避免因大模型“复现”训练数据可能导致的侵权。
2. AI生成内容的法律效果
首先,《意见》第七条对生成式AI服务建立了类似“通知移除规则”(又称避风港规则)。但对于使用AI的企业而言,更基础的要求仍然是控制输入端。企业应确保Prompt、系统提示词、记忆、RAG知识库及上下文信息不包含违法指令、第三方商业秘密、未经授权个人信息或者明显针对第三方的侵权要求。
于此同时,若企业发现AI生成内容侵犯其合法权益的,也可以利用该规则,通知并要求AI服务提供者采取必要的措施,包括停止生成侵权内容、屏蔽相关生成指令、管制侵权用户等。但是,《意见》并未明确“红旗原则”相关规定。
其次,《意见》第十二条明确,企业知道或者应当知道在先作品存在,仍利用AI生成与其构成实质相似的作品的,可能承担侵权责任。这对于品牌营销尤其重要。例如,Prompt中直接要求“按照某知名动漫或影视IP”“模仿某艺术家代表作”“生成某竞品类似的广告”,将明显提高企业被认定为“知道或者应当知道”的风险。
此外,最高法答记者问还明确,《意见》暂未回答AI生成内容本身是否具有可版权性,因此需要企业结合具体场景进一步个案分析,或者采取多元化法律权益保护路径。
3. 仿冒名人带货
《意见》第十条明确,利用AI实施“仿冒名人带货”并构成欺诈的,消费者可以依法主张惩罚性赔偿。因此,品牌使用数字人、AI主播时,应建立身份真实性+广告真实性+AI生成标识+人格授权的多重审核机制。
4. 保存生成过程记录
《意见》第十八条首次非常具体地列出了AI生成内容作为证据时法院可能考察的因素,包括提示词设计及其对结果的影响、重复测试一致性等。
因此,对于营销文案、商品PDP、TVC、代码以及其他高价值AI生成成果,企业应有效保存模型名称及版本、生成时间、记忆、System Prompt、用户Prompt、上下文/RAG材料、生成过程性版本、人工修改及审批记录等。如由广告、设计公司等供应商使用AI生成内容等,合同中亦应要求其保存并提供上述记录。
四、《意见》对企业提供AI服务/产品的合规影响
1. 过错责任与勤勉合规
对于AI侵权责任,《意见》第三条原则上采取一般过错责任(产品质量、个人信息侵权等法定情形除外),并明确法院判断过错时将考虑的因素。该条的合规意义可以概括为:勤勉合规本身就是重要的责任抗辩基础。
企业对外提供AI服务/产品时,应当其预见性和控制力特征,通过用户协议、SLA、风险提示、使用限制等方式提高透明度,依据算法、深度合成、生成式AI及标识办法等四部规定并参考《生成式人工智能服务安全基本要求》《个人信息安全规范》(2026修订草案)等国标采取伦理评估、PIA、安全围栏、审计模型、内容过滤、投诉反馈、人工复核和事件响应等措施,并完整留存采取这些措施的证据。发生事故后,“我们已经做了什么”可能与“最终发生了什么”同样重要。
2. 利用AI开展用户洞察
《意见》第五条对AI用户洞察划出了一条容易被忽视的边界:即使电话号码、网络账号、IP地址、设备编码等来自合法渠道,如果项目具有广义的隐私刺探目的,企业通过AI持续追踪、关联和分析,最终获取自然人的私密信息,或者侵扰私人生活安宁的,也可能侵害隐私权。
因此,企业利用AI开展用户洞察、舆情分析或者销售线索挖掘时,应开展PIA,重点审查数据来源、字段必要性、分析目的合法性、画像颗粒度、是否触及敏感或私密事项,以及是否可能侵扰私人生活安宁,等等。
3. 人工智能产品责任
最后,需要特别区分“AI服务”和“AI产品”。最高法在发布会上明确,《意见》第九条中的“人工智能产品”应严格按照《产品质量法》认定,原则上限定于具有实物载体的产品,例如智能机器人、自动驾驶汽车、智能玩具、智能家具等;没有实物载体的AI服务不宜泛化适用产品质量的无过错责任。
对于该类企业,判断产品是否存在“不合理危险”时,法院不仅关注传统硬件质量,还会考察自主学习能力、升级更新情况、用户控制程度、相关国家或行业标准,以及企业是否真实说明适用场景、固有局限和可预见风险。
这意味着AI产品的说明书、软件更新机制、模型版本管理以及风险警示正在成为产品责任体系的一部分。企业不能仅在产品出厂时完成一次安全评估,而应建立覆盖模型和软件持续升级的全生命周期产品安全管理体系。
黄春林
■ 汇业合伙人
ramon.huang@huiyelaw.com
黄春林律师,现为上海市律协网络安全与数据合规专业委员会副主任,主要执业领域为网络与数据合规、高新技术及泛娱乐领域综合法律服务,常年为数十家境内外企业集团提供前瞻性法律服务解决方案,2019年在人民法院出版社出版专著《网络与数据法律实务:法律适用及合规落地》,多次被Chambers、ALB、LEGALBAND、The Legal 500评为中国领先律师之一。
李天航
■汇业合伙人
tianhang.li@huiyelaw.com
李天航律师,华东政法学院法学学士、华东政法大学法律硕士。上海市律师协会刑事合规专业委员会副主任、华东政法大学和中南财经政法大学硕士生校外导师、上海交通大学网络空间治理研究中心研究员。
连续多年被ALB、Chambers、The legal 500、商法、LEGALBAND等众多国际评级机构在数据合规、刑事合规、反舞弊和反腐败、合规、创新等领域评为领先和推荐律师。执业领域为网络安全与数据合规、反舞弊反腐败处置与应对、刑事合规,先后为众多领先的跨国企业、国内独角兽企业以及各类互联网、化工、汽车、医药和医疗器械、电商、金融、制造业等企业提供前述法律服务。
声明:本文来自网数与人工智能法律实务,版权归作者所有。文章内容仅代表作者独立观点,不代表安全内参立场,转载目的在于传递更多信息。如有侵权,请联系 anquanneican@163.com。