作者:袁立志 曹天鸣
2026年9月18日,国家互联网信息办公室组织起草的《国务院关于保障未成年人健康安全使用网络的规定(征求意见稿)》(以下简称“《规定》”)公布,向社会公开征求意见。这是中国在未成年人网络保护方面的最新进展。
在《未成年人保护法》《未成年人网络保护条例》《儿童个人信息网络保护规定》等规范已经构成未成年人网络保护法律体系的情况下,为什么还需要一部专门的《规定》?我们理解,主要有两方面原因:
第一,原则已经确立,但具体操作规则仍需完善。现有法律主要从防沉迷、内容安全和个人信息保护等方面确立平台责任,但在实践中,企业仍会面临一系列具体问题:如何识别未成年人,哪些服务不能提供,哪些服务需要切换至未成年人模式,以及网络服务提供者、智能终端产品制造者、应用程序分发平台等不同主体分别承担哪些义务。现有法规虽有规定,但落实情况参差不齐,需要将近年来的实践经验归纳总结,沉淀下来。
第二,产品形态的变化带来了新风险。现有规定主要针对“内容”——暴力、色情等不良信息,以及由此延伸的沉迷问题,其治理思路是过滤和限时,管住“看到什么”和“用多久”。但新型产品如AI陪伴的风险不仅在内容和沉迷,更在交互本身。例如,有人格设定、长期记忆和主动对话能力的AI角色,会持续记忆未成年人的学习压力、家庭矛盾和情感经历;单次回复未必有问题,但长期、连续的互动可能潜移默化地影响其判断,形成不同于游戏沉迷的、更深层次的情感依附与认知影响。针对这些新型风险,法规需要有回应。
《规定》的多数条款能在《未成年人保护法》《未成年人网络保护条例》等现有规则中找到基础;但把这些条款放在一起,监管思路的变化比较明显:过去更多要求企业“提供未成年人保护功能”,现在开始要求企业主动识别未成年人,并根据年龄决定提供服务的类型和方式。未成年人保护正在从一个附加功能,进入产品准入、账号识别、算法设计、内容治理和应用分发的主流程。
如果《规定》按目前文本落地,受影响最大的主要是三类主体:网络服务提供者、智能终端产品制造者和应用程序分发平台服务提供者,各类主体所对应的义务概要如下:

针对上述义务,有几个实操问题值得关注:年龄识别应当怎么做、做到什么程度;自身服务属于禁止提供还是附条件提供,如何判断;发现自残自杀等极端情境后,应当如何干预。这些问题,有些是悬而未决的老问题,有些是《规定》带来的新问题,本文尝试逐一探讨。
一、年龄识别成为未成年人保护的基础设施
过去的“青少年模式”依赖用户或家长主动开启。本次《规定》的思路出现了比较明显的转变:先识别,再服务。
第6条要求网络服务提供者具备未成年人用户识别能力,依法综合运用法定身份证件、国家网络身份认证公共服务、分布式数字身份认证公共服务、非存储式一次性人脸核验、行为特征识别等方式,提升识别精准度,并采取必要措施保障未成年人个人信息安全。第6条第2款还要求,无民事行为能力、限制民事行为能力的未成年人办理电话卡由法定代理人代办,电信业务经营者应当依法登记其真实身份信息,从电话卡一侧配合识别。
识别后的处置方面,根据第9条,对经实名认证或者识别为未成年人的用户:属于第4条禁止提供的服务,不得提供;属于第5条的服务,应当切换至未成年人模式。考虑到识别可能有误,第9条第2款相应要求提供申诉渠道,及时受理申诉并核验,对经核验符合要求情形的用户,及时解除有关措施。
由此形成一条完整链路:识别年龄、判断服务类型、自动限制或切换、提供申诉。年龄识别从一个可选功能,变成未成年人保护的基础设施。
《规定》提出的五种可供企业采用的识别未成年人的方式,其技术原理、实现方式、适用的场景以及优缺点各有不同:

虽然有多种年龄识别方式可以选择,但实操中的难点是,针对特定的业务场景,如何进行选择。目前除了游戏领域针对未成年人有比较清晰的一套识别方案外,社交平台、工具类APP和AI助手,如何选择与风险相称的识别方式,恐难以把握。

关于不同服务需要做到什么程度的年龄确认,《数据安全技术未成年人产品和服务个人信息保护要求(征求意见稿)》(以下简称“《未成年人产品和服务个人信息保护要求》”)中给出了部分可供借鉴的指引:企业在某个产品或服务中适用哪种识别手段,取决于企业提供的产品和服务类型、以及相关功能的影响程度,具体需要分三步判断:
第一步,识别产品和服务类型:产品和服务类型决定了识别的起点,专门面向未成年人的产品和服务(如儿童手表、学习平板),其本身就是为未成年人开发的,无需额外验证即可直接按未成年人处理,识别强度最低,甚至不应以验证为由要求提供真实身份信息;拒绝未成年人使用的产品和服务(如直播发布、网络借贷),必须主动验证,识别强度最高;有未成年人使用的一般产品和服务,则居中处理,转入识别功能影响程度的判断。
第二步,识别功能的影响程度。按照功能特点和对未成年人身心健康的影响程度,可以分为三级:长期或不当使用可能导致沉迷、过度消费或者接触不宜内容的,为高影响功能,如网络游戏、网络支付、应援集资,需要主动验证用户身份或年龄;提供较多面向未成年人的内容、有一定吸引力的,为中影响功能,如网络直播、网络音视频、即时通讯、网络社交、拟人化互动服务,以用户自行声明的被动识别为主;对未成年人吸引力有限或者不会被未成年人直接使用的,为低影响功能,如婴儿看护器、家长控制工具,可以暂不识别。
第三步,确定未成年人用户识别方法。标准将识别方法分为五种,与前两步的判断结果一一对应:专门面向未成年人的产品和服务,适用直接识别,即无需验证,直接将用户视为未成年人,也不得以验证为由要求提供真实身份信息;拒绝未成年人使用的产品和服务以及高影响功能,适用主动识别,即通过验证法定身份证件、接入国家网络身份认证公共服务、非存储式一次性人脸核验等较为严格的方式确认用户年龄,如网络游戏、网络直播发布;中影响功能,适用被动识别,即通过提供选项支持用户自行声明是否为未成年人,但不得以预选年龄、默认成年等方式诱导虚报;提供低影响功能的,暂无需识别。
在此基础上,使用过程中出现疑似未成年人冒用成年人账号等信号的,还可以考虑启用补充识别,通过年龄估算、年龄推断等技术复核当前使用者,如游戏账号长时间在线、频繁异地登录、疑似未成年人主播出镜等情形。需要注意的是,补充识别可能涉及额外处理个人信息,尤其是通过生物特征进行年龄估算会触及敏感个人信息,因此我们理解,补充识别宜限于对用户权益影响较大的产品和功能,避免常态化、无差别地适用。
《规定》提供了五种识别技术,以主动识别为主,行为特征识别用于补充识别的情况较多。我们理解企业在选择识别工具的时候,需要根据上述判断规则进行内部论证:原则上不得向未成年人提供的服务(第4条),需要主动验证用户的年龄是否年满18岁(或16岁),主要实现的方式为验证法定身份证件、接入国家网络身份认证公共服务、非存储式一次性人脸核验等;应当通过未成年人模式提供(第5条)的服务,理论上来说是附条件给未成年人使用的,我们的建议是根据上述三个步骤进行测试,内部判断需要进行识别的程度,对未成年人形成的影响越大,识别的手段就应越严格,但不局限于《规定》提出的五种识别方式,如影响确实有限的,也可以充分考虑前文提到的被动识别手段。
二、网络服务按年龄分层提供
《规定》对网络服务做了更明确的年龄分层。监管逻辑不再是“控制使用时间”,而是先回答“能不能提供”,再回答“如何提供”。
第一类,原则上不得向未成年人提供的服务(第四条),具体如下:

其中第(2)项与近两年快速发展的以情感互动为主要目的的AI陪伴、虚拟恋人等产品直接相关。如果现有文本不发生变化,这类服务面向未成年人的问题,不是如何设计“未成年人模式”,而是能否开放,这一点值得相关领域的企业关注。
第(3)项禁止“诱导未成年人沉迷等危害或者可能严重影响未成年人身心健康的网络服务”,但未列举具体业态,结合近年的监管通报、司法案例和新闻报道,这类服务大致有以下特征:成瘾性机制设计(例如通过随机奖励、以小博大、概率不透明等机制刺激反复使用和消费)、诱导高额消费(例如以“限量”“绝版”等话术刺激充值打赏)、传播不良价值观内容(例如宣扬炫富拜金、极端情绪、畸形审美)、鼓动危险行为和有害社交(例如发布窒息挑战、暑期陪玩)、情感操纵(例如部分AI应用创设不良人设向未成年人输出暧昧低俗内容,这一风险同时受到《人工智能拟人化互动服务管理暂行办法》(以下简称“《拟人化办法》”)和《规定》第4条第2项以及第8条的规制)。上述情形大多已有专门规定或者专项治理覆盖,第4条第3项的意义在于兜底:未来出现的新型业态,只要具备这些特征,仍可能落入禁止范围。
第二类,向未满十六周岁的未成年人提供时,应当通过未成年人模式提供(第5条),具体如下:

在直播的分类方面需要注意:直播发布服务对未满16周岁一律禁止,发布以外的其他直播服务则可通过未成年人模式提供。结合《互联网直播服务管理规定》和《未成年人保护法》的相关规定,可以将“直播发布服务”理解为平台向用户提供以直播发布者身份开设直播,并通过视频、音频或者图文等形式向公众持续发布实时信息的功能,核心是取得主播身份并实际开播。与此相对,直播观看以及评论、弹幕等一般互动功能,原则上属于发布服务以外的其他网络直播服务。因此,平台不得向未满16周岁的未成年人提供主播账号注册和开播功能,但可以通过未成年人模式提供直播观看等服务。
此外,《规定》尚未明确“可能影响未成年人认知的人工智能服务”的具体范围。我们理解,企业可以从以下方面进行综合评估:一是交互的程度,人设、情感反馈和长期记忆等设计,可能使未成年人将AI视为长期交互对象,增加对其回应的信任;二是内容的影响,涉及是非判断、历史叙事、消费选择等输出,可能影响未成年人对事实、价值和行为后果的理解;三是使用的深度和持续性,多轮对话、主动交流等机制,可能使AI持续参与未成年人的判断和决策;四是场景的敏感程度,教育辅导、心理疏导等服务需要重点评估;五是用户的年龄和发展阶段,应结合实际使用群体的理解、辨别和自主判断能力分析。我们认为,大部分的交互式AI服务都会被纳入“影响未成年人认知的人工智能服务”范畴之内,仅部分无拟人化交互、无持续性关系的纯工具类AI,不落入该项范围。
对企业而言,年龄分层的合规重点在于:首先,结合具体产品功能判断自身服务是否属于应当通过未成年人模式提供的范围;其次,按照要求建设未成年人模式,并与用户年龄识别机制衔接。一旦识别出用户未满十六周岁,且其使用的服务属于规定范围,即应自动切换至未成年人模式。
三、对AI企业的更高要求
《规定》中直接涉及AI企业的主要是两处:第5条第3项将“可能影响未成年人认知的人工智能服务”列入须通过未成年人模式提供的服务类型;第8条规定,网络服务提供者不得设置诱导未成年人用户情感依赖、沉迷以及过度消费的算法模型。需要说明的是,第8条适用于所有网络服务提供者,推荐算法同样在射程之内;但我们理解,就以对话和生成为核心的AI产品,这两条规定的影响更深,值得单独讨论。
这并不是监管第一次提出这类要求。《拟人化办法》第8条第5、6项已经禁止诱导用户情感依赖或沉迷、禁止通过情感操纵诱导用户作出不合理决策,第10条还要求不得将诱导沉迷依赖等作为服务目标,第14条针对未成年人设置了虚拟亲密关系禁令、未成年人模式和监护人控制权等要求(详见我们的往期文章《AI情感陪伴监管倒计时:合规要求与自查清单》)。与《拟人化办法》相比,本次《规定》覆盖的AI服务从“拟人化互动”扩大为“可能影响未成年人认知”的人工智能服务,范围更宽。
新规之下,相关AI企业需要关注两方面:
第一:两个触发门槛如何认定,暂时没有现成答案。无论是“可能影响未成年人认知”,还是“诱导情感依赖”,落地时都面临判断难题。以“诱导情感依赖”为例:AI角色主动询问“你今天为什么没有来找我”,可能存在明显的情感绑定设计;但“很高兴再次见到你”是否构成诱导?持续使用昵称、记住用户个人经历、主动表达想念、鼓励每日签到等机制,都可能增强用户黏性,而增强黏性并不当然等于诱导情感依赖。“可能影响未成年人认知”同样难以一概而论,如第二部分所述,企业需要从交互程度、内容影响、使用深度、场景敏感程度和用户年龄等方面展开论证。这些认定涉及交互设计、算法机制、未成年人心理和法律定性多个层面,很难仅靠法务审查解决,需要产品、算法、心理和法务合规部门共同研讨,逐步形成企业内部针对未成年人的交互设计标准。
第二,对AI产品而言,未成年人模式不止于界面改造。一般APP的未成年人模式主要是改界面:时间管理、消费管理、内容池切换(可参照国家标准GB/T 47694—2026《网络安全技术 移动互联网未成年人模式技术要求》中的要求)。新规第8条进一步关注模型的行为倾向和服务目标,若模型以延长对话、增强用户黏性为优化目标,仅设置时间和消费限制,仍可能被认定为诱导沉迷;可回答问题的范围、内容过滤尺度、角色设定、对话持续时间、情感反馈方式,以及模型在高风险场景下的响应策略是企业的优化目标。
因此,AI企业需要采取提示词、输出过滤和安全分类器等措施,必要时还需调整模型的训练和对齐机制,甚至为未成年人单独微调一个行为倾向不同的模型版本。我们理解,合规触角从交互层伸向模型层,是AI企业与一般网络服务提供者的一个重要区别。
域外平台已有一些可参考的做法。Character.AI在卷入未成年人自杀诉讼后,自2025年11月起禁止未成年用户与AI角色进行开放式聊天,并引入年龄保障机制:先以自研模型根据行为信号推断用户年龄,无法确定时交由第三方验证服务核验;同时训练专门的风险识别模型,对话中出现自伤、自杀相关模式时转交人工团队介入。
“Starting on Monday, November 24, we will begin removing open-ended chat for under-18 users in the US, with other markets following in short order.
We are taking a mindful approach to removing open-ended chat and aligning on the best possible set of protocols to minimize the disruption to our under-18 users: … …”
An Update On Changes to Our Under-18 Experience: https://blog.character.ai/an-update-on-changes-to-our-under-18-experience/
OpenAI于2025年9月上线家长控制功能,家长账户与青少年账户关联后可设置使用时段、关闭部分功能;系统检测到青少年用户出现急性心理困扰迹象时,经专门团队复核后向家长发出提醒,但家长无法读取具体聊天内容,在干预与隐私之间作了明确划分;2026年1月起又部署年龄预测功能,对年龄存疑的用户自动适用青少年保护设置。
“Now parents with linked teen accounts can also turn on Study Mode directly from Parental Controls. When enabled there, it is on by default whenever a teen starts a new chat, giving families another way to guide how ChatGPT is used for schoolwork and study.”
https://openai.com/zh-Hans-CN/index/introducing-parental-controls/
四、极端情境干预
第7条第3款规定,发现未成年人用户存在自残自杀等威胁其生命健康的极端情境的,应当采取必要措施予以干预,并及时联络用户监护人或者紧急联系人。
类似的机制并非首次出现。《拟人化办法》已要求拟人化互动服务提供者建立覆盖服务全生命周期的动态干预机制,包括情绪状态识别、沉迷预警和危机响应(详见我们的往期文章《AI情感陪伴监管倒计时:合规要求与自查清单》)。新规把这套机制从AI情感陪伴场景推广至所有网络服务提供者。在落实干预义务时,有四个问题值得关注。
第一,怎么“发现”?用户明确表达自杀意图时判断相对容易,但更多情形是“活着没有什么意思”等模糊表达。
企业可以综合使用关键词和语义识别、情绪识别、行为模式识别、用户举报和人工复核等手段,建立“机审初筛、人工复核、分级处置”的机制。其中,关键词识别成本较低,但容易遗漏隐喻、缩写和“黑话”;情绪识别能够发现绝望、抑郁等倾向,但准确性取决于训练数据;行为识别可以结合异常活跃、使用时长骤增、频繁搜索危险信息等信号辅助判断,但不能单独作为干预依据。
此外,相关识别过程中可能涉及处理心理状况等敏感个人信息的情形。如《规定》第7条第3款按现稿生效,企业可以在必要范围内依据“履行法定义务所必需”处理;用户已处于自残、自杀等紧急状态的,也可以适用“保护自然人生命健康所必需”的情形。在适用上述合法性基础外,企业也可通过个人信息授权声明等方式获取用户关于同意收集其心理状况的增强同意。
第二,识别到什么程度才需要干预?阈值过高,可能漏掉真实风险;阈值过低,又可能误判普通情绪表达。
我们建议,企业可以根据风险表达的明确程度设置分级标准:仅有偶发消极情绪的,优先提供安抚提示和心理援助资源(例如显示心理援助电话);反复表达绝望、自伤倾向或者持续搜索危险信息的,转入人工复核,并根据风险紧迫程度联络监护人;已经提出自杀计划、方式、时间,或者危险行为正在发生的,应立即联络监护人、紧急联系人或者公安机关。识别范围应限于与极端风险直接相关的信号,机审结果原则上只用于触发相应等级的处置,不宜因一次模型判断便直接启动外部干预。直播、短视频等公开场景可以采取较强的识别措施,私密通信场景则应更加克制。
第三,怎么联络监护人?履行该义务的前提,是账号体系中预先建立监护人或者紧急联系人机制。
《拟人化办法》第12条要求提供者在注册环节收集用户年龄、监护人或者紧急联系人等必要信息。企业可以在注册、实名认证或者开启未成年人模式时完成监护关系绑定和必要核验,并提供联系方式更新机制。发现高风险后,应先由人工确认,再根据风险的紧迫程度联络监护人、紧急联系人或者公安机关;如监护人本身可能是风险来源,则应优先联络其他紧急联系人或者专业救援机构。企业还应提前说明风险识别和联络机制,并将披露内容限于开展救援所必需的信息,不宜允许监护人直接读取未成年人的完整对话记录。
第四,漏报和误报应当承担什么法律责任?企业合理注意义务的边界应当如何划定?
如平台未建立与服务规模、产品类型和风险程度相适应的识别及干预机制,导致真实风险未被发现或者发现后未及时处置,可能依照《规定》第18条承担行政责任;造成未成年人人身、财产或者其他损害的,还可能依照第21条承担民事责任或刑事责任。个别漏报或者误报并不当然意味着平台违法,仍需结合平台是否已经建立合理机制、是否应当发现危险、是否设置人工复核,以及发现危险后的处置是否及时、适当等因素判断。但是,因过度识别、任意查阅私密通信或者不当联络监护人造成损害的,也可能引发个人信息保护和侵权责任。
同时,误报的代价同样存在:将正常用户误判为高风险并采取封号、通知监护人等措施,可能侵害用户的使用权益、名誉和隐私,产生违约或者侵权责任,第9条的申诉纠错渠道因此也是平台自身的止损机制。
因此,这一条实际要求企业提前建设“风险识别、风险分级、人工复核、紧急处置、联络监护人”的完整机制。对大型社交、游戏和AI平台而言有现实可行性;对中小APP而言,如果没有统一技术接口或者第三方支持,建设成本并不低。
五、未成年人模式前移为系统能力
《规定》没有把未成年人保护全部交给APP运营者,而是将义务扩展至智能终端制造商和应用分发商。
智能终端方面,第10条要求智能终端产品制造者为产品设置未成年人模式联动、一键切换、退出核验、防绕过以及使用时段、时长、功能和内容管理等功能。更值得注意的是第12条第3款:国务院电信主管部门将移动智能终端未成年人模式纳入电信设备进网许可检测,并会同国家网信部门制定检测项目。据此,未成年人模式可能从厂商自主决定的软件功能,变成终端进入市场前需要满足的产品要求。可以简单理解为:过去是APP自己管孩子,未来可能是手机系统先管一层。
应用商店方面,第10条要求应用程序分发平台落实上架审核、日常管理、应急处置等安全管理责任,综合未成年人模式建设和备案等因素,科学评估应用程序适龄范围,从严审核在未成年人模式下申请上架和更新的应用程序,对不符合适用年龄的,限制下载、安装。核心是应用商店开始承担适龄分发责任:不再只是开发者在隐私政策里声明“本产品不面向14周岁以下儿童”,应用商店自己也要判断这个APP适合什么年龄,并在技术上限制不符合年龄要求的安装。
同样的,适龄范围如何确定?游戏已经有比较成熟的内容分级和防沉迷制度,但AI聊天工具、图片生成工具、社交APP、效率工具、内容社区的适龄标准远没有那么明确,通常由企业在应用商城中自行选择。同一个生成式AI,写作功能可能适合青少年,角色扮演功能可能需要限制,AI陪伴功能又可能完全不适合未成年人。简单给整个APP标一个“12+”或者“16+”,未必能够反映复杂产品中的功能差异。针对部分面向全年龄的APP而言,后续很可能需要从“APP年龄分级”走向“功能年龄分级”。
对企业而言,这一部分的落地难点在接口和成本两端:终端侧,未成年人模式纳入进网许可检测后,模式本身的稳定性以及与APP的联动接口,将成为产品出厂前必须完成的测试项,研发排期需要预留检测和整改周期;应用商店侧,“从严审核”需要有内部的适龄评估标准和审核记录支撑,否则审核无从落地,责任也无法自证。此外,未成年人模式的开启状态如何在终端、应用商店和APP之间同步,目前尚无统一接口,行业内大概率会推动形成公共标准,企业可以提前关注。
六、备案与持续监管
第12条建立未成年人模式备案机制:提供未成年人模式的智能终端产品制造者和网络服务提供者,应当将未成年人模式设置及功能情况向省级网信部门备案;未成年人用户数量巨大、对未成年人群体具有显著影响的网络平台服务提供者,应当通过省级网信部门向国家网信部门备案,并提交未成年人模式建设和服务使用情况报告;网信部门对备案材料实施年度核验。
这意味着未成年人模式不再只是企业内部的产品设计问题,监管机构将持续看到企业做了什么、用户实际用了多少、保护措施运行得怎么样。从制度结构看,已经接近“产品建设、备案、持续监管”的模式。鉴于《规定》目前仍处于征求意见阶段,上述备案机制尚未正式确立。
若相关要求最终落地,企业除每年向监管部门报送未成年人个人信息保护审计情况外,还需适时履行相应的备案义务。两项机制将相互补充,为监管部门了解和监督企业履行未成年人保护义务提供依据,监管对未成年人保护将进一步走向实质审查,企业应提前做好应对。
七、结语
《规定》不是又增加了一批未成年人保护条款,而是开始重构企业提供网络服务的逻辑:过去是“服务已经提供,再做内容过滤和防沉迷”,新的逻辑是“先确认谁在使用,再判断能不能提供,再决定提供什么版本”。未成年人保护正在进入产品设计的更前端。
同时,《规定》中创新性最强的义务,目前也是最难落地的部分:如何可靠又不过度地识别未成年人;什么属于“可能影响未成年人认知”的AI;如何判断算法正在“诱导情感依赖”;自残自杀风险识别的合理边界在哪里;应用商店如何给复杂AI产品划定适龄范围。这些问题单靠对法条的解读无法解决,有待技术标准和监管实践继续回答。
从国际视野看,收紧未成年人网络保护是各国监管的共同方向,英国、澳大利亚、马来西亚、美国部分州、印尼等近期都在推进年龄验证、社交媒体禁入和AI伴侣限制,中国也不例外。差别在于路径:多数法域以“禁入年龄”为核心,《规定》则以“未成年人模式”为核心,在禁止之外提供一种中间方案——可以使用,但以受保护的方式使用。这一方案落地有难度,但相比“一刀切”的禁入做法更灵活,也更符合未成年人需要跟上技术和数字社会步伐的实际情况:保护的目标不是隔绝,而是有保护的接触。方案能否走通,有待实践检验。
声明:本文来自减熵实验室,版权归作者所有。文章内容仅代表作者独立观点,不代表安全内参立场,转载目的在于传递更多信息。如有侵权,请联系 anquanneican@163.com。