作者:袁立志、曹天鸣
2026年7月,国家互联网信息办公室发布《互联网信息服务管理办法(修订草案征求意见稿)》(以下简称“《征求意见稿》”)。相较于现行《互联网信息服务管理办法》,本次修订堪称“大修”,条款由现行的27条大幅扩展至94条,旨在回应由AI、深度伪造等新技术引发的治理挑战,以及虚假流量、算法歧视等亟待规制的行业乱象。
在立法体系上,草案向上衔接《网络安全法》等三大核心上位法,向下吸收网络生态治理与AI监管的成熟经验,力求打造统领互联网信息服务领域的基础性行政法规。
本次修订涵盖了互联网信息服务从准入到退出的全生命周期监管,其核心要点可概括为以下四个维度:
1.管理对象与业态扩容:全面覆盖网站、应用程序、智能体、网络直播、算法推荐、公众账号等各类新老业态。
2.压实平台主体责任:增设“平台信息服务”专节,强化具有较大影响力账号管理、网络暴力识别监测,并对互联网信息内容多渠道分发机构(MCN)的协同管理提出明确要求。
3.首创智能信息服务专章:针对AI新业态,全面规范生成合成内容标识、算法推荐技术应用、语料数据合法性以及人工智能较大安全风险的应对。
4.法律责任全面升级:建立严重失信主体名单制度,引入“限制账号功能、禁止注册新用户”等新型监管措施,且大幅提高了罚款上限,并强化了相关负责人的个人法律责任。
虽然本次发布的只是草案,还未正式发布实施,但面对此次修法动作,企业应当提前做好防范工作,本文从互联网信息服务提供者、平台信息服务提供者、智能信息服务提供者三大主体维度,对企业可能面临的重点合规风险进行提示,并提供具有实操建议。
适用主体 | 风险事项 |
互联网信息服务提供者 (通用) | 风险一未获取相关企业资质 |
风险二用户账号动态核验不到位 | |
风险三怠于采取技术手段防范网络暴力及不良信息 | |
风险四实施流量造假、恶意不兼容等不正当竞争行为 | |
平台信息服务提供者 | 风险五未建立或公示平台规则及账号信用体系 |
风险六对“较大影响力账号”监管失职 | |
风险七对MCN机构准入与日常监管不足 | |
风险八(直播平台服务提供者专有)互联网直播监管不到位 | |
风险九(应用程序分发平台专有)分发平台未尽资质查验与动态巡查义务 | |
风险十(大型平台专有)合规体系搭建、安全评估报告披露及重大决策上报 | |
智能信息服务提供者 | 风险十一AI大模型训练数据及语料来源违法、侵犯知识产权 |
风险十二人工智能生成合成内容未依法落实标识义务 | |
风险十三算法推荐服务未履行算法备案或违规干预信息 | |
风险十四智能体分发及服务未达安全要求或被用于违法活动 | |
风险十五算法规则设计不合理导致损害新就业形态劳动者权益 | |
风险十六发现AI重大安全风险未及时采取阻断措施 |
一、互联网信息服务提供者
风险提示一:未获取相关企业资质
Ø风险描述:相较于现行《办法》以“经营性许可、非经营性备案”为核心的二分结构,本次《征求意见稿》构建了多层级的准入体系,具体如下:
序号 | 适用场景 | 企业应履行的合规义务 | 条款 |
1 | 在境内从事的互联网信息服务 | 取得电信主管部门的核准 | 第8条 |
2 | 属于经营电信业务的互联网信息服务 | 取得电信主管部门的经营许可(ICP许可证) | 第9条 |
3 | 属于新闻、文化、出版、视听节目、教育、宗教、金融等特定领域的互联网信息服务 | 获取主管部门的特殊行业许可 | 第11条 |
4 | 提供互联网接入服务 | 接入服务提供者查验核准编号及相关许可证件 | 第14条 |
5 | 互联网信息服务提供者的网络正式联通之日起30日内 | 办理公安联网备案(ICP备案) | 第16条 |
Ø法律条文:第8条、第9条、第11条、第14条、第16条、第74条
Ø法律后果:最高可没收违法所得并处以违法所得5倍或100万元罚款,并可吊销电信业务经营许可证或取消核准编号,相关负责人面临最高10万元罚款。
Ø合规建议:产品上线前,需全面梳理全部必备资质文件并制定办理时间表,未取得完整资质前,严禁对外提供服务。
风险提示二:用户账号动态核验不到位
Ø风险描述:实践中,许多企业在用户首次注册时落实了实名制,但对账号后续的使用状态缺乏生命周期管理,导致大量“僵尸号”、“水军号”被黑灰产恶意利用。本次修订明确要求互联网信息服务提供者建立互联网账号信息动态核验制度,适时核验存量账号信息,如企业面对异常账号不采取措施,可能面临行政处罚。
Ø法律条文:第18条、第21条、第76条、第79条
Ø法律后果:最高可没收违法所得并处以50万元罚款,并可吊销相关业务许可证或营业执照,相关负责人面临最高10万元罚款。
Ø合规建议:
•建立账号生命周期管理SOP:在《用户协议》中增设“休眠账号清理条款”,明确连续6个月未登录账号的处置权限,例如“企业有权冻结账号,用户需要通过手机、邮箱等方式重新验证登录”。
•引入动态核验技术API:对接国家网络身份认证公共服务或公安库,对异地登录、设备指纹异常、高频发布等异常账号触发二次身份动态核验机制。
•完善解绑机制:建立专门的号码解绑申诉通道(建议披露在用户协议、隐私政策及其他显眼位置),支持号码的新用户快速解除号码与原用户互联网账号的绑定关系。
风险提示三:怠于采取技术手段防范网络暴力及不良信息
Ø 风险描述:企业对于违法信息内容(如涉政、涉黄)的管控已较为成熟,但对“不良信息”的边界把控较弱。《征求意见稿》规定,防范和抵制炒作重大突发事件、影响未成年人身心健康等不良信息已成为法定义务,且严禁在产品醒目位置(如弹窗、热搜、首页首屏)呈现不良信息。若平台未自动或人工采取删除、屏蔽等措施防止信息扩散,将被认定为未尽内容管理义务。
Ø 法律条文:第24条、第25条、第27条、第77条
Ø 法律后果:最高可没收违法所得并处以1000万元罚款,并可吊销相关业务许可证或营业执照,相关负责人面临最高100万元罚款及行业禁入。
Ø 合规建议:
•建立网暴/不良信息特征库:自研或引入第三方的文本及图像审核模型,识别“挂人”、“开盒”、隐晦侮辱等网暴特征。
•完善前端防护界面:向用户提供一键“屏蔽特定对象”、“禁止陌生人私信及评论”的选项。
•优化推荐及展示策略:设专人定期(每日、每小时)排查APP开屏、首页首屏、热搜榜单等重点推荐位,警惕将“炒作重大案件”等流量指标纳入推荐权重。
风险提示四:实施流量造假、恶意不兼容等不正当竞争行为
Ø 风险描述:本次草案将涉及反垄断或反不正当竞争法的互联网企业不正当竞争行为纳入管理体系,“误导性下拉框”、“诱导特定第三方服务”、“无正当理由不兼容他人合法产品”或实施“流量造假”等行为将面临更为密集的多头监管。
Ø 法律条文:第26条、第32条、第84条
Ø 法律后果:最高可处以500万元罚款,并可责令停业整顿。
Ø 合规建议:
• 产品交互设计合规前置审查:法务与合规应参与产品需求评审,对涉及“屏蔽竞品外链”、“限制竞品APP跳转”的功能,提供详尽的“正当理由”备查。
• 流量真实性内审:严禁通过内部工具或默许第三方在平台内从事“虚假点击”、“操控榜单”、“批量刷榜”等流量造假活动。
二、平台信息服务提供者
风险提示五:未建立或公示平台规则及账号信用体系
Ø 风险描述:《征求意见稿》要求平台必须在网站首页或APP显著位置持续公示规则,新增或变更规则需充分征求意见。此外,平台信息服务提供者也应该建立“账号信用记录制度”并向网信部门报告。若规则未依法公示,平台在封禁违规用户时将面临违约索赔风险;若无信用体系,将被视为未履行法定平台治理义务。
Ø 法律条文:第41条、第42条、第76条
Ø 法律后果:最高可没收违法所得并处以50万元罚款,并可吊销相关业务许可证或营业执照,相关负责人面临最高10万元罚款。
Ø 合规建议:
•规则梳理及披露自查:梳理现存所有用户协议、社区公约,确保首页有明显统一的跳转入口,保障用户能便利阅览和下载。
•构建账号信用积分体系:结合业务场景开发信用积分体系(如:初始100分,违规扣分,分值决定账号推荐权重),定期进行平台信用积分分析,并定期向属地网信办等主管部门报送相关情况。
风险提示六:对“较大影响力账号”监管失职风险
Ø 风险描述:“较大影响力账号”(以下称“大V”)账号拥有强大的舆论动员能力。《征求意见稿》明确了大V的法定概念(粉丝、互动量、年度收益达标,或在特定领域、群体中影响力较大的互联网公众账号),平台需要将这类账号的名称、运营者、所属多渠道分发服务机构(以下简称“MCN机构”)向网信部门备案。若大V发布违法信息,平台未及时采取警示、暂停营利权限、关闭账号等特定处置措施并消除不良影响,可能被倒查追责。
Ø 法律条文:第45条、第46条、第80条、第83条、第90条
Ø 法律后果:大V运营者自身面临最高50万元罚款。若平台未履行备案义务,最高可没收违法所得并处以200万元罚款,并可吊销相关业务许可证或营业执照。
Ø 合规建议:
•识别大V并建立管理档案:盘点平台内粉丝数量多、收益级别高或政经/法治等敏感领域账号,建立动态监管台账并备案;对涉法治、医疗等专业领域的大V,强制要求其上传执业资格证并在前台加注专门标识。
•预先设置“熔断”机制:一旦监测到大V发布违规内容,立刻触发限制营利及限流措施。
风险提示七:对MCN机构准入与日常监管不足
Ø 风险描述:MCN机构运营的账号相较于自然人的账号具有体系化、规模化的特征,亦为监管重点监管对象。《征求意见稿》明确要求平台加强对MCN机构的入驻核验与备案,若MCN机构直接或教唆其签约账号实施违法行为,平台应对MCN机构本身及其违规账号采取警示、暂停营利、限制服务、甚至纳入黑名单等处罚。
Ø 法律条文:第52条、第53条、第80条
Ø 法律后果:平台未履行MCN入驻核验及相关管理义务,最高可没收违法所得并处以200万元罚款,并可吊销相关业务许可证或营业执照。
Ø 合规建议:
•升级MCN机构入驻B端协议:明确将《征求意见稿》中的合规要求写入入驻协议,增设违约金与连带责任追偿条款。
•实施“穿透式”连带管控:建议开发运营后台MCN子账号树状视图并制定SOP,针对MCN旗下多账号集中发布违规炒作内容的情形,自动触发流量降权、封禁等批量管控操作。
风险提示八:(直播平台服务提供者专有)互联网直播监管不到位
Ø 风险描述:平台不仅需要对主播(发布账号)建立“真实身份信息动态核验机制”并依据内容类别和用户规模实施“分类分级管理”,还应对“评论、弹幕等直播互动环节”进行实时管理。若平台对主播身份把控流于静态形式,或在违规弹幕、评论集中爆发时缺乏实时拦截的技术能力,将被认定为未尽法定管理义务。
Ø 法律条文:第50条、第80条
Ø 法律后果:最高可没收违法所得并处以200万元罚款,并可责令停业整顿、吊销相关业务许可证或吊销营业执照。
Ø 合规建议:
落实主播动态核验与分级风控制度:在主播开播前或异常开播时段触发人脸识别等二次动态核验,针对高流量情形加强人工巡查策略。
升级互动环节的实时审核与阻断能力:针对弹幕和评论“瞬时性、高并发、隐蔽性强”的特点,部署专门识别变体词、谐音梗及违规表情包的智能审核引擎;针对高热度直播间,建立专属的人工房管及应急预案,确保具备一键清屏、全员禁言及掐断直播的实时管控手段。
风险提示九:(应用程序分发平台专有)分发平台未尽资质查验与动态巡查义务
Ø 风险描述:《征求意见稿》要求分发平台完成自身的备案义务,针对平台中的应用程序需要核验其资质及开发者信息,禁止通过“刷榜、控评”或发布不良信息诱导下载。
Ø 法律条文:第51条、第80条
Ø 法律后果:最高可没收违法所得并处以200万元罚款,并可吊销相关业务许可证或营业执照,相关负责人面临最高10万元罚款。
Ø 合规建议:
•严格落实开发者核验:在上架审核环节,强制核验开发者的备案号。对于特许行业的APP,要求提供前置审批文件。
•引入动态巡查机制:定期对已上架APP进行检测,尤其关注用户量大、活跃人数多的应用程序,发现问题立刻终止分发服务。
风险提示十:(大型平台专有)合规体系搭建、安全评估报告披露及重大决策上报
Ø 风险描述:针对大型平台,《征求意见稿》要求其必须设立“专门的互联网信息服务合规部门和合规负责人”,并定期开展安全评估向社会公开;制定专门平台规则,设定24小时内处理互联网信息内容投诉的机制;必须定期发布“社会责任报告”,接受社会监督。此外,若发生主要业务、主要股东、实际控制人变动及重大突发情况,必须及时向属地网信部门报告。
Ø 法律条文:第54条、第77条
Ø 法律后果:最高可没收违法所得并处以1000万元罚款,并可吊销相关业务许可证或营业执照,相关负责人面临最高100万元罚款及行业禁入。
Ø 合规建议:
•定期输出透明度报告:每年出具报告并在官网公开,专项披露未成年人保护及数据安全治理成效。
•重构客服风控体系:针对涉及违法内容的举报,建立专门SOP,确保24小时内处置。
•建立重大决策合规预警:在进行公司控制权变更、重大并购等事项时,及时完成网信部门的报告。
三、智能信息服务提供者
风险提示十一:AI大模型训练数据及语料来源违法、侵犯知识产权
Ø 风险描述:《征求意见稿》强调,开展预训练、优化训练等数据处理活动时,数据和模型均需要有合法来源,且不得侵害知识产权。此外,若提供互联网新闻信息服务,语料必须来自国家规定的新闻白名单。
Ø 法律条文:第59条、第76条
Ø 法律后果:最高可没收违法所得并处以50万元罚款,并可吊销相关业务许可证或营业执照,相关负责人面临最高10万元罚款。
Ø 合规建议:
•建立训练语料尽调以及管理机制:技术部门、法务部门应联合建立数据源审查机制,建议对数据源进行建档处理,记录数据的来源、网址、用途以及授权等,警惕已声明禁止爬取的付费文章、具有版权水印的数据。
•严格管控新闻语料:AI产品若具备新闻问答能力,应接入官方白名单源,防范抓取非持牌自媒体违规报道。
风险提示十二:人工智能生成合成内容未依法落实标识义务
Ø 风险描述:《征求意见稿》要求必须对AI生成合成内容进行标识,且任何组织和个人不得恶意删除、篡改、伪造、隐匿生成合成内容标识。
Ø 法律条文:第60条、第77条
Ø 法律后果:最高可没收违法所得并处以1000万元罚款,并可吊销相关业务许可证或营业执照,相关负责人面临最高100万元罚款及行业禁入。
Ø 合规建议:
•落实显性标识义务:在AI对话或产出界面强制展示“内容由AI生成”的显著文案,具体可参照《人工智能生成合成内容标识办法》。
•部署隐性防篡改标识技术:采用数字水印技术,确保即使用户对生成的内容进行二次修改,底层元数据中的AI标识依然可被有效提取核验。
风险提示十三:算法推荐服务未履行算法备案或违规干预信息
Ø 风险描述:《征求意见稿》明确规定,具有舆论属性或社会动员能力的智能信息服务提供者不仅要开展安全评估,还需履行算法备案手续。此外,算法推荐不得用于屏蔽信息、过度推荐、操纵热搜榜单等规避监管或扰乱舆论的行为,严禁强制用户使用智能信息服务,且严禁将不良信息作为标签推送给用户。
Ø 法律条文:第57条、第61条、第76条、第77条、第80条
Ø 法律后果:最高可没收违法所得并处以1000万元罚款,并可吊销相关业务许可证或营业执照,相关负责人面临最高100万元罚款及行业禁入。
Ø 合规建议:
•算法备案义务:算法部门、法务合规部门应在产品立项的同时就考虑是否需要进行算法备案,及时与网信办沟通,上线同时推进算法备案手续。
•剥离违规算法逻辑:审查特征工程代码,确保用户画像标签合规;确保热搜榜单排名的算法公式防范被恶意操纵。
•完善用户自主权:在设置中提供显著的“关闭个性化推荐”按钮或便捷的拒绝方式,给予客户选择权、拒绝权。
风险提示十四:智能体分发及服务未达安全要求或被用于违法活动的风险
Ø 风险描述:《征求意见稿》要求提供智能体服务或从事智能体分发的企业,必须建立安全管理制度及相应技术管控能力。如果用户利用平台分发的智能体实施危害国家安全、损害社会公共利益等违法活动,分发平台因缺乏技术管控将承担连带责任。
Ø 法律条文:第63条、第81条
Ø 法律后果:最高可处以1000万元罚款,并可吊销相关业务许可证或营业执照,相关负责人面临最高100万元罚款。
Ø 合规建议:
•建立智能体沙箱测试机制:任何第三方智能体在上架分发前,必须经过严格的安全攻防红蓝对抗测试,验证是否存在越狱漏洞。
•设置权限熔断机制:对智能体调用外部API实行最小化授权原则,一旦监测到高危操作调用立即触发管控。
风险提示十五:算法规则设计不合理导致损害新就业形态劳动者权益
Ø 风险描述:在订单分配、报酬支付等环节必须保证算法透明、公平、合理,保护劳动者合法权益,新增或变更主要算法规则前,必须向劳动者公开征求意见,充分听取意见建议,评估影响并在实施前公示。
Ø 法律条文:第62条、第76条
Ø 法律后果:最高可没收违法所得并处以50万元罚款,并可吊销相关业务许可证或营业执照,相关负责人面临最高10万元罚款。
Ø 合规建议:
•引入算法影响评估机制:在调整抽成比例、派单逻辑前,进行劳动者权益影响评估,形成书面文件备查。
•建立沟通公示渠道:通过问卷等形式听取劳动者意见并留存记录,在实施前通过显著方式预留充足的公示期(7-30天)。
风险提示十六:发现AI重大安全风险未及时采取阻断措施
Ø 风险描述:当AI生成严重违法信息时,传统做法是“删除屏蔽”,但《征求意见稿》要求智能信息服务提供者除了停止生成、消除外,必须深入底层采取“模型优化训练等措施进行整改”,并向主管部门报告。
Ø 法律条文:第64条、第66条、第81条
Ø 法律后果:最高可处以1000万元罚款,并可吊销相关业务许可证或营业执照,相关负责人面临最高100万元罚款,涉嫌犯罪的移送司法机关追究刑事责任。
Ø 合规建议:
•完善模型优化流程:当发现模型生成违法信息后,必须将相关场景纳入底层的安全对齐训练集中,从根源上消除漏洞。
•建立应急直报系统:设立响应专班。一旦发生模型被恶意利用的恶性事件,立即暂停相关服务,并在法务指导下以最快速度向属地部门报告并提交整改计划。
声明:本文来自减熵实验室,版权归作者所有。文章内容仅代表作者独立观点,不代表安全内参立场,转载目的在于传递更多信息。如有侵权,请联系 anquanneican@163.com。