文 | 中央网信办数据与技术保障中心 刘卓月 张亚飞 王志伟
当前，数字经济的核心要素之一算法，正以前所未有的方式推动社会的变革与进步，深度重构信息传播的底层逻辑，全面渗透大众的消费决策与社交行为。这场静默的技术革命在释放巨大社会效能的同时，其“双刃剑”特性也日益凸显，信息茧房固化认知壁垒不断堆砌，算法偏见的隐性歧视悄然滋生，大数据“杀熟”的价格陷阱持续蔓延，威胁数字经济秩序和社会信任的根基。近年来，我国着力建立健全网络综合治理体系，对互联网信息服务算法的治理已逐渐形成多方位、多层次的治理格局，涵盖法律、行政法规、部门规章、专项行动、技术监管及公众参与等多个维度。
一、法律和相关主管机构部门规章
相关法律法规为算法治理工作的开展提供了坚实的上位法依据。《中华人民共和国网络安全法》明确规定网络运行和信息安全管理有关制度要求。为进一步加强网络信息安全管理，2017年10月30日公布的《互联网新闻信息服务新技术新应用安全评估管理规定》（自2017年12月1日起施行），明确要求根据新技术新应用的新闻舆论属性、社会动员能力及由此产生的信息内容安全风险确定评估等级，审查评价其信息安全管理制度和技术保障措施。针对当时一些互联网信息服务提供者不履行网络安全保护义务等突出问题，相关部门于同年11月15日发布了《具有舆论属性或社会动员能力的互联网信息服务安全评估规定》（自2018年11月30日起施行）。在此基础上，2019年12月15日发布的《网络信息内容生态治理规定》，明确了政府、企业、社会、网民等多元主体参与协同共治的治理模式。
近年来，各类社交、娱乐、购物、出行等应用程序在算法的加持下极大地丰富了网民的网络生活和消费体验。算法在给经济、社会发展注入新动能的同时，信息茧房、大数据“杀熟”等问题也深刻影响数字经济正常的传播秩序、市场秩序和社会秩序，给维护意识形态安全、社会公平公正和网民合法权益带来挑战。为应对互联网信息服务领域算法带来的种种乱象，防范化解安全风险，促进算法推荐服务健康发展，2021年9月17日，九部委发布了《关于加强互联网信息服务算法综合治理的指导意见》（以下简称《指导意见》），提出建立算法备案、安全评估等制度，强调“科技向善”的伦理导向。同年12月31日，《互联网信息服务算法推荐管理规定》（以下简称《算法规定》）发布，成为我国第一部以算法作为专门规制对象的部门规章，明确了算法推荐技术的五个类别，即生成合成类、个性化推送类、排序精选类、检索过滤类和调度决策类，具有重要时代意义。《指导意见》和《算法规定》明确了算法应用需遵循透明、公平、可问责等原则，禁止大数据“杀熟”、信息茧房等行为，并赋予用户知情权、选择权等权利，明确政府、企业和网民等治理主体的工作机制、具体要求。此外，《个人信息保护法》也明确规定自动化决策需保障用户知情权与选择权，要求算法结果公平公正。
上述法规在互联网信息服务领域环环相扣，聚焦新闻舆论属性、社会动员能力及由此产生的信息内容安全风险，从评估到备案，在事前、事中、事后对算法综合治理提出了系统性要求，并从算法备案、监督检查、风险监测、安全评估等多角度构建了算法安全治理机制。在工作实践中，现有算法治理相关法规仍存在系统性不足、缺乏可操作性等问题。例如，“透明可解释”的具体标准尚不清晰，备案信息更新不及时，以及监管方、网站平台如何落实合规治理和第三方如何开展测评和评估等，还存在模糊地带。
二、专项行动与技术监管
为促进算法规定落地，国家相关部门近年来部署了多次专项行动与技术监管行动，其中，“清朗”系列专项行动是典型代表。网络“清朗”系列专项行动，旨在重拳整治网络违法违规问题，有效遏制网络乱象滋生蔓延，针对突出问题，既要打好集中整治的攻坚战，也要筑牢常态长效的持久战，通过全网“大扫除”式专项行动，集中时间、集中力量解决群众反映强烈的问题，既为管网治网长效机制建设积累实践经验，又为构建清朗有序的网络空间打下坚实基础，持续提高人民群众的网络幸福感、获得感。
（一）首次将算法滥用纳入治理重点
2021年5月，国家网信办部署开展2021年“清朗”系列专项行动，提出“治理算法滥用行为”，重点整治算法推荐导致的信息茧房、流量造假、大数据“杀熟”等问题，并强调平台主体责任，要求算法设计需符合主流价值观，禁止利用算法干预舆论或规避监管。这为后续算法治理奠定了政策基础，同时，在《个人信息保护法》实施前有效推动了行业合规意识全面提升。
（二）深化算法安全与合规检查
2022年4月至12月开展的“清朗·2022年算法综合治理”专项行动，重点检查大型平台的算法合规性，要求算法服务必须加强正能量传播，处置违法信息并整治滥用现象，并要求互联网企业建立算法安全治理机构，完善算法备案和风险监测机制。此次专项行动有效督促了互联网企业完成算法备案，初步建立起算法安全审查框架，大部分平台借机优化了推荐内容多样性、减少同质化信息推送。
（三）聚焦网络平台算法典型问题
2024年11月至2025年2月开展的“清朗·网络平台算法典型问题治理”专项行动，首次明确《算法专项治理清单指引》，指明了信息茧房、榜单操纵、大数据“杀熟”、侵害新就业形态劳动者权益、算法安全主体责任等6项21个核验要点，提出“导向正确、公平公正、公开透明、自主可控、责任落实”的工作目标，分阶段推动企业自查自纠、政府核验监管、成效跟踪评估，同时，要求企业公示算法原理并保障用户选择权。
此次专项行动还首次开设了专门的举报通道，强化社会监督。专项行动后，多家平台承诺公布热搜算法逻辑提高透明度，优化用户标签管理功能防范信息茧房；外卖平台优化信息配送算法规则，降低劳动者事故风险，进一步保障新就业形态劳动者权益。
（四）强化人工智能算法滥用治理
2025年2月，2025年“清朗”系列专项行动发布，将“人工智能技术滥用”列为第四类重点整治对象，要求规范生成合成内容标识，打击人工智能虚假信息传播及网络水军行为，强调人工智能应用的伦理责任，要求平台加强生成内容审核，防范技术滥用对社会秩序的冲击。
（五）常态化技术监管
《算法规定》第二十四条明确要求平台对算法进行备案，监管部门定期审查算法逻辑与输出结果。自2022年3月1日起，互联网信息服务算法备案系统正式上线运行。截至2025年3月，共备案信息服务算法565份、深度合成服务算法3234份。同时，国家有关部门还依据各自职责承担日常算法违法违规等相关问题巡查和处置工作，与算法备案和审查机制形成了有效配合。
五年来，国家监管部门逐步构建起覆盖算法设计、应用、监管的全链条治理体系，推动算法技术从“野蛮生长”向“技术向善”转型。也要看到，算法技术更迭快、涉及主体多，专项行动多为短期集中整治，易陷入“问题—治理—反弹”的循环，同时，算法备案也存在备案范围有限、审查技术难度较高、难以覆盖动态迭代的复杂算法等问题。算法治理工作依然任重道远。
三、重点平台典型算法问题
经调研梳理，网民对算法治理的关注呈现出明显的民生权益导向特征，主要表现在以下四个方面。
（一）新就业形态劳动者权益
此类问题聚焦外卖、出行、货运等平台。一是在配送时限方面，算法存在缺陷，系统基于历史数据持续压缩配送时限，且转单后剩余时间未重置，导致配送压力增大。二是在路径方面，规划存在失准，算法常生成包含逆行路段、封闭道路等异常路径的配送方案，造成实际距离与预估值的系统性偏差。三是在惩戒方面，机制存在失衡，超时配送实施阶梯式扣款，工装规范、操作流程等非核心违规项处罚标准可达单笔配送费数十倍。四是在申诉方面，渠道存在失效，平台存在“先罚后审”机制漏洞，二次申诉驳回率偏高且缺乏有效沟通渠道。五是在平台方面，经济分配失衡，网约车类平台抽佣比例持续攀升，派单算法未充分考量司机权益。
（二）算法价值观引导
此类问题涉及各类社交、短视频、电商、外卖等平台。一是内容生态异化，突出表现为诱导未成年人消费、适老化内容缺失、虚假信息传播等数字鸿沟问题。二是商业生态扭曲，部分平台流量分配机制形成“刷单溢价”效应，致使优质商家遭受算法歧视，破坏市场良性竞争。
（三）大数据差异化定价
此类问题聚焦电商、出行平台。一是动态价格歧视，通过对用户行为画像，精准实施浏览频次定价、跨设备差异化定价等隐蔽策略。二是优惠机制黑箱，未公示差异化优惠规则，优惠券发放逻辑及失效原因缺乏透明解释。
（四）信息推荐机制缺陷
此类问题聚焦短视频、社交等内容平台。一是内容极化推送，算法过度强化社会矛盾、两性对立等争议性内容，塑造社会舆论挑起争端。二是用户选择权虚置，关闭个性化推荐后仍根据用户历史数据推送内容，且“不感兴趣”功能反馈失灵。三是数据滥用隐患，通过语音监听、输入法监测等隐蔽方式违规构建用户画像，且跨平台数据共享环节缺乏必要的合规审查。
从网民反映的问题可以看出，当前算法治理工作仍面临多方面的复杂挑战，特别是在涉新就业形态劳动者权益等社会影响大、网民反响强烈的问题上，仍需要进一步寻求技术创新、经济效益与公共利益间的平衡。
四、企业责任落实情况及现状
面对共同的算法治理难题，监管部门和各大网站平台“遇山开路、遇水架桥”。以2024年11月至2025年2月的“清朗·网络平台算法典型问题治理”专项行动为例，各网站平台分别自查自纠，推进算法治理透明化。截至2025年3月，抖音、美团、小红书、微博等平台相继提出下一步改进措施，形成兼具行业共性与业务特性的实践路径，为其他网站平台落实算法治理提供了参考经验。
（一）共性治理
在共性治理方面，各平台主要从透明度、协同性、权益保障、技术研发等维度，系统性夯实算法治理基石。
一是算法透明度提升与常态化公开机制构建。各平台普遍建立算法公开机制，向公众阐释算法基本原理与运行逻辑。例如，抖音建设安全与信任中心网站和线下公示展厅；快手成立算法安全委员会，公示热榜规则、视频讲解算法信息等方式，推动算法透明化；微博发布《2024年微博热搜趋势报告》，详细分析热搜话题的上榜原因与传播路径，清晰解释生成机制。
二是多方协同治理机制创新。各平台主动搭建算法治理对话平台，突破传统单向监管模式，探索多方协同治理新范式。例如，美团、饿了么定期举办骑手恳谈会；抖音鼓励有识别能力的用户参与争议内容“打标”；百度建立内容多样性与探索感提升专项，将用户感知丰富度作为内部评测指标，让用户真实反馈直接驱动算法优化。
三是用户权益保障体系完善。针对算法可能引发的权益侵害风险，各平台从技术防护与制度保障双向发力，系统性降低算法应用的负外部性。例如，美团落地“弹窗提醒和强制下线结合”的防疲劳措施；抖音优化“亲子平台”、青少年模式、老年人提醒等功能；知乎构建用户自主可控的算法体系，完善非个性化推荐、未成年人模式等产品功能。
四是技术研发与安全能力升级。各平台持续加大算法安全投入，通过技术手段建设提升治理效能。例如，饿了么研发智能头盔，通过升级骑手作业设备提升骑手配送的安全性、便捷性；微博不断升级热搜落地页反作弊机制，持续迭代负向识别能力；微信视频号优化推送逻辑，提高分发精准度。
（二）差异化实践路径
除共性治理，各平台也结合自身业务属性和内部突出问题，展开了更具针对性的差异化探索，形成了各具特色的实践路径。
一是外卖平台积极开展劳动关系算法治理探索。美团通过引入培训、积分制等替代方案，逐步取消骑手超时扣款，推动管理方式从负向处罚向正向激励转变；饿了么建立算法的骑手集体协商机制。
二是内容社交平台注重信息生态价值引导强化。抖音在原有推荐链路中单独增加了“优质”子链路，并增加“用户收藏复访、作者长期陪伴、社区优质氛围”等作为发现优质内容的信号；微博积极与权威媒体合作，探索建立底层标签共建机制，不断升级暖新闻机制，助力媒体正能量暖新闻话题的传播；快手迭代“打散”策略模型，向用户推送跨兴趣高热度内容，根据用户群体特点搭建专属内容池，强化正能量内容传播；小红书通过内容质量评分反哺流量分配，进而实现高质量内容提权、低质量内容降权。
三是电商交易平台推动保护消费者和商家权益。拼多多严禁利用算法实施大数据“杀熟”，成立“商家权益保护委员会”，推出“异常订单预警”“低价风险预警”等举措；淘宝账号诚信体系进行升级，上新“旺旺一键反馈虚假凭证”“商家工具智能拦截异常账号”“异常订单一键拒退”等功能，提升商家的售后自主处置能力；京东设立算法合规审查机制，对算法模型进行多维度偏见检测，并持续优化训练数据与决策逻辑，通过动态评估与调整，避免因数据偏差导致不公，确保不同群体用户享有平等权益。
（三）治理现状
总体来看，当前算法治理仍面临技术迭代与制度演进的速度差、技术理性与公共价值的平衡差、商业逻辑与社会责任的协同差三重深层矛盾。“算法黑箱”的技术特征与平台经济的规模效应叠加，使算法治理既面临技术伦理的哲学追问，又遭遇操作层面的现实梗阻，亟须构建兼具技术可行性与制度适配性的治理体系。
一方面，监管体系待进一步完善。算法治理的技术壁垒已形成监管领域的“数字鸿沟”，监管部门在面对“算法黑箱”时普遍陷入监管滞后与工具匮乏的双重困境。现行《算法规定》虽明确算法备案要求，但在具体执行过程中仍面临一些客观困难。例如，算法合规的标准细则、技术安全评估框架还不成熟，标准化建设还存在提升空间，监管技术手段和执法检查队伍不足等。这些都给“以技术对技术”的算法技术治理带来挑战。
另一方面，多方共治格局尚未形成。由于算法的复杂性、技术性、专业性，平台、网民、第三方研究机构等多方难以形成共识。在平台方，“算法涉及商业秘密”“网站平台自身监测技术手段不足”成为规避责任和监管的“挡箭牌”，部分网站平台以“技术不可知论”为由，拟绕过“算法可解释性”的相关要求，被动应付监管和检查。在网民方，多数网民不懂算法技术，也不知道平台推出的“关闭个性化推荐”“兴趣标签管理”等进一步保障用户选择权的功能。第三方研究机构虽具备专业能力，但因算法技术、运行机制等内容的敏感性，无法进一步验证平台算法是否真实合理。因此，推动多方共治、多方参与，是推动算法治理工作重要的一环。
五、未来展望
2025年2月28日，在中共中央政治局第十九次集体学习中，习近平总书记指出：“建设更高水平平安中国，必须强化社会治安整体防控。要把专项治理和系统治理、依法治理、综合治理、源头治理结合起来，发展壮大群防群治力量，筑起真正的铜墙铁壁。”同样，算法治理需要多方共治、统筹推进，既要加强算法治理制度体系化、规范化，又要凝聚政府、企业、网民等多方合力，推动算法治理工作常态化长效化。在数字文明新阶段，算法治理已深度融入社会运行，亟须从专项行动向常态化长效化治理演进。因此，本文建议从优化技术治理范式、强化主体责任、培育治理生态三个维度协同推进，研究构建具备前瞻性、系统性与操作性的治理框架，形成兼具技术穿透力、制度约束力与价值引领力的综合治理体系。
（一）优化智能监管体系，破解技术治理困境
推动监管手段的智能化与精细化，以技术赋能监管实践，破解治理滞后与穿透力不足的难题。一是以算法备案系统为基础，研究建立可覆盖互联网信息服务算法全生命周期的智能治理体系。通过创新监管技术平台系统，优化检测检查工具，形成安全评估、监测检查、执法处罚的常态化和长效化监管体系。二是研究构建算法技术安全评估框架，提高精准度和效率，探索形成分级分类精准治理模式，针对不同风险场景配备相应的监管规则，明确算法原理公示的具体要求，为行政执法和企业行为设定清晰的边界。
三是开展国内外算法治理动态跟踪，精准把握算法技术发展趋势，系统分析重点平台算法应用边界、核心机制机理，深度研判最新安全风险问题，为持续完善算法监管体系提供坚实、动态的决策支持。
（二）强化企业责任范式，激活内生治理动能
压实企业主体责任，激发其内生治理动力，将外部监管要求转化为企业内部运行的自觉准则。一是督促企业承担起算法安全的主体责任，完善内部自评估流程，建立覆盖算法研发伦理审查、上线前影响评估、运行期间持续优化的全流程治理机制，常态化开展自查自纠工作，不断提升算法治理规范水平。二是强化企业对算法透明度重要性的认识，推动企业以简单、清晰、易理解的方式公开算法的基本原理和主要运行机制，做好面向网民的解释沟通工作，以公开透明度换取社会信任度。三是鼓励企业开通算法问题用户反馈和投诉举报渠道，定期向社会公示处理结果，广泛听取社会各界意见，积极履行社会责任。
（三）培育协同治理生态，释放多元共治效能
构建开放协同的治理生态，汇聚各方智慧与力量，实现从单向监管向多元共治的范式转变。一是用好专家和社会资源，探索成立算法技术安全专家委员会，组建跨学科算法治理研究队伍，整合计算机科学、法学、伦理学、社会学等学科力量，加强算法歧视、算法合谋等行为的实证研究，为制定更加精准的监管政策提供科学依据。二是充分发挥第三方机构作用，联合平台、网民、高校、科研院所等多方力量共同制订行业标准，定期通过第三方调查等方式了解用户的真实需求与使用感受。逐步培养和规范算法技术安全评估机构，建立健全相关制度、标准，提升评估服务质量。三是围绕算法安全、用户权益，加强网上宣传，帮助网民及时了解算法备案信息，熟知算法的基本逻辑，加强个人信息保护，切实增强网民在人机互动中的自主性、控制感和协同意识。
总之，算法治理是监管边界、价值取向与公共利益三者的动态博弈，是一场关乎技术伦理坐标系的持久战。因此，需要建立“政府监管—平台自治—社会协同”三位一体的治理范式，统筹实现效率与公平、创新与监管、技术理性与人文温度之间的良性平衡，打造彰显中国智慧的算法治理创新实践模式。
（本文刊登于《中国信息安全》杂志2025年第12期）
声明：本文来自中国信息安全，版权归作者所有。文章内容仅代表作者独立观点，不代表安全内参立场，转载目的在于传递更多信息。如有侵权，请联系 anquanneican@163.com。
