近年来，以ChatGPT为代表的大模型引发人工智能（AI）新一轮发展热潮，在社会、经济和军事等多领域均带来深刻变革，但其准确性、可靠性、算法可解释性与透明度缺失等引发了人类对隐私、安全和公平的担忧。在全球范围内，已有多项政策文件将敏捷治理（Agile Governance）作为人工智能治理原则或理念。2019年6月，中国发布《新一代人工智能治理原则——发展负责任的人工智能》，强调敏捷治理等8项原则，并将敏捷治理定义为：尊重人工智能发展规律，在推动人工智能创新发展、有序发展的同时，及时发现和解决可能引发的风险。不断提升智能化技术手段，优化管理机制，完善治理体系，推动治理原则贯穿人工智能产品和服务的全生命周期。对未来更高级人工智能的潜在风险持续开展研究和预判，确保人工智能始终向有利于社会的方向发展；2023年10月，中央网信办发布《全球人工智能治理倡议》，呼吁全球实施敏捷治理，分类分级管理，以及快速有效响应。与此同时，美国、欧盟和日本等主要国家和地区也在加快推进人工智能治理布局，共同寻求具有共识和互操作性的治理规则。2023年5月，日本在G7峰会期间主导成立“广岛人工智能进程”，以敏捷治理为基础推动G7各国就人工智能开发的国际指南和行为规范达成一致。
一、日本推行敏捷治理模式
敏捷治理概念最早于2018年世界经济论坛上被提出，主要是指在第四次工业革命到来的背景下，对政策产生、审议、制定和实施的方式进行改变，提出一套具有柔韧性、流动性、灵活性或适应性的行动或方法，以及更加自适应、以人为本、具有包容性和可持续性的决策过程。敏捷治理的核心是创新治理模式，将传统治理流程和范式改变作为适应人工智能技术飞速发展的敏捷灵活模式，其具有如下特征：（1）参与广泛度，通过让更多的利益相关者参与到治理的流程中，并允许政策快速迭代实现对治理目标的逼近；（2）时间灵敏度，为人工智能快速发展做好持续准备，主动或被动地接受变化并从变化中学习，为实际或可感知的用户价值做出贡献。
为适应人工智能技术、大数据和云计算等新兴技术发展，日本经济产业省（METI）于2020年7月发布了《治理创新：社会5.0时代的法与制度再设计》报告，提出创新治理模式促进人工智能等新兴技术发展；METI于2021年7月发布了《治理创新2.0：敏捷治理设计和实施指南》，正式提出了敏捷治理原则，以及基于该原则的各种治理机制；METI于2022年8月发布《敏捷治理更新：政府、企业和社会如何通过重新构建治理模式创造更美好的世界》，分析探讨了日本敏捷治理模式和具体实践情况。METI认为，监管法规难以满足人工智能技术创新的速度和复杂性，并担忧强制性、固定化和过于详尽的法规可能会对技术创新产生抑制作用。METI提出：政府部门应尊重科技企业自愿采取的人工智能治理措施，并基于多方利益相关者对话提供非约束性指导，支持企业自我治理措施。日本采取软法范式的监管制度，强调技术发展优先，依靠发布的监管原则及指南引导企业自主治理，形成以企业为中心、多方利益相关者共同参与治理的监管格局，称为敏捷治理模式，作为其人工智能治理的基本模式。
1.1 日本人工智能治理原则
2019年3月，日本政府正式发布《以人类为中心的人工智能社会原则》（以下简称《原则》），作为在社会中实施人工智能的指导框架。该报告提出了3个基本理念：人的尊严、多样性和包容性、可持续性。《原则》的制定目标不是为了保护这些原则而限制人工智能的使用，而是要通过人工智能实现这些原则。《原则》框架与经济合作与发展组织（OECD）的人工智能原则的结构相对应，其首要原则是通过人工智能实现“包容性增长、可持续发展和福祉”。
为实现这些目标，《原则》提出了围绕人工智能的7项基本原则：人类中心、教育、保护隐私、保障安全，公平竞争、公开透明、创新。这些原则不仅包括隐私和安全等保护要素，还包括指导人工智能积极使用的原则，如教育、公平竞争和创新等。
1.2 日本人工智能治理政策
日本人工智能治理政策基于《以人为本的人工智能的社会原则》提出的7项基本原则，其人工智能治理法规可分为两个类别：一是防范人工智能相关风险的监管法规；二是促进人工智能技术应用的监管指南。
1.2.1 防范人工智能相关风险的治理法规
日本政府未制定统一限制人工智能使用的法规。从行业整体角度来看，METI发布的《日本人工智能治理模式1.1版》明确指出，目前没有必要为人工智能系统制定具有法律约束力的横向要求。从单一行业角度来看，也没有任何法规明确禁止人工智能的使用，而是要求企业采取适当的治理措施，并披露相关风险信息。例如，《特定数字平台的透明性及公正性促进法》对大型在线商城、应用商店和数字广告企业提出要求，确保企业与商业用户的交易透明和公平，包括披露决定搜索排名的关键因素。《金融商品交易法》则要求从事算法交易的企业向政府注册，并要求其建立风险管理系统和维护交易记录。日本公平贸易委员会则从公平竞争的角度分析了算法可能造成的卡特尔垄断行为和不公平贸易的潜在风险，并得出结论：大多数问题可以通过日本现有的反垄断法律解决。日本《个人信息保护法》规定了收集、使用或转移个人信息组织的主要强制性义务。该法律的最新修正案于2022年4月生效，引入匿名个人数据的概念（是指经过处理，无法识别特定个人的个人信息），进一步强化了数据保护和隐私保障。此修正案规定，匿名个人数据不属于个人信息，因此在处理匿名个人数据时，个人信息处理者只需要遵守一般安全原则，而无需遵守其他强制性义务，例如，告知义务、同意义务、安全保障义务、风险评估义务和事后报告义务等。由于处理匿名个人数据的义务比处理个人信息的义务要少，预计这一新概念将鼓励企业使用更多数据进行人工智能开发。
1.2.2 促进人工智能技术应用的治理指南
虽然日本政府没有制定禁止使用人工智能的法规，但是如果使用人工智能系统造成事故，运营商可能会承担侵权责任或产品责任。此外，还有一些人工智能项目（主要在隐私领域）没有违反现有法规，却因社会质疑被放弃。因此，日本政府提供指南帮助企业自愿实施适当的人工智能治理措施。例如，METI发布的《实施人工智能治理指南》，通过具体实例总结了社会原则的行动目标以及实施举措，解释了根据敏捷治理框架与利益相关者合作建立更新人工智能治理结构的过程；METI和总务省（MIC）联合制定了《数字化转型时代企业隐私治理指南》和《有效利用摄像机图像指南》，指导人工智能企业处理隐私数据，使企业既能遵守《个人信息保护法》的规定，又能根据与利益相关者的沟通采取其他适当措施。
随着日本政府发布了一系列人工智能领域治理指南，本国企业开始积极主动实施人工智能治理措施。富士通发布了一份实践指南，介绍了进行人工智能伦理影响评估的程序，并展示了其在典型案例中的应用过程。索尼则制定了索尼集团人工智能道德准则，并将其添加到企业质量管理体系中。同时，日本研究机构也提供各种工具促进人工智能治理。METI下设的国家先进工业科学技术研究所（AIST）提供了《机器学习质量管理指南》。该指南为基于机器学习的产品或服务建立了质量标准，提供了通过开发过程管理和系统评估提高质量的指导程序。东京大学未来倡议研究所则开发了风险链模型构建人工智能的风险因素。该模型将人工智能系统的风险分为5个链接：数据链、算法链、系统链、用户链和社会链。未来倡议研究所正在与私营公司合作进行案例研究，以测试风险链模型的有效性，这些案例研究涉及人工智能在医疗、金融和制造等领域的应用。
1.3 日本人工智能治理改革
日本立法者基于对人工智能风险的适当考虑，通过实施治理改革促进人工智能在多领域的广泛应用。
在交通领域，修订后的《道路交通法》和《道路运输车辆法》于2020年生效，允许在公共道路上进行L3级自动驾驶（有条件的自动驾驶）：（1）规定了使用自动驾驶系统的驾驶员的义务，当自动驾驶过程中发生事故或违章，驾驶员也不一定能免除责任；（2）规定驾驶员有记录保存自动驾驶系统运行状况的义务。2021年，本田成为首家提供法律认可的L3级自动驾驶汽车的制造商。本田Legend车型配备了Honda Sensing Elite系统，该系统可在高速公路上实现L3级自动驾驶。此外，一项允许L4级自动驾驶（高度自动驾驶）的新修正案于2023年4月生效。
在金融领域，2020年修订了《分期付款销售法》，允许“经过认证的综合信贷购买中介”能够使用数据和AI确定信贷额度。此前，信用卡公司在评估信用额度时必须使用法定公式，需同时考虑年收入、家庭结构和其他因素。修订后的法律旨在提高信用额度分配的透明度和公平性。通过使用人工智能进行数据处理和分析，信用卡公司可以考虑更多因素综合评估信用风险，从而为消费者提供更加准确和公平的信贷额度。
在工业领域，根据《高压气体安全法》，日本于2017年建立了“超级认证操作员”系统，旨在鼓励工厂运营商采用先进的安全技术，提高工厂的安全水平。高压气体工厂运营商必须每年停止运营并进行一次安全检查，但被认证为拥有人工智能和无人机先进安全技术的运营商（超级认证运营商），可在最长8年的时间内，不中断运营地进行安全检查。
在版权领域，日本《著作权法》于2017年进行了修订，以促进数据在机器学习中的使用。该修正案明确，通过互联网等方式下载、处理数据开发人工智能模型，不侵犯著作权。数据是人工智能系统训练和运行的基础。由于机器学习模型的效率和准确性取决于数据质量，通过允许人工智能开发者使用受版权保护的数据进行机器学习，该修订将有助于提高人工智能系统的性能和准确性。此外，2019年《不正当竞争防止法》修正案提出保护访问受限的共享数据，未经授权获取或滥用此类数据可能会受到禁令或损害索赔。该修订旨在保护数据持有者的适当利益。数据持有者会投入大量时间和资源收集和整理数据。未经授权获取或滥用这些数据可能会损害数据持有者的利益。相关规定有助于平衡人工智能开发者和数据持有者的利益，促进人工智能技术发展，同时保护数据的知识产权。
综上所述，日本制定和修订人工智能相关法规的目的是最大限度地发挥人工智能对社会的积极影响，而不是出于对风险的高估而抑制它，重点是基于风险的、敏捷的和多方利益相关者的治理过程，而不是“一刀切”的强制义务或禁令。
二、日本敏捷治理模式的特点
2.1 技术发展优先
日本政府在人工智能治理中采用敏捷治理模式，本质上是技术发展优先的政策导向。敏捷治理模式与传统监管模式的根本区别在于将技术发展置于优先地位。科技企业是技术发展的主体，敏捷治理模式重视保护企业的积极性。以ChatGPT为代表的大模型具有突破性、变革性和高风险性等特点，通过实施灵活感知、动态调整的敏捷治理模式，边发展、边治理、边摸索、边修正。在避免人工智能高风险的同时，对于平衡安全和发展，促进人工智能技术快速发展具有重要意义。
从治理原则看，日本发布了《原则》，作为人工智能治理的指导原则，采取原则指引为主、灵活政策为辅的策略，强调人工智能治理目的是要确保人工智能技术的稳定发展，指出要有效利用人工智能促进社会经济变革和推进社会可持续发展，推进产学研合作，促进包括技术及社会制度在内的广泛研究开发，构建有利于人工智能发展的制度环境。《日本人工智能治理模式1.1版》明确提出，人工智能治理要注意避免阻碍人工智能技术发展。
2.2 多元治理主体
在治理关系上，日本敏捷治理模式具有多元主体参与的特点，政府、行业、企业和社会力量共同参与监管过程，政府监管部门和市场主体之间存在重要的相互影响关系。
在法律层面，政府部门是敏捷治理的主体力量。政府具有监管人工智能发展的职能，是治理架构中具有行政权力的组织。但面临人工智能应用带来的安全风险，日本政府没有完全依靠行政强制手段，而是通过提供非约束性指导方针，引导人工智能企业加强自我治理和风险防范。
在自律层面，行业协会和企业是敏捷治理的主体力量。日本行业协会团体积极参与人工智能治理，如日本经济团体联合会、日本电子信息技术产业协会等，既提供人工智能发展趋势的关键参考信息，也提出促进技术发展的指导要求。人工智能企业是人工智能技术的开发和利用主体，是主要的人工智能治理对象，更是敏捷治理模式中自我治理的主力军。科技企业在推动技术创新的同时，承担规范技术应用、保障社会信任的重要责任。
在他律层面，科技智库、公众组织等社会团体成为敏捷治理的主体力量。作为敏捷治理模式的重要组成成员和人工智能发展利益的相关者，学术界人士可从技术发展规律、数据隐私保护等角度提供知识，社会公众则可从消费者角度提出人工智能的潜在风险和重点监管需求，而新闻媒体记者可以起到第三方监督作用。
2.3 软法范式监管
日本政府在全球人工智能治理中率先实施了软法范式监管，通过制定人工智能指导原则、行业标准等对人工智能的安全风险进行监管。传统监管模式主要为硬法范式监管，通过政府制定的法规，对企业违法行为进行惩罚和强制性监管。而软法范式监管则是政府部门协同行业、企业、学界及社会公众团体等共同制定指导原则，行业和企业自觉开展治理和风险防范，社会公众团体等多元主体进行监督，通过多层次协同治理确保人工智能技术安全发展。日本人工智能治理主要依据非约束性的指导原则、指针，具有明显的软法特点。通过自下而上，由包括行业企业在内的社会各方面共同讨论形成的监管要求，较为契合企业和公众诉求，并能得到企业的认同，提高其参与人工智能治理的主动性。同时，软法范式监管与促进新兴科技发展的治理需求具有一致性。原则指南等软法制定方式和周期更具灵活性，日本称监管原则、指针为“活的文件”（living document），其可以在政府主管部门层次上对软法进行补充和修改，无需经过长期国会审议，其内容更具针对性，有助于对人工智能技术发展进行快速响应。
三、日本基于敏捷治理模式推动国际治理合作
在人工智能治理方面，日本采取了尊重企业自愿治理并提供非约束性指导的做法，同时对大型数字平台施加透明度义务。在人工智能监管方面，日本正在推行监管改革，促进人工智能产生积极的社会影响并实现监管目标。然而，人工智能是一个全球性问题，亟须全人类共同协作寻求解决方案。日本政府正积极参与国际人工智能治理讨论，以敏捷治理为基础推动形成全球治理共识。
3.1 全球人工智能治理模式的异同
人工智能治理是全球领导人面临的最具挑战性的话题之一。目前，美国、欧洲和日本的人工智能治理模式大致可以分为两大类。第一类国家试图采取“整体和基于硬法”的方法，规定了企业对高风险人工智能的治理、透明度和安全等方面的义务，在违反时施加重罚。适用欧盟人工智能法案的法国、德国和意大利可归入这一类，提出《人工智能和数据法案》的加拿大也属于此类。第二类国家则采取“特定行业和基于软法”的方法，寻求通过非约束性指南，而不是通过全面的人工智能监管，促进适当的人工智能治理，同时在特定行业要求透明度和数据保护，包括日本和英国。美国目前也属于第二类，但如果美国国会通过新的人工智能法案，其可能更接近第一类。
上述两类人工智能治理模式存在共同点。一是不同国家通过人工智能治理实现的目标都与经济合作与发展组织人工智能原则相协调，包括透明度和可解释性、隐私、公平、安全和保障以及问责制，都要求向利益相关者提供适当的信息，并保留人工智能操作记录。二是两类人工智能治理模式均未对于人工智能治理的一些具体要求做出明确表述，需要人工智能企业主动谋划解决共性问题，包括：如何利用通俗易懂的语言向用户解释有关算法的准确逻辑；如何评估无法简单量化的风险；如何运用技术手段保证公平、安全或隐私等。
3.2 人工智能治理国际合作路径
鉴于人工智能对社会、经济和军事领域的变革性影响，全球各国有充足理由考虑采取实际举措开展国际治理合作。2022年12月，美国—欧盟贸易和技术委员会（TTC）的人工智能标准工作组发布了《可信赖人工智能和风险管理评估与测量工具联合路线图》，呼吁在人工智能标准方面加强国际合作。经济合作与发展组织提供工具和知识库，包括：人工智能系统分类框架；国际标准化组织（ISO）和国际电工委员会（IEC）成立的人工智能标准小组委员会（SC 42），中国和美国都参与其中。全球人工智能治理合作可能采取的具体路径如下。
3.2.1 不同国家共享人工智能实践
与其他领域的法规一样，人工智能法规需要根据具体实践的必要性和相称性实施，而不是从抽象概念中推导出来。因此，分享人工智能在某些领域造成风险的实例，将成为政策制定者的重要决策工具。例如，全球人工智能合作伙伴关系（GPAI）是经济合作与发展组织的一项多方利益相关者倡议，旨在弥合人工智能理论与实践之间的差距。通过汇聚政府、企业和学术界的力量，GPAI正在重点分析气候变化数据的最佳实践技术，以推动人工智能在解决全球性问题中的高效应用。
3.2.2 推动制定人工智能国际标准
统一的标准将为人工智能企业提供良好人工智能治理实践内容，阐明第一类国家监管要求，并作为第二类（以及第一类）国家责任评估的基础。例如，美国—欧盟贸易和技术委员会正在以下3个方面推进标准化：一是共享术语和分类法，二是可信赖的人工智能和风险管理工具，三是人工智能风险监控和测量。为推动制定人工智能国际标准，日本积极组织多个工作组，为人工智能标准小组委员会贡献力量。这些工作组涵盖广泛的科技领域，包括“人工智能支持的健康信息学”，旨在利用人工智能技术提升医疗数据处理与健康管理能力，以及“用例和出版物”，致力于为标准制定提供具体的应用场景和研究成果支持。日本在推动国际人工智能标准化进程中发挥了重要作用。
3.2.3 实现人工智能治理的跨境互操作性
引入一种跨境机制，使一个国家的法规或合同要求的认证（安全认证、隐私评估等），也可在另一个国家使用。虽然大部分国家人工智能法规尚在制定中，讨论互操作性具体细节的时机还不成熟，但推动人工智能治理案例的共享与经验交流，促进国际人工智能治理标准化进程，将为未来实现跨境互操作性奠定坚实基础。这一举措将有助于减少法律冲突，降低企业合规成本，推动全球人工智能治理的一体化发展。
3.3 敏捷治理对国际人工智能治理的深远影响
人工智能治理国际合作在共享最佳实践、制定国际标准以及确保未来互操作性等方面仍面临诸多挑战。仅依赖政府之间的合作难以实现人工智能治理的最优化。由于人工智能系统的技术复杂性，以及其对社会和经济的深远影响（包括积极和消极层面），多方利益相关者的协调配合至关重要。这些利益相关者不仅涵盖技术、法律、经济和管理领域的专家，还包括最终受益者的个人和社区，确保治理措施既具科学性又兼顾社会需求。
人工智能技术和应用的快速发展要求治理方法具备高响应性和动态更新能力。治理体系需要基于实践反馈不断调整，包括重新评估法律和指南的边界，有针对性地解决新出现的问题。日本政府将这种灵活、高效的治理模式命名为敏捷治理，并将其确立为数字化社会的基本政策。日本敏捷治理模式在国际人工智能治理合作中具有显著优势，得益于以下几点：明确一致的治理愿景、成功的人工智能治理改革经验、企业良好的自我治理实践，以及在国际标准制定中的积极贡献。这些因素使日本敏捷治理模式能够在推动全球人工智能治理合作中发挥关键作用，为未来全球治理框架的构建提供有力支撑。
四、结语
日本敏捷治理作为一种新型治理模式，具有技术发展优先、多元主体参与治理以及软法范式监管等鲜明特点，同时具备全面性、适应性和灵活性等优势。此模式在国内的良好实践为国际人工智能治理提供了重要经验和参考价值。
目前，美国、欧盟和日本等国家和地区在人工智能治理模式上呈现趋同和对标的趋势。例如，美国通过数字平台委员会相关法案，提出采用基于风险的敏捷治理方式；英国发布的《促进创新的人工智能监管方法》白皮书，倡导“按比例监管”的灵活治理理念；欧盟则在《人工智能法案》中引入了监管沙盒制度，充分体现敏捷治理的核心思想。这些举措共同表明，敏捷治理模式正逐步成为全球普遍认可的人工智能治理方案，其灵活性、适应性和创新性在复杂的技术和社会环境中展现了显著优势。
迈向敏捷治理，中国政府需优先考虑建立可持续性的治理模式，在治理框架的灵活性和多元性方面不断完善和创新。面对人工智能技术和商业应用的快速迭代，政府部门应积极适应其变化，同时引导企业与社会多方利益相关者共同参与治理，形成协同合作的治理生态。通过实施“快速响应、轻度干预”的治理措施，政府能够以更灵活的方式平衡监管与创新需求。这要求改变传统治理的流程和范式，构建适应人工智能高速发展的敏捷治理模式。在实际治理实践中，政府需要捕捉技术发展的脉络和趋势，动态调整政策方向，推动开放、公正且高效的治理机制形成。通过实现安全与创新之间的双向动态平衡，确保人工智能技术在快速发展的同时造福人类社会，助力构建人类命运共同体，实现共赢共享。
作者：陈俊吉
（生态环境部，北京 100006）
来源：《全球科技经济瞭望》 2024年10月第39卷 第10期
文章观点不代表主办机构立场。
声明：本文来自科情智库，版权归作者所有。文章内容仅代表作者独立观点，不代表安全内参立场，转载目的在于传递更多信息。如有侵权，请联系 anquanneican@163.com。
