国际证监会组织（International Organization of Securities Commissions, “IOSCO”）发布了题为《人工智能在资本市场中的应用场景及相关风险与挑战》的咨询报告（“《AI报告》”）。该报告汇集了来自IOSCO成员（即各司法管辖区的证券监管机构）及行业参与者就金融产品与服务中应用人工智能（Artificial Intelligence, “AI”）技术所涉问题、风险和挑战的反馈意见，旨在促进各方就AI在资本市场的应用达成共识，并协助IOSCO成员制定相应的监管策略。
本报告系IOSCO继2021年发布《市场中介机构与资产管理机构使用AI及机器学习技术的最终报告》后的又一阶段性研究成果。本次报告充分考虑了人工智能技术的最新发展、行业实践以及监管政策导向。作为IOSCO人工智能监管“两步走”战略的第一阶段成果，IOSCO后续将据此制定更具操作性的监管工具与实施建议，为IOSCO成员提供进一步指导。
01 IOSCO《AI报告》的背景
IOSCO是国际间各证券监管机构所组成的国际合作组织，其核心职能是推动证券及金融市场的有效监管。其首要目标在于制定和推广高标准的监管规范，从而切实保护投资者权益、确保市场公平与透明，并维护全球金融市场的稳健运行。IOSCO与金融稳定委员会（Financial Stability Board, “FSB”）和国际货币基金组织（International Monetary Fund）等其他国际组织密切合作。多年来，IOSCO在推动国际证券监管实践趋同化方面发挥了关键作用，旨在增强投资者信心，并保障全球金融市场的平稳运行。
虽然AI在资本市场的应用已非新鲜事物，但近期AI技术领域涌现出诸多重大创新，并吸引了大量的投资与关注，尤其是生成式AI技术，其出现大大颠覆了AI技术发展的原有格局。在其2021年的AI报告中，IOSCO提出了六项衡量标准，旨在反映市场中介机构和资产管理机构在应用AI和机器学习（Machine Learning）技术时应遵循的预期行为规范。虽然该指引不具备强制约束力，但IOSCO鼓励其成员在各自的法律与监管框架内审慎参考。这六项标准涵盖以下关键内容：
公司治理机制
高级管理层的职责与问责制度
数据质量保障
AI及机器学习技术的验证、测试、监控与监督
与第三方供应商的关系及依赖性评估
关于使用AI及机器学习技术的信息披露
02 AI在资本市场中的应用场景
根据 IOSCO 的报告， AI技术在过去数年中已逐步渗透至金融市场的多个环节。随着技术创新和投资规模的持续增长，人工智能的应用场景也得到了显著拓展。该报告将AI模型区分为确定性（deterministic，输入输出关系恒定）与非确定性（non-deterministic，输出结果基于概率算法）两类。
根据 IOSCO 的调查结果，AI最常见的应用场景包括与客户沟通、算法交易（algorithmic trading）、智能投顾服务（robo-advising）及资产管理，其次是市场监控与欺诈检测、内部运营效率提升及反洗钱合规。金融机构还利用AI技术辅助投资研究、市场分析及情绪分析等决策流程。值得注意的是，借助人工智能领域的最新进展，各类机构正致力于通过任务自动化、信息智能提取、代码自动生成、文本智能分类、自动摘要生成、语音自动转录、机器翻译及文稿自动起草等功能，优化内部运营流程，并显著提升客户沟通效率。
根据 IOSCO 的报告，就生成式AI而言，市场参与者现阶段更倾向于优先探索其在内部低风险场景下的应用，例如提高内部生产力、生成深度分析观点或改进风险管理策略，而非直接将其应用于面向终端客户的场景。
从不同类型机构的AI应用现状来看，IOSCO的调研结果揭示了以下主要趋势：
证券经纪交易商：AI技术主要应用于客户沟通（占比67%）、算法交易（占比63%）以及市场监控与欺诈检测（占比53%）等领域。
资产管理公司：AI技术主要应用于支持智能投顾及资产管理业务（占比60%）以及投资研究（占比40%）等领域。
交易所及其他金融市场中介机构：AI技术主要应用于交易处理及自动化流程（占比40%）。
03 AI应用于资本市场的风险、问题与挑战
IOSCO《AI报告》将AI应用中的风险、问题与挑战归纳为以下几类：
恶意使用风险：AI可能被滥用于发起网络攻击（包括针对AI系统本身的攻击）、实施金融欺诈、进行电信诈骗、传播虚假信息（misinformation）、操纵市场以及生成深度伪造内容（deepfakes）等恶意行为，从而对投资者保护和市场健康构成重大威胁。
AI模型与数据相关风险：与AI模型的可解释性（explainability and interpretability）、模型偏差（model bias）、复杂性（complexity）、稳健性（robustness）、幻觉效应（hallucinations）、利益冲突（conflicts of interest）、数据质量/时效性（data quality/age）、数据漂移（data drift）及数据偏见（data bias）等因素相关的风险，可能导致输出结果失准或偏倚。
集中性、外包及第三方依赖风险：过度依赖少数几家未受金融监管的技术服务提供商、数据聚合商以及人工智能模型供应商，可能引发市场集中性风险以及对第三方的过度依赖问题。
人机交互风险：因缺乏明确的责任追溯机制、监管力度不足、AI相关人才短缺及对AI系统过度依赖所带来的风险，可能导致监管合规性缺失并损害投资者利益。
04 金融机构如何应对AI应用于资本市场的相关风险与挑战？
根据 IOSCO 的报告，相关行业实践正在不断发展，部分金融机构将AI纳入既有风险管理与治理框架，而另一些则针对AI特性构建了更具针对性的定制化应对机制。
总体而言，金融服务行业的大型机构倾向于构建一套涵盖以下核心原则的风险管理与治理框架，以此为其内部AI战略、流程管理、技术引进及风险控制提供有力支撑：
透明度原则：AI系统的设计应力求简明易懂。金融机构应向用户及客户充分披露其在金融产品及服务中使用AI技术的相关信息，确保信息的准确性和完整性。
可靠性、稳健性和韧性原则：AI系统应具备持续稳定、可靠运行的能力，并能始终按照预期发挥作用。
投资者和市场保护原则：在金融服务领域应用AI系统，必须严格遵守现行的与投资者和市场保护相关的法律法规框架。
公平性原则： AI 系统的应用不得产生任何形式的不公平偏见或歧视性结果。
安全与隐私原则：金融机构必须采取充分的技术与管理措施，以保障AI系统所使用数据的质量与来源可靠性，并切实加强对用户隐私及网络安全的保护。
问责制原则：金融机构应明确界定其在使用AI技术过程中的角色与责任，这包括AI系统的风险管理与治理责任，以及对AI系统运行影响和潜在错误的责任追究机制。
风险管理和治理原则：金融机构应建立健全有效的机制，制定全面的AI技术应用策略，提供必要的培训，并对AI应用的开发、部署、使用和持续监控实施有效监督。
人工监督原则：AI应定位为辅助人类进行决策和判断的工具，而非取代人类。IOSCO在报告中特别强调，将AI代理引入金融产品及服务中，会显著增加监管的复杂性，并可能放大潜在风险，因为AI代理可能在极少甚至无人干预的情况下自主运行。
05 IOSCO 成员如何应对AI应用于资本市场的相关风险与挑战？
根据 IOSCO 报告，IOSCO成员（即各司法管辖区的证券监管机构）主要通过以下方式管理金融服务领域的人工智能应用：采用现有的监管框架、秉持技术中立原则、制定专门的法律法规或构建定制化的人工智能监管框架。一些成员已发布AI应用的指导性意见，内容涵盖合规性、治理、风险管理、数据保护、算法偏见、透明度及AI伦理等多个维度。大部分成员还积极通过调研、专题研究、实地考察、设立创新中心、组织圆桌会议等多种形式，与市场参与者保持密切互动，以深入了解并有效应对AI技术可能带来的各类风险。
部分IOSCO成员还积极寻求与国内外监管机构的合作，合作对象包括中央银行、隐私与数据保护机构以及其他金融监管部门。与此同时，另有部分成员选择设立专门的工作团队，将审查工作列为优先事项，并针对市场参与者涉及AI技术应用的不当行为采取了相应的执法行动。值得注意的是，为警示公众防范与人工智能相关的欺诈风险，相当数量的IOSCO成员通过发布投资者警示信息和投资者教育材料等方式，积极向投资者提示风险。
IOSCO 的后续计划
根据报告的调查结果，IOSCO将考虑制定更多政策工具、监管建议及考量因素，以协助成员应对AI应用于金融产品及服务中的风险与挑战。
IOSCO将继续在金融服务领域的AI发展中发挥协调作用，并与FSB等国际组织保持合作。
同时，IOSCO将聚焦若干重点领域，包括提升投资者对AI相关投资欺诈的识别能力、加强AI风险的信息共享与合作、完善AI技术监管框架，以及支持成员落实现有IOSCO标准与指导。
本文作者
费思
合伙人
香港办公室
andrew.fei@hk.kwm.com
业务领域：银行及融资、结构衍产品和衍生品、债务资本市场、金融监管及金融科技
费思律师在结构性融资、金融衍生品、银团贷款、资本市场、资产证券化和金融监管等领域拥有十几年的执业经验。费律师经常就创新结构性融资交易、跨境衍生品交易、终止净额结算和履约保障安排、银团贷款、巴塞尔III监管资本工具、证券融资交易和金融监管等事宜为大型金融机构及企业客户提供法律服务。费律师拥有哈佛法学院的法学硕士学位以及英国剑桥大学的法学学士和硕士学位。费律师在香港大学法学院教授《银行法》课程。工作语言为中文和英文。
感谢黄诗宸对本文作出的贡献。
转载声明：好文共赏，如需转载，请直接在公众号后台或下方留言区留言获取授权。
封面图源：问题少年002·杜飞辰
声明：本文来自金杜研究院，版权归作者所有。文章内容仅代表作者独立观点，不代表安全内参立场，转载目的在于传递更多信息。如有侵权，请联系 anquanneican@163.com。
