文/中国银行软件中心人工智能安全课题组
立足“十五五”发展阶段，随着国家“人工智能+”行动在金融领域纵深推进，金融人工智能应用加速从战略性布局向规模化落地转变。数据作为大模型能力生成的核心要素，直接决定模型训练与研判效果。金融行业大模型具有更加严格的真实性、合规性及可追溯性要求，数据安全和数据质量已成为保障金融领域数字化向数智化转型稳健推进的关键因素。数据投毒、语料污染、虚假信源注入作为针对人工智能技术的新型攻击手段，对金融数智化稳健运行构成了严重威胁，也对金融行业构建完善的数据风险防控体系、筑牢人工智能安全治理屏障提出了迫切要求。
辨势 ：新型数据风险挑战
数据投毒等新型攻击利用了大模型数据驱动的行为特性，通过污染、篡改、偏差植入等方式破坏训练数据的完整性、准确性和真实性。随着人工智能技术深度嵌入金融领域，在推动业务效率和综合效能同步提升的同时，也带来了新型数据风险，在信贷、投资、风控等关键业务场景下，风险特征尤为凸显。
一是导致信贷决策失误。传统信贷业务通过定期评估客户信用状况，及时发现并对潜在风险采取应对举措。人工智能的引入推动金融机构快速建立信贷预测模型，通过大量业务数据帮助机构做出更加准确的信贷决策。一旦黑灰产在数据中注入污染样本，将引导模型的信贷决策失误，包括将高风险客户识别为优质客户、无法准确识别违约客户等，导致后续无法准确做出调整担保措施、收紧信贷供给等决策。
二是误导市场行为分析和量化交易。人工智能在金融领域能够用于投资数据的提取分析和研究，进而研判市场变化趋势。特别是在量化交易中，加快海量数据多维评价、策略制定的量化过程，使市场分析更加高效。一旦数据集被污染，模型可能将污染样本当作高信息量数据，最终导致少量污染样本也能致使市场行为模型分析出现偏差，造成行情判断失误，引发投资决策失误。
三是影响风险管理。风险管理的预测结果可以帮助金融从业人员借助数据了解机构现状、识别风险、评估影响，为控制风险和未来规划提供有效信息。当前，金融领域广泛运用智能化技术，形成灵活性更强、精度更高的风控模型。当风控分析数据被恶意篡改，可能引发模型判断失误，例如在反洗钱、反欺诈场景中，样本标签被篡改后会扭曲模型研判结论，致使系统难以及时发现机构内部的高风险问题。
此外，数据投毒、语料污染、虚假信源注入等新型数据风险在金融领域的业务破坏性、风险传导路径等方面具备典型的行业特征，做好数据风险防控成为当前时期守住金融安全底线的首要课题。
一是以经济利益为核心目标。攻击者通过数据投毒等诱导模型做出错误决策，实现违规获批信贷、操纵市场研判、规避风控审核等目的，直接获取资金收益。
二是具有较强的杠杆效应。攻击者投放少量污染数据，能够引发模型逻辑偏差，攻击成本低廉且具有较强隐蔽性，实现杠杆式破坏效果。
三是呈现风险连锁扩散趋势。金融行业面临更加审慎的监管合规限制，数据投毒等易造成模型风险、操作风险、资金风险、监管风险、声誉风险的逐级传导。
强基：构建“四横一纵”风险防控体系
1.锚定闭环治理思路，提升纵深防御能力
面对新挑战，中国银行加快推动自主可控、安全高效的人工智能建设。制定《“人工智能+”建设规划》，围绕“搭平台、汇数据、促应用、防风险、建机制”的工作思路开展大模型平台建设，以10余款主流大模型共同构建模型矩阵。以发展与安全为目标导向，统筹规划人工智能的建设应用与风险防控，将人工智能的风险防控与集团全面风险管理框架相融合、数据安全管理与整体数据安全治理框架深度融合。面对未来金融领域面临的长期且隐蔽的新型数据风险，依靠单一的数据治理技术手段难以有效处置各类业务场景下复杂多样的数据污染问题。因此，未来数据风险防控的要点首先在“防”，其次在“控”。依照“事前管控+事中处置+事后复盘”的闭环管理思路，打造“以防为先、防控兼备”的“四横一纵”数据风险防控体系。
“四横”：搭建统一数据管理平台，厘清数据来源谱系，落实机构统一分级分类归口管理，标准化数据处理工具链，完成清洗、去重、隔离、质量评估，从源头治理，降低外部恶意、违规、失真样本混入训练集的可能性；通过网络隔离、权限管控、操作审批、行为审计、异常熔断机制，夯实大模型系统防护，保障承载数据的大模型环境安全；部署大模型安全护栏，实现“关键词过滤+语义模型”双重校验，实时防护守住线上检索关口，推动“内部评估+外部测评”相结合，有效识别大模型平台安全、应用安全和数据安全风险隐患并加固；构建风险监控、应急处置、改进提升的动态优化链路，驱动大模型数据风险防控能力持续进化。
“一纵”：融合应用集团金融数据安全治理体系框架，健全权责清晰的人工智能风险防控职责体系，推动人工智能数据安全与现有数据分类分级、数据字典、数据入湖等制度的统筹衔接。
2.夯实“四横一纵”防控体系，筑牢模型安全风控底座
以法律法规、监管要求及制度规范为合规依据，基于集团数据安全治理体系的基础框架，形成源头治本、架构管控、实时防护、迭代优化的数据风险防控体系。
依托一体化数据安全治理体系框架，夯实模型数据根基。人工智能数据安全基于集团六个“一”数据安全治理体系，形成集团统一治理组织架构、集团一套数据安全管理体系、集团统一数据安全技术体系、集团统一数据确权标准、集团一体化运营体系及集团一套数据安全指标体系。
强化统一治理组织架构，建立集团统筹引领，数据管理部门、业务条线部门、金融科技部门协同防控的组织架构，明确人工智能主管方、建设方、使用方三类角色的权责边界；深化数据安全管理要求，制定大模型应用数据管理规范，明确数据在大模型应用中的使用机制，建立大模型的数据安全业务评估审查，形成授权程序，大模型应用的数据范围为业务必需的最小范围和最小数量；完善数据安全技术体系，明确大模型应用的安全技术措施和技术标准，实施大模型数据安全的技术评估审查机制 ；细化数据确权标准，明确对人工智能内容标识、大模型数据使用授权、企业级数据字典登记和数据入湖的管理要求；完善一体化运营体系，将模型风险监测纳入企业整体安全运营体系，全面排查模型管理、生成式人工智能内容等方面的合规情况；优化数据安全指标体系，遵循国家、监管层面最新的人工智能安全规定，更新行内应用系统开发数据安全指标体系，将人工智能安全要求纳入应用安全约束，采取有效的技术管控措施，推动人工智能领域数据安全指标场景化、平台化、规范化。
深耕数据源头治理，严控样本准入关口。加强源文件、全量数据集管理，规范集团统一数据获取渠道，严格管控人工智能使用的数据源，训练应使用安全级别2级及以下数据，禁止客户身份证号、手机号、银行卡号等敏感信息用于模型训练，如需使用数据湖以外的数据如商用或开源外部数据集，应按照数据管理要求事先完成数据字典登记和数据入湖。支持多格式语料智能处理，统一多源数据归口规范，实现各业务场景下语料的多样性与复杂性的有效应对。实现数据采集溯源，对模型训练数据的来源进行记录、追踪，开展合规性审查，建立分级分类管理与多标签标识体系，进一步明确敏感等级和访问权限。通过源头准入校验识别失真样本，降低外部恶意、违规数据混入训练集的可能性，从上游前置防控数据源污染及隐性偏差投毒。研发覆盖数据清洗、去重、脱敏、质量评估的全流程自动化工具链，采用“规则评估+模型评估”双重校验机制实现质量评估，精准检查和剔除低质量数据，帮助模型纠偏。规范数据标注管理流程，对训练数据进行规范标注处理，去除噪声数据和无效信息，提高模型训练的准确性和效率。开展数据标注质量评估，抽样核验标注内容的准确性。设置经办、复核两级审核机制，审核通过后才能使用数据。实行业务数据空间隔离，不同业务场景数据互不交叉混用，规避数据集之间相互污染，避免偏差样本跨数据集扩散。通过引入对抗样本进行训练，提高模型对抗攻击的鲁棒性和安全性。
强化架构底层防护，稳固模型运行基础。构筑模型底层隔离屏障，阻断攻击者植入恶意信息的基础通路，稳固金融大模型运行基础设施安全。严格执行模型端口管控，大模型服务端口禁止直连公网，配套四项刚性管控措施。
落实权限最小化原则，模型组件仅开放业务必需的最小资源集合，缩小攻击面，防范攻击者利用权限漏洞后门植入污染数据；设置高风险操作人工确认机制，涉及资金处置、批量数据修改等高敏感操作，必须经过人工审批，抵御定向标签篡改类投毒引发的风控问题；实施全链路行为监控审计，对每一步决策和执行进行记录审计，实现投毒攻击行为可追溯；启用异常熔断机制，当模型行为、输出结果显著偏离业务预期，自动终止任务并触发安全告警，遏制新型数据风险持续扩散。
筑牢模型实时防线，强化动态安全检验。设置模型运行阶段的动态防护防线，部署大模型安全护栏作为防护载体，在大模型输入侧设置多重防护机制，实现对用户提示词、RAG检索知识库返回文本等内容的动态检测。构建基于关键词、知识库及语义模型三重验证的安全围栏：关键词过滤作为第一道防线，确保低时延拦截已知风险；基于知识库的检测和拦截作为第二道防线，积累风险问答形成标准化处置能力；语义模型作为第三道防线，覆盖变体攻击和未知攻击。三道防线独立运行、互为备份，内容需同时通过才允许放行。实施提示词增强技术，对原始输入进行预处理和意图澄清，提升防御虚假信息注入、隐形偏差攻击的能力。构建覆盖安全可控全维度的大模型测评体系，建立“引入前后安全评估+外部专项安全测评”双重验证模式，将数据投毒风险、模型后门检测纳入模型准入刚性约束。在模型引入前后开展内部自动化安全评估，依托ChineseSafetyQA基准数据集，识别偏见歧视、违法违规等安全风险；引入外部独立安全测评，重点开展数据风险防御能力、应用安全专项检测等，依托外部独立视角突破内部评估盲区，识别越权、隐蔽后门等难以自发识别的风险，为安全能力评估及改进提供客观依据。
打通迭代优化链路，健全长效闭环改进机制。建立运营数据监控机制，记录用户提问、AI回答、召回上下文和人工标记，构建AI应用业务度量基础，满足监管可追溯要求。关键指标覆盖采纳率、拒绝率、错误率趋势、偏差率分析、响应时延分布及用户满意度等，错误标记后启动“根因分析—优化方案—验证—更新”的调优程序。提升人工智能安全事件的应急响应能力，持续优化应急组织协同、事件处置流程及风险应对措施，每年开展安全事件应急处置演练。持续积累错误案例库，识别样本偏差、知识库缺失及模型安全能力不足等问题。打通大模型运行监控、应急处置、能力提升的动态迭代链路，持续补足模型数据风险防护能力。
稳行：赋能数智业务安全提质
中国银行依托“四横一纵”数据风险防控体系，建立模型数据风险防控公共机制，利用技术手段和工具筑牢模型安全防线，坚持模型与外网隔离、敏感数据不进入模型、数据不出行等管控原则，建立输入输出侧多层护栏，拦截威胁信息、防范提示词注入风险，双重保障内容安全和交互安全，在保障业务模型安全合规使用数据的同时，实现风险数据挡在外、业务数据守在内，筑牢数据输入与输出的双向安全屏障。加强业务部门、数据部门与技术部门的协同管控，明确各业务场景人工智能的功能定位、风险等级和管控举措，开展高风险业务、敏感数据场景的业务评估，在关键业务环节等建立强制性人工审核机制，确保机构对关键业务的把控和决策。当前，中国银行数据风险防控体系的持续构建，助力了模型安全稳妥应用于风控、个金、渠运、客服、办公、海外、公司、研发、运维、审计、数据等多个赛道、业务子领域及业务场景。
一是助力关键业务提质增效。针对智能信贷审批等高度敏感的信贷数据处理、贸易单证等含企业敏感信息文件处置的场景，实施“大模型技术安全审核+高风险操作业务人工确认”双重管控举措，在提升运营质效的同时，确保关键业务敏感数据的全生命周期安全防护。
二是助力面客场景可靠交互。在智能客服等面客场景下实施更加严格的安全管控措施，完全限定辅助问答范围，模型输出均须经人工确认后才可向客户传达，内容护栏对每次输出进行实时检测，确保交互信息安全可信。
三是助力创新场景可控推广。各分行主动把握人工智能发展机遇，创新场景贯彻“先内后外”推广策略，推动AI赋能业务创新实践试点。如上海“惠Chat”助力客户经理处理时效大幅提升，北京“智能问数”将数据分析时效缩减至秒级，深圳“个贷预审”推动审批周期减半。AI应用贯彻权限最小化管控原则，收敛越权访问风险敞口，从源头防范敏感数据泄露与不当调用。
未来，中国银行将坚守安全合规底线，紧跟国家“十五五”人工智能安全治理战略部署要求，平衡金融人工智能创新发展与安全，推动安全能力深度融入全行数智化转型全过程。持续构建数据风险防线，净化大模型数据基础，以优质合规的数据驱动金融大模型效能释放，构建安全、可信、合规的金融大模型应用范式，助力行业人工智能行稳致远、规范发展。
（此文刊发于《金融电子化》2026年9月上半月刊）
声明：本文来自金融电子化，版权归作者所有。文章内容仅代表作者独立观点，不代表安全内参立场，转载目的在于传递更多信息。如有侵权，请联系 anquanneican@163.com。
