作者
中国邮政储蓄银行软件研发中心副总经理 陈倩倩
随着生成式人工智能技术的迅猛发展，基于人工智能大语言模型（以下简称“大模型”）的应用正深刻改变银行业金融服务形态。在此背景下，邮储银行积极布局人工智能技术，将其全面融入金融服务全流程，构建覆盖前、中、后台全链路的AI应用体系，推动金融服务向全程、全域、全时的数字化与智能化方向升级。
为统筹推进大模型的落地应用，邮储银行成立了企业级人工智能工作组，搭建了智能体开发、AI算力管理等基础平台，围绕大模型应用能力和业务领域两大核心维度，推进人工智能业务能力全景视图的构建与实施。同时，遵循“统筹规划、分类实施”的原则，邮储银行从赋能基层发展、助力精准营销、提高风控质效、增强运营能力、优化客户体验、提升工作效率等六大价值维度出发，积极探索新型业务模式。截至目前，邮储银行已整合230余项应用场景开展大模型的应用建设，覆盖全行各业务条线。
在积极推进人工智能技术应用的同时，邮储银行也清醒地认识到，生成式人工智能在带来显著效益的同时，也伴随着数据安全、模型算法安全、供应链安全与内容安全等多种新型风险。为系统防范相关风险，并落实国家在人工智能领域的监管要求，邮储银行结合自身实践，构建了覆盖人工智能应用全生命周期的安全管理体系。
一、商业银行人工智能应用安全风险分析
商业银行在利用大模型降低运营成本、提升客户体验的同时，主要面临以下四类新型安全风险，需要重点加以防范。
1.数据安全风险
高质量的业务数据是人工智能应用开发的基础。在大模型应用开发的全生命周期中，数据采集、存储、使用、传输等环节可能因合规性不足、防护措施缺失或恶意操作，导致数据泄露、篡改或滥用。具体风险包括训练数据投毒、个人隐私数据泄露、系统提示词泄露以及训练数据中存在的偏见等问题。
2.模型算法安全风险
模型算法本身的设计缺陷、训练数据偏差或遭受外部恶意攻击，可能导致模型产生不可控的输出，甚至被操控以执行系统指令、获取系统控制权限。此类风险具体包括提示词注入、越狱攻击、拒绝服务攻击以及大模型“幻觉”等。
3.供应链安全风险
在将大模型集成至传统应用系统的过程中，开发、部署、运维环节的防护不足可能引发风险。同时，大模型所依赖的开发框架、组件若存在安全漏洞，也可能导致应用功能异常或服务中断。具体风险包括机器学习框架漏洞、开发工具链安全风险以及第三方插件安全隐患等。
4.内容安全风险
恶意用户可以通过特定话术诱导大模型生成或传播有害信息，甚至利用其制作虚假内容。此类行为可能破坏公序良俗、侵犯客户权益，从而引起客户投诉或引发舆情风险，损害企业声誉。具体风险包括诱导生成涉黄、涉恐、带有偏见歧视或违反法规等不良内容。
二、人工智能应用的
监管合规要求
为应对基于大模型应用引发的安全风险，近年来国家层面已逐步构建覆盖人工智能领域的基础法律法规与监管政策框架。通过出台人工智能政策文件，并配套制定相关规章，从数据和模型算法两大核心维度为产业健康发展提供法治保障，同时也为商业银行的大模型开发与应用提供了明确的合规指引。
1.数据安全合规层面
国家相继颁布《中华人民共和国网络安全法》《中华人民共和国数据安全法》《中华人民共和国个人信息保护法》，构建了数据领域的全方位监管、治理与保护体系。随后出台的《网络数据安全管理条例》进一步以行政法规形式，对大模型训练数据的采集、使用与管理要求作出细化规定，从源头上规范了训练数据的获取、清洗与使用过程，明确了数据合规的具体边界。
2.模型算法合规层面
2023年，国家网信办联合多部门发布《生成式人工智能服务管理暂行办法》，旨在促进生成式人工智能健康发展和规范应用，保障公民合法权益，同时明确了大模型算法的备案和登记要求。商业银行在进行大模型应用开发的过程中，应严格遵守相关法律法规，确保模型算法合规、运营流程可控。
三、邮储银行人工智能应用
开发安全管理实践
针对大模型存在的安全风险与法律合规要求，邮储银行以制度规范、流程管控与工具支撑为核心，构建了人工智能应用开发安全管理体系。该体系贯穿模型引入、数据工程、安全评估、部署运营等关键环节，全面强化安全可控能力，有效防范各类安全风险，为大模型技术在商业银行的规模化应用提供了坚实的安全保障。
1.建立人工智能应用全生命周期制度规范
邮储银行制定了大模型全生命周期管理制度，明确了技术部门和业务部门在模型引入、开发、测试、投产及退出各环节的职责分工；出台了大模型内容安全评估制度，由业务需求部门与系统建设部门联合开展内容安全评估，并设定了明确的内容安全准出标准，以确保大模型内容全面符合监管要求。
2.实施人工智能应用开发全流程安全管控
邮储银行围绕“模型引入—数据工程—智能体开发—安全评估—投产运营”这一核心链路，系统性嵌入安全管控策略。通过应用微调安全大模型、自研大模型安全围栏组件、搭建大模型智能安全检测工具，并构建“人机协同”的创新运营模式、开展大模型专项红蓝对抗演练，确保大模型应用服务达到“安全、可信、合规”的目标。各阶段具体管控策略如下。
（1）模型引入阶段
邮储银行构建了覆盖源头治理、开发管控与合规保障的大模型应用服务开发安全管控体系，通过规范模型准入流程、开展安全评估，并将安全需求嵌入业务场景的风险定级标准，从源头防范了潜在风险。
（2）训练数据管理阶段
为应对数据可能面临的违规获取、质量低下、包含不良信息等风险，邮储银行从合规获取、规范标注、安全检测、价值对齐四个方面实施强化保护，以构筑坚实可靠的数据底座。
（3）智能体开发阶段
邮储银行遵循“默认不可信、最小权限、分层防护”的安全原则，整合五大技术手段，构建了智能体的纵深安全防护体系。
一是构建自主可控的技术栈安全底座。通过自研大模型安全围栏组件、搭建自主可控GPU算力平台，并引入经过监管备案的基座大模型等一系列举措，从技术源头确保其符合社会主义核心价值观。
二是建立精准高效的内容安全防御机制。一方面，通过构建的敏感词库，快速匹配及识别涉暴、涉黄等敏感内容；另一方面，基于从提示词注入、越狱攻击等行为中提取的特征数据制定正则表达式规则，以实现对此类攻击的精准拦截。相关过滤组件以标准化SDK接口方式对外提供服务，并具备词库与拒绝回答模板的实时更新能力，从而形成对新兴安全威胁的动态防御。
三是构建业务大模型与安全大模型并行的双智能体架构，在确保业务效果与安全可控之间实现有效平衡。该架构采用异步处理模式，将与用户的对话内容同步分发至两类智能体，有效缩短链路响应时延，从而形成高效的智能交互机制。同时，该架构支持动态调整内容风险阈值，可灵活适配不同业务场景下的安全等级要求。
四是在前期大模型安全对抗攻击演练的基础上，构建融合“安全提示词模板+语义引导约束+深度优化”的协同防护机制。在语义引导与约束层，借助安全提示词优化器整合业务提示词与安全提示词模板，解析金融业务意图并注入安全约束条件，从而生成安全增强提示词，以有效应对提示词注入等模型算法攻击（如图1所示）；在深度优化层，依托专业金融业务测试集对防护效果进行量化验证与持续迭代，以平衡业务适配性与模型安全性。
图1 安全提示词优化器工作流程
五是通过安全大模型微调，在提升安全检测准确性的同时，降低响应时延和算力资源消耗。实践中，邮储银行严格对标《生成式人工智能服务安全基本要求》，构建涵盖内容安全、偏见歧视与模型攻击等类型的10万余条负向样本数据集，并同步整合业务数据集用于安全大模型微调，以有效区分正常业务数据和非安全数据；随后，进一步对非安全数据进行二级标签分类与安全风险分级，从而提升模型对违规内容的识别精度。在数据预处理阶段，通过格式规整、去重、核对筛选与打标等操作提升数据质量，并将数据按8:1:1的比例划分为训练集、测试集和验证数据集，以降低计算成本与过拟合风险。在此基础上，邮储银行采用监督微调（SFT）方法对模型实施全参数微调（如图2所示）。目前，安全大模型的拦截准确率已达99%，误拦截率为0.4%，完全满足安全准出要求。
图2 微调数据集构建流程
（4）模型安全测试评估阶段
邮储银行构建了面向商业银行金融业务场景的全链路自动化安全测评体系，使安全测评从传统“分散用例、人工抽检”的单次检验模式全面升级为系统性、自动化测评。该体系以金融业务领域的重点风险为导向，构建了安全测试数据集，支持测试任务编排与多轮触发、批量测试用例统一执行与适配，并引入自研裁判大模型辅助结果判定，实现了大模型安全测试的闭环管理。
与传统应用安全测试方法相比，全链路自动化安全测评体系解决了测试覆盖范围有限、执行效率不高、用例更新滞后等问题。一方面，通过构建金融业务场景化题库与多轮会话的测试用例，拓展了测试覆盖的深度；另一方面，依托统一执行与自动判定机制，生成可追踪的大模型安全表现评估结果，并能够将线上新出现的大模型安全攻击情报快速吸纳至安全测试体系内循环。此外，该体系还能够对大模型开发框架组件进行开源软件安全漏洞扫描，防止引入高危安全漏洞，从而保障供应链安全；同步开展数据安全测试，防止系统提示词等敏感数据泄露，全面降低数据安全风险。
（5）人工智能部署与运营阶段
邮储银行根据人工智能应用的业务场景、网络部署位置、面向客户规模等因素，实施分类分级管理，并匹配覆盖全流程的基础风险拦截与深度恶意内容抑制策略。通过引入安全大模型，增强对敏感内容及其变体的识别与泛化能力，并具备支持热更新与用户反馈即时修正的能力。同时，结合监管要求与外部舆情动态，持续更新敏感信息库。此外，邮储银行常态化开展AI安全红蓝对抗演练，依据漏洞攻击数据不断优化安全防护特征数据集，并微调安全大模型参数，从而构建检测、反馈与优化的闭环管理机制。
3.打造人机协同的运营模式
邮储银行依托智能化技术构建了覆盖“业务运营—人员监看—应急保障”的人机协同运营机制，有效提高了内容安全运营效率。该机制结合AI自动化处理与人工监看，实现业务合规性审核、实时预警及应急处置的高效协同；此外，引入应用自动化批量测试工具与裁判大模型，进一步降低了人工测试与判定的工作量，使人力投入减少60%以上。
四、实践成效与总结
综上所述，邮储银行以人工智能应用的“安全、可控、合规”为核心目标，构建了一套从顶层设计到落地实施的人工智能应用开发安全管理体系。该体系围绕业务场景构建风险图谱与案例库，将制度与流程贯穿于人工智能应用开发的全生命周期。依托五维测试与自动化评估，支撑应用的准入与回归验证；通过常态化监测与专项安全演练，形成持续优化的闭环管理机制，最终实现大模型安全能力的工程化落地。目前，邮储银行人工智能应用开发安全管理体系已在全行多个领域稳步推行，有效支撑了智能客户服务、云柜数字员工等多渠道应用场景。在推广过程中，配套的管理机制与运营体系也不断完善，有力控制了大模型应用的安全风险，为关键业务的稳健开展提供了可靠保障。
邮储银行构建的“顶层框架清晰、开发管控到位、工具能力支撑、验证机制完备、运营管理闭环”的人工智能应用管控模式，不仅助力邮储银行以人工智能加速数字化转型，推动数字金融业务高质量发展，也为商业银行大模型技术的规模化落地提供了可借鉴的实践经验。
本文刊于《中国金融电脑》2026年第1期
声明：本文来自中国金融电脑，版权归作者所有。文章内容仅代表作者独立观点，不代表安全内参立场，转载目的在于传递更多信息。如有侵权，请联系 anquanneican@163.com。
