文 | 上海银行副行长 胡德斌
在人工智能技术浪潮下，智能应用已深度嵌入银行业务核心，如智能客服、信贷风控、反欺诈等。银行通过加速“引智”以提升效率、降低成本，但其发展也被安全韧性的不足所制约。智能应用同时带来了众多新型风险，如模型偏见、数据泄露、算法黑箱等，这些风险呈现出跨数据、跨模型、跨系统、跨业务的特点，而且会多链扩散。创新速度与安全强度的节奏错配，使传统边界防御体系难以有效保障业务连续。在此背景下，聚焦“智能应用—安全韧性”的协同机制，探讨如何在全生命周期内嵌入动态平衡能力，通过战略、制度、技术、生态四维驱动，实现主动防御与合规治理，为银行在数字时代的稳健创新运营提供可复制的路径。
一、核心概念界定与逻辑耦合关系
银行业智能化应用与安全韧性密切关联，为了更好地理解两者之间的关系，需要回到概念原点并阐述它们之间的逻辑关系。
智能应用是银行业把人工智能技术（如机器学习、自然语言分析、大模型等）和金融场景融合后形成的智能化软件、工具和服务模式，包含智能客服、信贷风控、反欺诈等前中后台的各个场景，是人工智能技术落地的业务表现形式。安全韧性是指银行在遭遇智能应用风险时，能够及时发现隐患、遏制扩散、保障业务连续、迭代安全体系的能力，其本质是风险防控和业务持续性的动态平衡能力，是智能时代的安全核心理念。
智能应用与安全韧性构成“一体两面”的协同统一体。智能应用是安全韧性的价值锚点，其发展带来了模型偏见、数据泄露等新型风险，这既对安全韧性提出了场景化的适配要求（如模型失效时业务的快速切换），也为韧性建设提供了真实的演练场（如智能支付中断后的应急响应）。安全韧性是智能应用的生存底座，它通过动态平衡“创新效率”与“风险防控”。一方面，构筑防线（如通过实时监测防止人工智能决策失误）；另一方面，保障业务在风险发生时持续运行（如通过灾备机制确保智能服务不中断），最终实现“技术驱动业务”与“韧性保障发展”的协同目标。
二、智能应用发展对安全韧性的挑战
随着智能技术打破传统业务壁垒，风险在数据、模型、系统、业务等多个层面相互传导、叠加放大，形成了跨领域、跨链条的复合型风险格局，对安全协同防御体系构成挑战。
（一）复合型风险跨链扩散，瓦解协同发展基础
智能技术的广泛应用打破了传统的业务边界，使风险呈现出跨领域、跨链条、高复合的新特征。风险在数据、模型、系统、业务等多个层面传递并不断放大。
在数据层面，存在采集不合规、数据投毒、数据泄露等问题，不仅侵犯用户隐私，还会导致模型“先天失真”。在模型层面，“算法黑箱”导致决策过程难以追溯，而数据污染与对抗样本攻击则可直接引发信贷误判、反欺诈失效等问题。在系统层面，由于与多方系统频繁交互，第三方组件的安全漏洞可迅速渗透至银行内部核心系统。在业务层面，自动化流程减少了人工干预环节，一旦智能模块发生异常，风险将沿业务链呈串联式扩散，波及支付、信贷等核心业务，最终陷入“识别不全面、防控不同步、处置不及时”的全局性困境。例如，智能风控模型若遭遇精心设计的对抗样本攻击，可在短时间内导致信贷通过率异常飙升，风险敞口迅速扩大，充分暴露出当前体系在应对复合型风险时的脆弱性。
（二）创新速度与安全强度失衡，引发协同发展冲突
市场的竞争压力促使银行追求“敏捷创新”，而安全韧性建设要求严谨、审慎的控制流程，二者在节奏上存在明显冲突。例如，为提升安全性，智能应用上线前通常需经历较长时间的安全测试、压力测试及隐私保护评估，但冗长的测试与评估流程也可能使银行错失市场机遇。这实质上反映了短期市场收益与长期安全价值之间的失衡，进而形成协同发展的内在冲突。
（三）传统安全体系适应性不足，支撑协同发展乏力
以边界防御和特征库匹配为核心的传统安全体系，在面对新型风险时已显不足，难以适应智能时代的安全挑战。这具体表现在：一是防护理念落后，侧重于防御“已知”威胁，对模型投毒、算法欺诈等“未知”攻击缺乏有效感知。二是管控范围较窄，主要覆盖网络、主机等IT基础设施层面，未能将模型全生命周期管理（如公平性、可解释性）及数据合规性等纳入系统化管控。三是响应能力滞后，以人工分析为主，在应对海量数据与隐蔽性强、速度快的攻击时，难以实现安全韧性所要求的“秒级”响应。
（四）合规治理体系滞后，制约协同发展效能
合规治理体系的滞后性已成为制约智能应用规模化落地的主要瓶颈。这具体表现为以下三点：一是监管政策制定进度落后于智能技术创新速度，透明度等方面缺乏统一标准，导致银行业在相关应用落地时缺乏明确的合规指引。二是合规评估难度大，传统评估方法难以对模型逻辑、算法参数等核心要素进行量化跟踪与有效评估。三是跨行业、跨境监管要求存在差异，数据本地化等规则在不同地区标准不一，部分领域监管要求尚不明确，使银行面临高昂的合规成本，甚至遭遇落地障碍。
三、智能应用与安全韧性的协同发展路径
为实现业务发展与安全保障的良性循环，必须从“理念、技术、效能、合规”等多个方面协同推进，形成体系化、有序化的发展路径。
（一）构建“创新—安全”共生机制，夯实协同发展理念基础
推进协同发展需树立“安全赋能业务创新、创新反哺安全”的双向思维，将安全韧性融入智能应用的全生命周期，实现从战略到执行的完整闭环。
在战略层面，应将智能安全纳入银行整体发展战略，明确安全与创新并重的定位。可成立由高层领导牵头的“智能安全战略委员会”，统筹协调战略、业务、技术、安全、合规等各条线，打破部门壁垒，制定三至五年智能安全发展规划，建立“创新提案—风险评估—安全适配—合规保障”的协同决策机制，确保智能应用项目在立项之初即嵌入韧性需求，实现“五同步”（同步规划、设计、实施、投产、运营）。
在文化建设层面，应培育全员智能安全意识，通过分层培训提升整体认知水平。业务人员需具备基础风险识别能力，技术人员应熟练运用安全开发工具，管理人员需理解风险成本与业务连续性之间的平衡逻辑。同时，可建立“安全贡献激励机制”，对主动上报漏洞、提出优化方案的团队和个人予以绩效奖励，形成积极的安全文化氛围。
在执行层面，应建立动态适应的安全管控模式，根据智能应用的场景属性与风险等级灵活调整管控强度。对高风险场景（如智能反欺诈）实施“多重审计”等严格管控措施；对中低风险场景（如智能客服）可采用自动化合规工具简化流程，在保障安全的前提下提升效率，实现安全与业务发展的动态平衡。
（二）打造全生命周期主动防御体系，强化协同发展技术支撑
为打破传统被动防御模式，应建立覆盖智能应用全生命周期的主动防御体系，着力提升风险的早期识别、精准遏制与业务连续保障能力。
一是在事前预防阶段，推动准入标准与应急预案同步实施。制定《智能应用安全韧性准入标准》，对数据脱敏率、模型对抗攻击抵御率、系统灾备切换时间等设定明确指标。在应用开发阶段，即嵌入“业务中断韧性预案”，例如，当智能客服系统故障时可自动切换至人工坐席与语音导航结合的降级模式。同时，强化供应链韧性管理，对第三方人工智能组件实行动态安全评级与漏洞追踪，要求供应商定期提供安全审计报告，并对核心组件采取双供应商备份策略。
二是在事中监测阶段，构建“智能应用安全韧性监测中枢”，汇聚数据、模型、系统、业务四类关键指标，形成统一风险视图。基于此建立“风险遏制自动化引擎”，实现轻、中、重度风险的分级自动响应。
三是在事后优化阶段，形成“安全事件—业务恢复—复盘优化”的闭环机制，每次安全事件均需开展跨部门复盘，从数据、模型、响应等维度深入溯源，形成“韧性优化清单”，推动系统持续提升防御能力。
（三）以人工智能技术赋能安全防护，提升协同发展运行效能
应实现“以智防智”，将人工智能技术转化为安全防护的核心能力。在风险识别环节，可开发“多模态风险感知模型”，综合利用机器学习与知识图谱等技术，对智能应用进行持续监测，并通过时序分析识别其异常行为。针对模型自身风险，可部署“人工智能对抗性检测工具”，模拟数据投毒、模型窃取等攻击方式，主动发现智能应用的韧性短板。例如，在检测到人脸识别模型对特定妆容误识率较高时，工具可自动生成扩充对应训练样本等优化建议。
在风险处置环节，应构建自动化应急响应系统，将监测数据、预警信息与应急预案深度融合，依托人工智能进行风险分析并自动生成处置方案，实现“告警—研判—处置”的全流程自动化。系统可动态调整安全策略，灵活应对风险变化。例如，当智能支付系统遭遇流量攻击时，可自动为高净值客户通道分配冗余带宽，并适度降低低频小额交易的响应优先级。同时，可搭建智能安全知识库，汇集威胁情报与典型案例，利用知识图谱建立关联关系，为处置决策提供智能支持。
（四）完善系统化合规治理框架，保障协同发展合规有序
构建“动态适应、跨域联动”的合规治理体系，为智能应用与安全韧性的协同发展提供制度保障。具体可从以下方面推进。
一是建立多层制度体系。顶层如制定《银行业智能应用安全韧性总体规范》，明确“数据安全、模型可靠、应用稳健、业务连续”四大目标；中层针对具体场景发布专项细则，例如《智能信贷系统韧性要求》中应明确“模型失效时的人工审批切换时限”“客户信息泄露后72小时应急响应流程”等量化指标；底层如编制《安全韧性操作手册》，清晰界定各环节责任部门（如科技部负责模型备份、运营部负责业务替代方案）、操作步骤（如灾备切换的12个关键节点）及考核标准（如年度业务中断时长不超过4小时），确保制度可执行、可落地。
二是建立动态评价调整机制。制定季度自评与年度第三方评估计划，依托智能合规监控平台实时采集数据，通过授权监测、模型决策跟踪等方式持续评估合规状态，设定预警阈值，对不合规事项自动推送整改通知。
三是设立合规政策联络小组，每周收集中国人民银行、国家金融监督管理总局等部门在智能应用、数据安全等领域的最新监管要求，如《生成式人工智能服务管理暂行办法》中涉及金融行业的细化规定，并在48小时内出具政策影响分析报告，确保制度能够及时响应监管动态。
四是加强内外协同联动。内部成立安全韧性联动工作组，由业务、技术、安全、合规等部门每月联合召开案例研讨会，对典型风险事件开展会商，形成协同应对合力。
四、迈向安全与创新共生的智能金融生态新征程
智能应用与安全韧性的多维协同发展，将推动金融体系在“三大维度”上持续演进，从而实现安全与业务的共生共荣。
（一）协同发展的三大方向深度演进
协同发展将向三大方向演进：一是协同范围从“内部协同”扩展至“生态协同”，突破机构边界构建“银行—监管—协会—科技公司—客户”体系，通过共建监管平台、共享威胁情报、联合研发方案等实现共治。二是技术应用从“局部智能化”升级为“全面智能化”，推动人工智能贯穿智能应用全生命周期，实现从开发合规审核、测试自动化，到运行实时防控、退出风险评估的全流程智能防护。三是体系建设从“分散化”走向“体系化”，构建“战略—制度—技术—生态”四维支撑的智能安全系统，形成高效运转的安全能力。
（二）安全与创新共生共荣的价值实现
未来的智能金融生态中，智能应用将催生出更普惠、更精准的创新服务。智能终端、智能信贷等技术的深化应用，能够有效解决偏远地区客户服务覆盖、小微企业融资支持等现实难题，并为绿色金融等领域的精准风控提供支撑。在这一过程中，安全韧性将成为创新的重要保障，通过系统化的风险控制与稳定的运行体系，赢得用户与市场的信任。
共生共荣的生态离不开多方协同。监管明确规则、协会搭建平台、科技提供赋能、客户参与监督，共同推动智能金融在安全基础上的持续创新。银行业在这一进程中积累的实践经验，可为其他行业的数字化转型提供有益参考，进而助力筑牢国家数字经济的整体安全屏障。
（本文刊登于《中国信息安全》杂志2025年第12期）
声明：本文来自中国信息安全，版权归作者所有。文章内容仅代表作者独立观点，不代表安全内参立场，转载目的在于传递更多信息。如有侵权，请联系 anquanneican@163.com。
