作者

中国邮政储蓄银行数据管理部 丰瑾 王蒙 许睿 石金泽 李朝辉

数据血缘溯源是银行数据治理与风险管控体系中的基础性能力,支撑监管报送、数据质量管控等关键场景。在复杂业务环境下,若缺乏清晰、稳定的数据结果与可复核的加工链路,技术排查高效性与业务决策及时性将大打折扣,难以支撑金融机构合规经营与精细化管理的核心诉求。因此,数据血缘溯源能力不仅是辅助数据管理的有效抓手,更是保障数据资产可用性与合规性的底层技术支撑。

本文从金融数据场景下的字段级血缘溯源需求出发,分析传统血缘溯源模式存在的应用痛点,介绍邮储银行探索构建的基于大模型的智能数据血缘溯源技术体系,阐述该技术体系在解析能力、工程化支撑、图谱建模等方面的实践路径,并总结其落地后的应用价值与成效。

一、传统数据血缘溯源模式的

应用挑战

在银行业数字化转型持续纵深推进的背景下,数据开发日益复杂化,传统数据血缘溯源模式正面临系统性挑战。

一方面,银行内部长期并行运行多种数据库与计算引擎,不同SQL方言的语法差异、开发人员的个性化书写习惯,以及系统历史遗留规范等因素相互叠加,导致同一业务逻辑在脚本层面呈现出高度的差异化,数据血缘关系在形式与语义之间出现明显错位。依赖规则枚举或模板匹配的解析方式难以形成统一适配能力,数据血缘溯源在覆盖广度与一致性方面受到根本性制约。

另一方面,随着业务加工逻辑复杂度的不断提升,数据依赖关系已不再局限于直观的字段传递,而是深度嵌入多层嵌套查询、多分支条件判断及多维派生计算之中,要求数据血缘溯源具备对数据生成逻辑细颗粒度拆解与链路还原的能力。当前主流技术方案虽已具备脚本级或表级血缘关系的解析能力,但在复杂加工场景下,对数据依赖边界与影响路径的识别仍缺乏稳定性,溯源结果在字段级血缘解析方面存在明显不足。

此外,生产环境中超长脚本、高复杂度业务规则及批量任务并行运行的常态化,对数据血缘溯源过程中的结果一致性、运行稳定性、校验可靠性提出了更高要求。若过度依赖人工干预或静态规则进行解析,不仅难以支撑规模化运行,还容易引入结果偏差与维护风险。上述多重现实挑战,共同构成了银行业数据血缘溯源在落地过程中亟待突破的关键技术瓶颈,也为探索具备复杂语义理解能力的新型解析范式提供了明确要求。

二、邮储银行基于大模型驱动的

智能数据血缘溯源技术体系

立足银行业数字化转型对数据治理提质增效的战略诉求,针对上述关键痛点,笔者团队以大模型为核心引擎,创新构建了具备高泛化能力的智能数据血缘溯源技术体系,系统性提升复杂SQL场景下数据血缘溯源的自动化赋能水平与工程化落地效能。该技术体系在现有元数据管理与数据资产治理的坚实基础上,聚焦数据血缘溯源领域,打造智能化解决方案,进一步拓展数据治理的深度与广度,实现数据血缘溯源从“依赖人工介入的规则主导模式”向“依托智能推理的模型驱动模式”迭代升级,为银行合规管控、数据资产价值释放及精细化治理提供强有力的技术支撑。智能数据血缘溯源技术体系运行流程如图1所示。

图1 智能数据血缘溯源技术体系运行流程

智能数据血缘溯源技术体系的整体技术路径遵循“自动化解析—精准提取—图谱化构建”的端到端范式,围绕大模型驱动的字段级数据血缘溯源、全场景适配与高可信校验核心目标,构建算法驱动的分层解耦技术架构,依托解析能力中心、工程化中心与图谱能力中心等三大能力中心的协同运作,构建了语义可解释、结构可验证、部署可扩展的数据血缘溯源体系。智能数据血缘溯源技术体系模块组成与核心能力如图2所示。

图2 智能数据血缘溯源技术体系模块组成与核心能力

1.解析能力中心:面向复杂SQL的字段级血缘语义理解

解析能力中心作为该体系的核心认知层,其核心目标是通过大模型能力与规则方法相结合的方式,对数据加工过程进行高精度解析。区别于传统基于规则或AST静态分析的方法,该中心采用大模型与规则方法协同互补的架构,将字段血缘关系拆分为直接血缘(字段生成的确定性依赖)与间接血缘(条件、过滤或控制流对字段取值范围的约束影响)两类任务,并通过对两类任务分别进行建模、适配、调优,最终融合构建完整的字段级血缘图谱。该中心聚焦字段级血缘关系的细颗粒度建模,尤其针对大型商业银行广泛存在的多层嵌套子查询、多表JOIN、CASE WHEN逻辑、窗口函数及聚合表达式等复杂加工模式,实现对真实生产环境的脚本高覆盖、高精度解析。

大模型血缘解析引擎在语义建模层面对数据血缘关系进行分类处理,对直接血缘与间接血缘采用解耦式建模与协同融合策略。该划分源于对数据加工语义的深层认知,使不同类型的推理在清晰的假设空间内展开,有效降低歧义并提升结果一致性。

为引导大模型在复杂SQL中进行结构化、可解释的推理,执行字段级血缘解析这一高精度、强结构、多步骤的符号推理任务,笔者团队设计了字段级数据血缘专用干涉思维链技术框架,可有效解决传统基于思维链(CoT)提示工程在结构化任务中常因缺乏领域约束而导致推理路径发散、幻觉不可控、输出格式不稳定等问题。

干涉思维链技术的核心原理是在大模型推理过程中,主动注入预定义的、符合数据血缘语义的逻辑路径模板,引导模型沿可控、可验证、可解释的步骤进行符号推演,从而规避幻觉、提升指令遵循程度与结果一致性。

具体而言,干涉思维链技术将ETL脚本的字段数据血缘解析任务解构为以下四个强约束推理阶段,并通过定制化设计的Prompt模板逐阶段引导慢思考大模型(如DeepSeek-R1)执行。

第一阶段:语法结构识别。大模型需首先识别脚本中的关键语法块,包括SELECT投影列表、FROM/JOIN表引用、WHERE/HAVING过滤条件、CASE/IF/COALESCE条件表达式、CTE/WITH子句、子查询嵌套层级等,并标注其作用域边界。此阶段确保后续字段解析在正确的上下文中进行。

第二阶段:候选来源字段生成。对目标字段的表达式,如UPPER(T1.NAME)或CASE WHEN T2.FLAG="Y"THEN T3.VAL ELSE T4.VAL END AS COL,模型需递归展开所有来源字段引用,生成潜在来源字段集合。该阶段要求保留字段的原始路径信息(如别名、嵌套层级)。

第三阶段:作用域与别名绑定消歧。结合SQL语法的作用域层级,对候选字段进行精准绑定。当内外层查询复用相同别名时,内层别名将遮蔽外层别名,形成作用域隔离。消歧模块系统遵循“由内向外”的解析策略,优先在当前查询块内匹配别名定义;若未命中,则逐层向外回溯。由此,确保逻辑字段引用准确映射至对应的物理表结构,避免因别名重用或跨作用域引用导致的语义歧义。

第四阶段:结构化血缘输出。按照预定义的字段级血缘Schema输出结果,输出必须严格遵循约定格式,禁止自由文本,确保后续自动化入库与图谱构建。

干涉思维链技术通过显式路径约束与阶段性输出验证,显著提升了大模型在复杂SQL场景下的字段绑定准确率与格式一致性。抽样验证集实测表明,在33类直接血缘SQL样式(含函数、嵌套、关联、聚合)和8大类23种间接条件语句(如WHERE/JOIN/GROUP BY等)上,经干涉思维链引导下的DeepSeek-R1模型解析正确率达95%,远优于基线CoT或零样本提示。具体任务定义与输入输出规范如下。

给定一段ETL-SQL脚本片段S(支持PgSQL/HiveSQL/VerticaSQL等),系统并行执行以下两类任务。

第一类为直接血缘提取任务(Direct Lineage Extraction)。该任务的目标为识别目标字段与其源字段之间的端到端依赖关系,覆盖经函数变换、算术运算、类型转换或嵌套表达式等方式处理后的字段;当存在多源输入时,输出全部对应的源字段映射。形式化表示为:

其中,TtgtTsrc分别表示目标表与源表的完整表标识(统一采用“库名.表名”复合格式,如DWD.USER_PROFILE);ftgtfsrc分别表示目标字段名与源字段名。该任务覆盖33类SQL样式(含函数、JOIN、子查询多级嵌套、CASE WHEN等),字段级解析正确率不低于95%。

第二类为间接血缘识别任务(Indirect Lineage Recognition)。该任务旨在刻画目标字段在计算过程中因语义环境约束而产生的隐式依赖关系。具体而言,需识别目标字段是否被置于行级筛选谓词、多表关联条件、集合运算边界、嵌套子查询作用域或分组聚合过滤等特定语法上下文中。系统将提取相应的条件类型标识符,并完整枚举该上下文中所有潜在被引用的源字段集合。其输入为ETL脚本片段S,输出为结构化四元组集合:

其中,Ttgt为目标字段所属完整表标识;ftgt为目标字段名;cond_type∈{WHERE,JOIN,UNION,SUBQUERY,GROUP BY,HAVING…};{(Ti,fi)}为该条件表达式中所有出现的源字段(含库名.表名),要求高召回。该任务覆盖8大类、23种间接条件语句,字段血缘召回率与类型识别准确率不低于95%。

2.工程化中心:大模型数据血缘溯源的规模化与稳定性保障

为支撑金融领域银行级海量脚本的高效处理,工程化中心构建了一套面向数据溯源场景的大模型批量处理与调度框架,应对高并发、增量更新、模型适配与语义不确定性等关键工程挑战。

在处理架构方面,工程化中心采用异步调度与动态并发控制机制,实现对大量血缘数据的高吞吐解析。在数据更新方面,设计文件级与SQL级双层递进式增量处理机制,先通过文件指纹比对识别变更脚本,再基于SQL语句的哈希值与AST差异分析精准定位变更单元,避免全量重复解析,在保障血缘一致性的同时显著提高处理效率。

针对不同复杂度任务对模型能力需求的显著差异,工程化中心构建多模型路由推理框架。该框架通过前置意图识别模块(基于语句类型、表达式复杂度、函数调用深度等特征)对任务进行智能分流:对于规则清晰、结构简单的SQL,由轻量级大模型或者规则方法高效处理;对于多层嵌套、动态SQL、R/SQL混合脚本等高复杂度逻辑,则调度至大参数量大模型进行深度解析。该机制在保障解析精度的同时,实现了算力成本与处理时效的帕累托最优。

此外,为提升大模型输入的语义完整性,在推理前引入AST预处理与语义补全机制:通过静态语法分析补全隐式字段引用(如“SELECT*”展开)、标准化别名映射、消除省略写法歧义,以及注入表结构元数据上下文,为大模型提供结构清晰、语义充分的输入,显著提升字段映射的准确性与稳定性。

3.图谱能力中心:血缘关系的结构化建模与可视化呈现

图谱能力中心作为智能溯源成果的价值释放枢纽,聚焦血缘关系的结构化构建与业务赋能。该中心基于知识图谱建模思想,通过多层级语义对齐算法,将大模型输出的细粒度血缘统一映射为“系统—库—表—字段”四级拓扑网络,实现跨系统、跨技术栈血缘的集中管理。

在图谱构建基础上,图谱能力中心创新融合大模型语义推理与图谱拓扑分析,设计混合检索算法。该算法一方面利用图谱的邻接结构支持多跳血缘路径的高效遍历;另一方面借助大模型对加工逻辑的语义理解,实现跨链路、跨语义层级的智能路径推演,从而突破传统基于静态依赖的检索维度局限。

三、智能数据血缘溯源技术

体系价值成效

智能数据血缘溯源技术体系已实现字段级血缘解析的高精度与高覆盖,形成自主可控的核心技术体系并规模化落地。解析层面,直接血缘与间接血缘的覆盖率与正确率均超95%,全面适配多方言、复杂逻辑及超长脚本场景;规模化应用层面,累计解析千万级字段血缘关系,已覆盖邮储银行大数据体系的6个核心系统,验证了高并发、高复杂度场景下的稳定性与可扩展性;业务价值层面,将血缘溯源与影响性变更分析等工作时效从小时级压缩至分钟级,通过图谱化呈现实现数据流转全链路可视化(如图3所示),为数据治理核心场景提供高效支撑。字段级数据血缘图谱支持多维度搜索与链路展开功能,可精准定位上游字段变更影响下游字段范围,辅助治理决策与风险预判。

图3 字段级数据血缘图谱可视化效果

展望未来,面向银行业数字化转型,智能血缘溯源技术体系将升级为贯通邮储银行数据链路的核心基础设施。下一步,笔者团队将持续推进跨系统、跨平台数据关系贯通,构建邮储银行全链路血缘网络,实现数据流转“全景可感知、全程可溯源、全域可分析”;推动血缘分析从静态离线模式向“离线+实时”动态智能模式跃迁,依托大模型与知识图谱协同,强化对变更影响与链路异常的事前预警与过程管控;深度融入指标管理、风险控制等核心业务场景,提升数据应用智能化水平;持续扩展系统覆盖、优化算法精度,推动智能溯源能力渗透到数据治理全流程,为邮储银行数字化转型提供坚实支撑。

中国邮政储蓄银行数据管理部张矫迪、王禹沣、韩冰洁、闫佳奇、刘光明、何建滨、刘博文、陈翠英对本文亦有贡献。

本文拟刊于《中国金融电脑》

声明:本文来自中国金融电脑,版权归作者所有。文章内容仅代表作者独立观点,不代表安全内参立场,转载目的在于传递更多信息。如有侵权,请联系 anquanneican@163.com。