(19)国家知识产权局
(12)发明 专利申请
(10)申请公布号
(43)申请公布日
(21)申请 号 202111589698.1
(22)申请日 2021.12.23
(71)申请人 北京思特奇信息技 术股份有限公司
地址 100086 北京市海淀区中关村南大街6
号14层
(72)发明人 黄志平
(74)专利代理 机构 北京汇信合知识产权代理有
限公司 1 1335
专利代理师 孙民兴
(51)Int.Cl.
G06Q 10/06(2012.01)
G06Q 10/10(2012.01)
(54)发明名称
一种任务流程的数据质量校验 方法及系统、
电子设备、 存 储介质
(57)摘要
本发明公开了一种任务流程的数据质量校
验方法及系统、 电子设备、 存储介质, 属于 数据校
验技术领域, 包括获取数据集 成业务的业务链路
数据, 业务链路数据为目标业务的业务流程中由
各业务节 点上传的业务相关数据; 根据业务相关
数据, 在对应的业务节点上建立与其业务相关数
据的数据质量稽核校验任务; 数据质量稽核 校验
任务用于校验与之对应的业务相关数据, 若通
过, 则继续运行; 若未通过, 则返回上一流程重新
运行。 本发明实现在数据集成处理过程中, 对数
据集成的质量进行稽核 校验, 防止出现数据处理
过程中的错 误出现累积。
权利要求书1页 说明书3页 附图1页
CN 114493107 A
2022.05.13
CN 114493107 A
1.一种任务 流程的数据质量校验方法, 其特 征在于, 包括:
获取数据集成业务的业务链路数据, 所述业务链路数据为目标业务的业务流程中由各
业务节点上传的业 务相关数据;
根据所述业务相关数据, 在对应的所述业务节点上建立与其所述业务相关数据的数据
质量稽核校验 任务;
其中, 所述数据质量稽核校验任务用于校验与之对应的所述业务相关数据, 若通过, 则
继续运行; 若未通过, 则返回上一 流程重新运行。
2.如权利要求1所述的任务流程的数据质量校验方法, 其特征在于, 所述数据质量稽核
校验任务包括指标稽核、 指标表达式稽核、 文件传输完整性稽核、 文件传输及时性稽核及指
标波动性稽核。
3.如权利要求2所述的任务流程的数据质量校验方法, 其特征在于, 若未通过, 则返回
上一流程重新运行还包括:
返回次数大于预先设定的阈值, 则发出告警信息通知运维人员。
4.一种任务 流程的数据质量校验系统, 其特 征在于, 包括:
获取模块, 用于获取数据集成业务的业务链路数据, 所述业务链路数据为目标业务的
业务流程中由各业 务节点上传的业 务相关数据;
建立模块, 用于根据所述业务相关数据, 在对应的所述业务节点上建立与其所述业务
相关数据的数据质量稽核校验 任务;
其中, 所述数据质量稽核校验任务用于校验与之对应的所述业务相关数据, 若通过, 则
继续运行; 若未通过, 则返回上一 流程重新运行。
5.如权利要求4所述的任务流程的数据质量校验系统, 其特征在于, 所述数据质量稽核
校验任务包括指标稽核、 指标表达式稽核、 文件传输完整性稽核、 文件传输及时性稽核及指
标波动性稽核。
6.如权利要求5所述的任务流程的数据质量校验系统, 其特征在于, 若未通过, 则返回
上一流程重新运行还包括:
返回次数大于预先设定的阈值, 则发出告警信息通知运维人员。
7.一种电子设备, 其特征在于, 包括至少一个处理单元以及至少一个存储单元, 其中,
所述存储单元存储有计算机程序, 当所述程序被所述处理单元执行时, 使得所述处理单元
执行权利要求1~3任一权利要求所述的方法。
8.一种存储介质, 其特征在于, 其存储有可由电子设备执行的计算机程序, 当所述程序
在所述电子设备上运行时, 使得所述电子设备执行权利要求1~3任一权利要求所述的方
法。权 利 要 求 书 1/1 页
2
CN 114493107 A
2一种任务流程的数据质量校验方 法及系统、 电子 设备、 存储
介质
技术领域
[0001]本发明属于数据校验技术领域, 特别涉及 一种任务流程的数据质量校验方法及系
统、 电子设备、 存 储介质。
背景技术
[0002]随着各类业务及功能的增加, 这些系统及功能产生的数据量越来越大; 在处理整
合这些数据的过程中, 偶尔会出现数据处理错误的情况出现, 如在数据发生错误的节点, 未
及时发现数据 处理中的错误, 会导致下游数据的错误越来越大, 所以随着数据集成业务的
发展, 数据质量问题也越来越突出。 于是数据集成处理流程中对于数据质量稽核处理的要
求也随之出现。
发明内容
[0003]针对上述的问题, 本发明提供一种任务流程的数据质量校验方法及系统、 电子设
备、 存储介质, 该 方法包括:
[0004]获取数据集成业务的业务链 路数据, 所述业务链 路数据为目标业务的业务流程中
由各业务节点上传的业 务相关数据;
[0005]根据所述业务相关数据, 在对应的所述业务节点上建立与其所述业务相关数据的
数据质量稽核校验 任务;
[0006]其中, 所述数据质量稽核校验任务用于校验与之对应的所述业务相关数据, 若通
过, 则继续 运行; 若未通过, 则返回上一 流程重新运行。
[0007]优选的是, 所述数据质量稽核校验任务包括指标稽核、 指标表达式稽核、 文件传输
完整性稽核、 文件传输及时性稽核及指标波动性稽核。
[0008]优选的是, 若未通过, 则返回上一 流程重新运行还包括:
[0009]返回次数大于预先设定的阈值, 则发出告警信息通知运维人员。
[0010]本发明实施例提供的一种任务 流程的数据质量校验的系统, 包括:
[0011]获取模块, 用于获取数据集成业务的业务链路数据, 所述业务链路数据为目标业
务的业务流程中由各业 务节点上传的业 务相关数据;
[0012]建立模块, 用于根据所述业务相关数据, 在对应 的所述业务节点上建立与其所述
业务相关数据的数据质量稽核校验 任务;
[0013]其中, 所述数据质量稽核校验任务用于校验与之对应的所述业务相关数据, 若通
过, 则继续 运行; 若未通过, 则返回上一 流程重新运行。
[0014]优选的是, 所述数据质量稽核校验任务包括指标稽核、 指标表达式稽核、 文件传输
完整性稽核、 文件传输及时性稽核及指标波动性稽核。
[0015]优选的是, 若未通过, 则返回上一 流程重新运行还包括:
[0016]返回次数大于预先设定的阈值, 则发出告警信息通知运维人员。说 明 书 1/3 页
3
CN 114493107 A
3
专利 一种任务流程的数据质量校验方法及系统、电子设备、存储介质
安全报告 >
其他 >
文档预览
中文文档
6 页
50 下载
1000 浏览
0 评论
309 收藏
3.0分
温馨提示:本文档共6页,可预览 3 页,如浏览全部内容或当前文档出现乱码,可开通会员下载原始文档
本文档由 人生无常 于 2024-03-18 20:06:14上传分享