(19)国家知识产权局 (12)发明 专利申请 (10)申请公布号 (43)申请公布日 (21)申请 号 202111589698.1 (22)申请日 2021.12.23 (71)申请人 北京思特奇信息技 术股份有限公司 地址 100086 北京市海淀区中关村南大街6 号14层 (72)发明人 黄志平  (74)专利代理 机构 北京汇信合知识产权代理有 限公司 1 1335 专利代理师 孙民兴 (51)Int.Cl. G06Q 10/06(2012.01) G06Q 10/10(2012.01) (54)发明名称 一种任务流程的数据质量校验 方法及系统、 电子设备、 存 储介质 (57)摘要 本发明公开了一种任务流程的数据质量校 验方法及系统、 电子设备、 存储介质, 属于 数据校 验技术领域, 包括获取数据集 成业务的业务链路 数据, 业务链路数据为目标业务的业务流程中由 各业务节 点上传的业务相关数据; 根据业务相关 数据, 在对应的业务节点上建立与其业务相关数 据的数据质量稽核校验任务; 数据质量稽核 校验 任务用于校验与之对应的业务相关数据, 若通 过, 则继续运行; 若未通过, 则返回上一流程重新 运行。 本发明实现在数据集成处理过程中, 对数 据集成的质量进行稽核 校验, 防止出现数据处理 过程中的错 误出现累积。 权利要求书1页 说明书3页 附图1页 CN 114493107 A 2022.05.13 CN 114493107 A 1.一种任务 流程的数据质量校验方法, 其特 征在于, 包括: 获取数据集成业务的业务链路数据, 所述业务链路数据为目标业务的业务流程中由各 业务节点上传的业 务相关数据; 根据所述业务相关数据, 在对应的所述业务节点上建立与其所述业务相关数据的数据 质量稽核校验 任务; 其中, 所述数据质量稽核校验任务用于校验与之对应的所述业务相关数据, 若通过, 则 继续运行; 若未通过, 则返回上一 流程重新运行。 2.如权利要求1所述的任务流程的数据质量校验方法, 其特征在于, 所述数据质量稽核 校验任务包括指标稽核、 指标表达式稽核、 文件传输完整性稽核、 文件传输及时性稽核及指 标波动性稽核。 3.如权利要求2所述的任务流程的数据质量校验方法, 其特征在于, 若未通过, 则返回 上一流程重新运行还包括: 返回次数大于预先设定的阈值, 则发出告警信息通知运维人员。 4.一种任务 流程的数据质量校验系统, 其特 征在于, 包括: 获取模块, 用于获取数据集成业务的业务链路数据, 所述业务链路数据为目标业务的 业务流程中由各业 务节点上传的业 务相关数据; 建立模块, 用于根据所述业务相关数据, 在对应的所述业务节点上建立与其所述业务 相关数据的数据质量稽核校验 任务; 其中, 所述数据质量稽核校验任务用于校验与之对应的所述业务相关数据, 若通过, 则 继续运行; 若未通过, 则返回上一 流程重新运行。 5.如权利要求4所述的任务流程的数据质量校验系统, 其特征在于, 所述数据质量稽核 校验任务包括指标稽核、 指标表达式稽核、 文件传输完整性稽核、 文件传输及时性稽核及指 标波动性稽核。 6.如权利要求5所述的任务流程的数据质量校验系统, 其特征在于, 若未通过, 则返回 上一流程重新运行还包括: 返回次数大于预先设定的阈值, 则发出告警信息通知运维人员。 7.一种电子设备, 其特征在于, 包括至少一个处理单元以及至少一个存储单元, 其中, 所述存储单元存储有计算机程序, 当所述程序被所述处理单元执行时, 使得所述处理单元 执行权利要求1~3任一权利要求所述的方法。 8.一种存储介质, 其特征在于, 其存储有可由电子设备执行的计算机程序, 当所述程序 在所述电子设备上运行时, 使得所述电子设备执行权利要求1~3任一权利要求所述的方 法。权 利 要 求 书 1/1 页 2 CN 114493107 A 2一种任务流程的数据质量校验方 法及系统、 电子 设备、 存储 介质 技术领域 [0001]本发明属于数据校验技术领域, 特别涉及 一种任务流程的数据质量校验方法及系 统、 电子设备、 存 储介质。 背景技术 [0002]随着各类业务及功能的增加, 这些系统及功能产生的数据量越来越大; 在处理整 合这些数据的过程中, 偶尔会出现数据处理错误的情况出现, 如在数据发生错误的节点, 未 及时发现数据 处理中的错误, 会导致下游数据的错误越来越大, 所以随着数据集成业务的 发展, 数据质量问题也越来越突出。 于是数据集成处理流程中对于数据质量稽核处理的要 求也随之出现。 发明内容 [0003]针对上述的问题, 本发明提供一种任务流程的数据质量校验方法及系统、 电子设 备、 存储介质, 该 方法包括: [0004]获取数据集成业务的业务链 路数据, 所述业务链 路数据为目标业务的业务流程中 由各业务节点上传的业 务相关数据; [0005]根据所述业务相关数据, 在对应的所述业务节点上建立与其所述业务相关数据的 数据质量稽核校验 任务; [0006]其中, 所述数据质量稽核校验任务用于校验与之对应的所述业务相关数据, 若通 过, 则继续 运行; 若未通过, 则返回上一 流程重新运行。 [0007]优选的是, 所述数据质量稽核校验任务包括指标稽核、 指标表达式稽核、 文件传输 完整性稽核、 文件传输及时性稽核及指标波动性稽核。 [0008]优选的是, 若未通过, 则返回上一 流程重新运行还包括: [0009]返回次数大于预先设定的阈值, 则发出告警信息通知运维人员。 [0010]本发明实施例提供的一种任务 流程的数据质量校验的系统, 包括: [0011]获取模块, 用于获取数据集成业务的业务链路数据, 所述业务链路数据为目标业 务的业务流程中由各业 务节点上传的业 务相关数据; [0012]建立模块, 用于根据所述业务相关数据, 在对应 的所述业务节点上建立与其所述 业务相关数据的数据质量稽核校验 任务; [0013]其中, 所述数据质量稽核校验任务用于校验与之对应的所述业务相关数据, 若通 过, 则继续 运行; 若未通过, 则返回上一 流程重新运行。 [0014]优选的是, 所述数据质量稽核校验任务包括指标稽核、 指标表达式稽核、 文件传输 完整性稽核、 文件传输及时性稽核及指标波动性稽核。 [0015]优选的是, 若未通过, 则返回上一 流程重新运行还包括: [0016]返回次数大于预先设定的阈值, 则发出告警信息通知运维人员。说 明 书 1/3 页 3 CN 114493107 A 3

.PDF文档 专利 一种任务流程的数据质量校验方法及系统、电子设备、存储介质

安全报告 > 其他 > 文档预览
中文文档 6 页 50 下载 1000 浏览 0 评论 309 收藏 3.0分
温馨提示:本文档共6页,可预览 3 页,如浏览全部内容或当前文档出现乱码,可开通会员下载原始文档
专利 一种任务流程的数据质量校验方法及系统、电子设备、存储介质 第 1 页 专利 一种任务流程的数据质量校验方法及系统、电子设备、存储介质 第 2 页 专利 一种任务流程的数据质量校验方法及系统、电子设备、存储介质 第 3 页
下载文档到电脑,方便使用
本文档由 人生无常2024-03-18 20:06:14上传分享
给文档打分
您好可以输入 255 个字符
网站域名是多少( 答案:github5.com )
评论列表
  • 暂时还没有评论,期待您的金玉良言
站内资源均来自网友分享或网络收集整理,若无意中侵犯到您的权利,敬请联系我们微信(点击查看客服),我们将及时删除相关资源。