说明:收录25万 73个行业的国家标准 支持批量下载
(19)国家知识产权局 (12)发明 专利申请 (10)申请公布号 (43)申请公布日 (21)申请 号 202211035234.0 (22)申请日 2022.08.26 (71)申请人 南斗六星系统集成有限公司 地址 430056 湖北省武汉市经济开发区华 中电子商务产业园B5 栋 (72)发明人 龚浩 张宇 李晓聪 姚树为  王浩东  (74)专利代理 机构 武汉智权专利代理事务所 (特殊普通 合伙) 42225 专利代理师 罗成 (51)Int.Cl. G06F 11/36(2006.01) G06F 16/25(2019.01) G06F 16/28(2019.01) (54)发明名称 中心化的异步卡点校验方法、 装置、 设备及 可读存储介质 (57)摘要 本申请涉及一种中心化的异步卡点校验方 法、 装置、 设备及可读 存储介质, 包括当数仓任务 调度模块检测到目标数据表对应的目标ETL任务 运行成功后, 执行目标数据表的下游任务, 同时 获取目标数据表的目标元数据, 并根据目标元数 据中的卡点检验标志位判断目标数据表是否需 要进行卡点检验, 若需要, 将目标数据表对应的 SQL串或基于元数据的列属性进行更新后的目标 数据表对应的元数据JSON串发送至卡点校验中 心服务模块; 卡点校验中心服务模块执行SQL串 或根据元数据JSON串和预设的组装规则组装生 成SQL校验脚本, 执行SQL校验脚本, 实现目标数 据表的卡点校验, 不仅可提高报表产出的效率, 还可降低卡点校验的成本并提高卡点校验的效 率。 权利要求书2页 说明书11页 附图3页 CN 115470115 A 2022.12.13 CN 115470115 A 1.一种中心化的异步 卡点校验方法, 其特 征在于, 包括以下步骤: 当数仓任务调度模块检测到目标数据表对应的目标ETL任务运行成功后, 执行所述目 标数据表的下游任务, 同时获取目标数据表的目标元数据, 并根据目标元数据中的卡点检 验标志位判断所述目标数据表是否需要进 行卡点检验, 若 所述目标数据 表需要进 行卡点检 验, 则将所述 目标数据表对应的SQL串或基于元数据的列属性进行更新后的目标数据表对 应的元数据JSON串发送至卡 点校验中心服 务模块; 所述卡点校验中心服务模块执行所述SQL串, 以实现所述目标数据表的卡点校验, 或 者; 所述卡点校验中心服务模块根据所述元数据JSON串和预设的组装规则组装生成SQL校 验脚本, 并执 行所述SQL校验脚本, 以实现所述目标 数据表的卡 点校验。 2.如权利要求1所述的中心化的异步卡点校验方法, 其特征在于, 所述将所述目标数据 表对应的SQL串或基于元数据的列属性进行更新后的目标数据 表对应的元数据JSON串发送 至卡点校验中心服 务模块, 包括: 判断目标 元数据中是否存在SQ L校验标志位; 若目标元数据中存在SQL校验标志位, 则将目标数据表对应的SQL串发送至卡点校验中 心服务模块; 若目标元数据中不存在SQL校验标志位, 则将基于元数据的列属性更新后的目标数据 表对应的元 数据JSON串发送至卡 点校验中心服 务模块。 3.如权利要求2所述的中心化的异步卡点校验方法, 其特征在于, 在所述将基于元数据 的列属性更新后的目标数据表对应的元数据JSON串发送至卡点校验中心服务模块的步骤 之前, 还包括: 数仓任务调度模块获取所述目标数据表中每一列 元数据的列属性, 所述列属性包括列 名、 列类型和自定义列属性; 对所述列属性进行组装, 生成JSON串列表; 基于所述JSON串列表对目标数据表中的列集合属性进行替换, 得到更新后的目标数据 表。 4.如权利要求1所述的中心化的异步卡点校验方法, 其特征在于, 所述预设的组装规则 包括数据表中列的关键 字属性定义。 5.如权利要求1所述的中心化的异步卡点校验方法, 其特征在于, 在所述执行所述SQL 校验脚本的步骤之后, 还 包括: 若SQL校验脚本的执行结果为执行成功, 则卡点校验中心服务模块获取执行成功后返 回的结果 集, 并判断所述结果 集是否为空; 若是, 则判定目标 数据表的卡 点校验成功; 若否, 则判定目标 数据表的卡 点校验失败。 6.如权利要求5所述的中心化的异步卡点校验方法, 其特征在于, 在所述判定目标数据 表的卡点校验失败的步骤之后, 还 包括: 卡点校验中心服务模块根据数仓任务调度模块发送的目标数据表对应的工程项目编 码、 任务流编 码以及当前任务分区值确定出所述目标数据 表对应的下游任务流和正在运行 的任务流;权 利 要 求 书 1/2 页 2 CN 115470115 A 2数仓任务调度模块关闭与所述目标 数据表对应的下游任务 流和正在运行的任务 流。 7.一种中心化的异步卡点校验装置, 其特征在于: 包括数仓任务调度模块和卡点校验 中心服务模块; 当数仓任务调度模块检测到目标数据表对应的目标ETL任务运行成功后, 所述数仓任 务调度模块用于执行所述 目标数据表的下游任务, 同时获取目标数据表的目标元数据, 并 根据目标元数据中的卡点检验标志 位判断所述目标数据表是否需要进 行卡点检验, 若 所述 目标数据表需要进行卡点检验, 则将所述 目标数据表对应的SQL串或基于元数据的列属性 进行更新后的目标 数据表对应的元 数据JSON串发送至卡 点校验中心服 务模块; 所述卡点校验中心服务模块用于执行所述SQL串, 以实现所述目标数据表的卡点校验, 或者; 所述卡点校验中心服务模块用于根据所述元数据JSON串和预设的组装规则组装生成 SQL校验脚本, 并执 行所述SQL校验脚本, 以实现所述目标 数据表的卡 点校验。 8.如权利要求7所述的中心化的异步卡点校验装置, 其特征在于, 所述数仓任务调度模 块具体用于: 判断目标 元数据中是否存在SQ L校验标志位; 若目标元数据中存在SQL校验标志位, 则将目标数据表对应的SQL串发送至卡点校验中 心服务模块; 若目标元数据中不存在SQL校验标志位, 则将基于元数据的列属性更新后的目标数据 表对应的元 数据JSON串发送至卡 点校验中心服 务模块。 9.一种卡点校验设备, 其特征在于, 包括: 存储器和 处理器, 所述存储器中存储有至少 一条指令, 所述至少一条指令由所述处理器加载并执行, 以实现权利要求1至6中任一项所 述的中心化的异步 卡点校验方法。 10.一种计算机可读存储介质, 其特征在于: 所述计算机存储介质存储有计算机程序, 当所述计算机程序被处理器执行时, 以实现权利要求 1至6中任一项 所述的中心 化的异步卡 点校验方法。权 利 要 求 书 2/2 页 3 CN 115470115 A 3

PDF文档 专利 中心化的异步卡点校验方法、装置、设备及可读存储介质

文档预览
中文文档 17 页 50 下载 1000 浏览 0 评论 0 收藏 3.0分
温馨提示:本文档共17页,可预览 3 页,如浏览全部内容或当前文档出现乱码,可开通会员下载原始文档
专利 中心化的异步卡点校验方法、装置、设备及可读存储介质 第 1 页 专利 中心化的异步卡点校验方法、装置、设备及可读存储介质 第 2 页 专利 中心化的异步卡点校验方法、装置、设备及可读存储介质 第 3 页
下载文档到电脑,方便使用
本文档由 SC 于 2024-02-24 01:01:41上传分享
站内资源均来自网友分享或网络收集整理,若无意中侵犯到您的权利,敬请联系我们微信(点击查看客服),我们将及时删除相关资源。