说明:收录25万 73个行业的国家标准 支持批量下载
文库搜索
切换导航
文件分类
频道
仅15元无限下载
联系我们
问题反馈
文件分类
仅15元无限下载
联系我们
问题反馈
批量下载
(19)国家知识产权局 (12)发明 专利申请 (10)申请公布号 (43)申请公布日 (21)申请 号 202211035234.0 (22)申请日 2022.08.26 (71)申请人 南斗六星系统集成有限公司 地址 430056 湖北省武汉市经济开发区华 中电子商务产业园B5 栋 (72)发明人 龚浩 张宇 李晓聪 姚树为 王浩东 (74)专利代理 机构 武汉智权专利代理事务所 (特殊普通 合伙) 42225 专利代理师 罗成 (51)Int.Cl. G06F 11/36(2006.01) G06F 16/25(2019.01) G06F 16/28(2019.01) (54)发明名称 中心化的异步卡点校验方法、 装置、 设备及 可读存储介质 (57)摘要 本申请涉及一种中心化的异步卡点校验方 法、 装置、 设备及可读 存储介质, 包括当数仓任务 调度模块检测到目标数据表对应的目标ETL任务 运行成功后, 执行目标数据表的下游任务, 同时 获取目标数据表的目标元数据, 并根据目标元数 据中的卡点检验标志位判断目标数据表是否需 要进行卡点检验, 若需要, 将目标数据表对应的 SQL串或基于元数据的列属性进行更新后的目标 数据表对应的元数据JSON串发送至卡点校验中 心服务模块; 卡点校验中心服务模块执行SQL串 或根据元数据JSON串和预设的组装规则组装生 成SQL校验脚本, 执行SQL校验脚本, 实现目标数 据表的卡点校验, 不仅可提高报表产出的效率, 还可降低卡点校验的成本并提高卡点校验的效 率。 权利要求书2页 说明书11页 附图3页 CN 115470115 A 2022.12.13 CN 115470115 A 1.一种中心化的异步 卡点校验方法, 其特 征在于, 包括以下步骤: 当数仓任务调度模块检测到目标数据表对应的目标ETL任务运行成功后, 执行所述目 标数据表的下游任务, 同时获取目标数据表的目标元数据, 并根据目标元数据中的卡点检 验标志位判断所述目标数据表是否需要进 行卡点检验, 若 所述目标数据 表需要进 行卡点检 验, 则将所述 目标数据表对应的SQL串或基于元数据的列属性进行更新后的目标数据表对 应的元数据JSON串发送至卡 点校验中心服 务模块; 所述卡点校验中心服务模块执行所述SQL串, 以实现所述目标数据表的卡点校验, 或 者; 所述卡点校验中心服务模块根据所述元数据JSON串和预设的组装规则组装生成SQL校 验脚本, 并执 行所述SQL校验脚本, 以实现所述目标 数据表的卡 点校验。 2.如权利要求1所述的中心化的异步卡点校验方法, 其特征在于, 所述将所述目标数据 表对应的SQL串或基于元数据的列属性进行更新后的目标数据 表对应的元数据JSON串发送 至卡点校验中心服 务模块, 包括: 判断目标 元数据中是否存在SQ L校验标志位; 若目标元数据中存在SQL校验标志位, 则将目标数据表对应的SQL串发送至卡点校验中 心服务模块; 若目标元数据中不存在SQL校验标志位, 则将基于元数据的列属性更新后的目标数据 表对应的元 数据JSON串发送至卡 点校验中心服 务模块。 3.如权利要求2所述的中心化的异步卡点校验方法, 其特征在于, 在所述将基于元数据 的列属性更新后的目标数据表对应的元数据JSON串发送至卡点校验中心服务模块的步骤 之前, 还包括: 数仓任务调度模块获取所述目标数据表中每一列 元数据的列属性, 所述列属性包括列 名、 列类型和自定义列属性; 对所述列属性进行组装, 生成JSON串列表; 基于所述JSON串列表对目标数据表中的列集合属性进行替换, 得到更新后的目标数据 表。 4.如权利要求1所述的中心化的异步卡点校验方法, 其特征在于, 所述预设的组装规则 包括数据表中列的关键 字属性定义。 5.如权利要求1所述的中心化的异步卡点校验方法, 其特征在于, 在所述执行所述SQL 校验脚本的步骤之后, 还 包括: 若SQL校验脚本的执行结果为执行成功, 则卡点校验中心服务模块获取执行成功后返 回的结果 集, 并判断所述结果 集是否为空; 若是, 则判定目标 数据表的卡 点校验成功; 若否, 则判定目标 数据表的卡 点校验失败。 6.如权利要求5所述的中心化的异步卡点校验方法, 其特征在于, 在所述判定目标数据 表的卡点校验失败的步骤之后, 还 包括: 卡点校验中心服务模块根据数仓任务调度模块发送的目标数据表对应的工程项目编 码、 任务流编 码以及当前任务分区值确定出所述目标数据 表对应的下游任务流和正在运行 的任务流;权 利 要 求 书 1/2 页 2 CN 115470115 A 2数仓任务调度模块关闭与所述目标 数据表对应的下游任务 流和正在运行的任务 流。 7.一种中心化的异步卡点校验装置, 其特征在于: 包括数仓任务调度模块和卡点校验 中心服务模块; 当数仓任务调度模块检测到目标数据表对应的目标ETL任务运行成功后, 所述数仓任 务调度模块用于执行所述 目标数据表的下游任务, 同时获取目标数据表的目标元数据, 并 根据目标元数据中的卡点检验标志 位判断所述目标数据表是否需要进 行卡点检验, 若 所述 目标数据表需要进行卡点检验, 则将所述 目标数据表对应的SQL串或基于元数据的列属性 进行更新后的目标 数据表对应的元 数据JSON串发送至卡 点校验中心服 务模块; 所述卡点校验中心服务模块用于执行所述SQL串, 以实现所述目标数据表的卡点校验, 或者; 所述卡点校验中心服务模块用于根据所述元数据JSON串和预设的组装规则组装生成 SQL校验脚本, 并执 行所述SQL校验脚本, 以实现所述目标 数据表的卡 点校验。 8.如权利要求7所述的中心化的异步卡点校验装置, 其特征在于, 所述数仓任务调度模 块具体用于: 判断目标 元数据中是否存在SQ L校验标志位; 若目标元数据中存在SQL校验标志位, 则将目标数据表对应的SQL串发送至卡点校验中 心服务模块; 若目标元数据中不存在SQL校验标志位, 则将基于元数据的列属性更新后的目标数据 表对应的元 数据JSON串发送至卡 点校验中心服 务模块。 9.一种卡点校验设备, 其特征在于, 包括: 存储器和 处理器, 所述存储器中存储有至少 一条指令, 所述至少一条指令由所述处理器加载并执行, 以实现权利要求1至6中任一项所 述的中心化的异步 卡点校验方法。 10.一种计算机可读存储介质, 其特征在于: 所述计算机存储介质存储有计算机程序, 当所述计算机程序被处理器执行时, 以实现权利要求 1至6中任一项 所述的中心 化的异步卡 点校验方法。权 利 要 求 书 2/2 页 3 CN 115470115 A 3
专利 中心化的异步卡点校验方法、装置、设备及可读存储介质
文档预览
中文文档
17 页
50 下载
1000 浏览
0 评论
0 收藏
3.0分
赞助2元下载(无需注册)
温馨提示:本文档共17页,可预览 3 页,如浏览全部内容或当前文档出现乱码,可开通会员下载原始文档
下载文档到电脑,方便使用
赞助2元下载
本文档由 SC 于
2024-02-24 01:01:41
上传分享
举报
下载
原文档
(936.3 KB)
分享
友情链接
DL-T 1066-2023 水电站设备检修管理导则.pdf
中康科技 乙肝肝炎行业研究报告解读 2021 .pdf
T-CPUMT 008—2022 工业信息安全漏洞分类分级指南.pdf
GB-T 43044-2023 数码照相机 规格指南.pdf
CISP 注册信息安全专业人员培训教材 2019.pdf
电子认证服务管理办法.pdf
GB-Z 40847-2021 认知康复训练系统通用技术条件.pdf
希赛 2022中级信息安全工程师知识点集锦.pdf
GB-T 34658-2017 电动汽车非车载传导式充电机与电池管理系统之间的通信协议一致性测试.pdf
6-01-07-01 海盐制盐工.pdf
信通院 数字化时代零信任安全蓝皮报告-2021年.pdf
GB-T 11264-2012 热轧轻轨.pdf
GB-T 34679-2017智慧矿山信息系统通用技术规范.pdf
GB-T 37451-2019 海洋平台起重机试验规程.pdf
GB-T 20988-2007 信息安全技术 信息系统灾难恢复规范.pdf
DB4403-T 27-2019 城市轨道交通警用安全防范系统与通信系统技术规范 深圳市.pdf
腾讯研究院:2024工业大模型应用报告-2024-04-宏观大势.pdf
GB-T 18336.2-2015 信息技术 安全技术 信息技术安全评估准则 第2部分:安全功能组件.pdf
GB-T 42081-2022 志愿服务基础数据元.pdf
GB-T 3782-2016 乙炔炭黑.pdf
1
/
17
评价文档
赞助2元 点击下载(936.3 KB)
回到顶部
×
微信扫码支付
2
元 自动下载
官方客服微信:siduwenku
支付 完成后 如未跳转 点击这里 下载
站内资源均来自网友分享或网络收集整理,若无意中侵犯到您的权利,敬请联系我们
微信(点击查看客服)
,我们将及时删除相关资源。