(19)国家知识产权局
(12)发明 专利申请
(10)申请公布号
(43)申请公布日
(21)申请 号 202210379359.9
(22)申请日 2022.04.12
(71)申请人 平安国际智慧城市科技股份有限公
司
地址 518000 广东省深圳市前海深港合作
区妈湾兴海 大道3048号前海自贸大厦
1-34层
(72)发明人 刘建林
(74)专利代理 机构 北京鸿元知识产权代理有限
公司 11327
专利代理师 袁文婷 张娓娓
(51)Int.Cl.
G06F 16/27(2019.01)
G06F 16/25(2019.01)
G06F 16/23(2019.01)G06N 3/04(2006.01)
G06N 3/08(2006.01)
(54)发明名称
数据库表增量同步方法、 装置及存 储介质
(57)摘要
本发明涉及人工智能领域, 提供一种数据库
表增量同步方法, 在消息通道中获取所述行为信
息, 并对行为信息进行数据解析以获取用户行为
特征和行为参数; 对用户行为特征和所述行为参
数进行实时识别以获取用户标签, 根据用户标签
将所述行为信息映射到预设的调度表中, 并根据
用户标签为所述行为信息匹配目标系统, 同时在
调度表中标注与所述行为信息对应的更新时间
信息; 而后根据调度表通过预设的ETL工具将所
述遍历数据传输至所述目标系统的数据中以完
成数据增量同步; 如此, 实现及时、 高效、 准确的
数据同步过程; 把用户行为特征和ETL任务关联
上, 调度关联上的ETL任务减少技术要求, 降低费
用。
权利要求书3页 说明书12页 附图2页
CN 114691782 A
2022.07.01
CN 114691782 A
1.一种数据库表增量同步方法, 其特 征在于, 包括:
通过预设的采集组件在客户端采集用户的行为信 息, 并将所述行为信 息发送至预设的
消息通道中;
在所述消息通道中获取所述行为信 息, 并对所述行为信 息进行数据解析以获取用户行
为特征和行为 参数;
对所述用户行为特征和所述行为参数进行实时识别以获取用户标签, 根据所述用户标
签将所述行为信息映射到预设的调 度表中, 并根据所述用户标签为所述行为信息匹配目标
系统, 同时在所述调度表中标注与所述行为信息对应的更新时间信息;
通过预设的遍历工具对所述行为信 息进行遍历存储以获取遍历数据, 并根据 所述调度
表通过预设的ETL工具将所述遍历数据传输至所述目标系统的数据中以完成数据增量同
步。
2.如权利要求1所述的数据库表增量同步方法, 其特征在于, 所述通过预设的采集组件
在客户端采集用户的行为信息, 并将所述行为信息发送至预设的消息通道中, 包括:
获取客户端的连接端口, 基于所述连接端口在所述客户端中安装采集插件以使所述采
集插件与所述 客户端中的信息读取插 件构成采集组件;
通过所述采集组件中的信 息读取插件在所述客户端中截取用户的用户请求, 以及所述
客户端针对所述用户请求所作出的请求响应;
通过所述采集插件将所述请求响应与所述用户请求一一对应, 并按照预设的转换规则
将所对应的请求响应和用户请求 转换为具有逻辑的字符语句;
所述字符语句进行逻辑梳理以形成用户的行为信息;
将所述行为信息传输 至预设的消息通道中。
3.如权利要求2所述的数据库表增量同步方法, 其特征在于, 所述将所述行为信 息传输
至预设的消息通道中, 包括:
将所述采集组件与预设的消息组件相连接;
通过接口预 先将所述传输通道与所述消息相连接;
将所述采集组件所采集的行为信 息写入所述消息组件中, 并由所述消息组件将所述行
为信息发送至所述传输通道。
4.如权利要求3所述的数据库表增量同步方法, 其特征在于, 所述在所述消息通道中获
取所述行为信息, 并对所述行为信息进行 数据解析以获取用户行为特 征和行为 参数, 包括:
将所述消息通道与预设监听组件相连接;
通过所述监听组件监听所述消息通道以在所述消息通道中获取 所述行为信息;
对所述行为信息进行规范化处 理以形成标准信息;
将所述标准信息输入至预先设定的解析模型以在所述标准信息中提取处用户行为特
征和用户行为 参数。
5.如权利要求1所述的数据库表增量同步方法, 其特征在于, 所述对所述用户行为特征
和所述行为 参数进行实时识别以获取用户标签, 包括:
将所述用户行为特征和所述用户行为参数输入预先训练号的NLP模型, 使所述NLP模型
对所述用户行为特 征进行识别以将所述用户行为特 征与预设的类别相对应;
根据所述用户行为参数在预设的类别中选择与 所述用户行为特征相对应的子属性, 并权 利 要 求 书 1/3 页
2
CN 114691782 A
2将所述子属性作为与所述户行为特 征和所述行为 参数相对应的用户标签。
6.如权利要求5所述的数据库表增量同步方法, 其特征在于, 所述根据 所述用户标签将
所述行为信息映射到预设的调度表中, 并根据所述用户标签为所述行为信息匹配目标系
统, 同时在所述调度表中标注与所述行为信息对应的更新时间信息, 包括:
根据所述用户标签与调度表的对应关系, 将所述行为信息映射到所述调度表中, 并根
据所述用户标签为所述行为信息匹配目标系统;
将所述目标系统备注在所述调度表中与 所述行为信 息相对应的位置, 并将所获取的更
新时间信息备注在所述调度表中与所述行为信息对应的位置上; 其中, 所述更新时间为所
述采集组件在截取用户的用户请求以及所述请求响应的过程所记载 的所述用户请求与所
述请求响应的发生时间。
7.如权利要求6所述的数据库表增量同步方法, 其特征在于, 所述通过预设的遍历工具
对所述行为信息进行遍历存储以获取遍历数据, 并根据所述调度表通过预设的ETL工具将
所述遍历数据传输 至所述目标系统的数据中以完成数据增量同步, 包括:
按照预设的规则通过 预设的遍历工具对所述行为信息进行遍历以提取遍历数据;
根据所述调度表获取ETL任务, 并将与所述行为信息对应的更新时间信息和和目标系
统存储在所述ETL任务中以形成ETL执 行任务;
通过调度组件根据所述ETL执行任务调用预设的ETL工具, 使所述ETL工具将所述遍历
数据传输 至所述目标系统的以形成转移数据;
在所述目标系统中备注所述转移数据的来源, 及与所述转移数据相对应的用户的用户
请求和请求响应的发生时间以完成数据增量同步。
8.一种数据库表增量同步装置, 其特 征在于, 所述装置包括:
消息采集单元, 用于通过预设的采集组件在客户端采集用户的行为信息, 并将所述行
为信息发送至预设的消息通道中;
信息获取单元, 用于在所述消息通道中获取所述行为信息, 并对所述行为信息进行数
据解析以获取用户行为特 征和行为 参数;
信息匹配单元, 用于对所述用户行为特征和所述行为参数进行实时识别以获取用户标
签, 根据所述用户标签将所述行为信息映射到预设的调度表中, 并根据所述用户标签为所
述行为信息匹配目标系统, 同时在所述调度表中标注与所述行为信息对应的更新时间信
息;
数据增量单元, 用于通过预设的遍历工具对所述行为信 息进行遍历存储以获取遍历数
据, 并根据所述调度表通过预设的ETL工具将所述遍历数据传输至所述 目标系统的数据中
以完成数据增量同步。
9.一种电子设备, 其特 征在于, 所述电子设备包括:
至少一个处 理器; 以及,
与所述至少一个处 理器通信连接的存 储器; 其中,
所述存储器存储有可被所述至少一个处理器执行的计算机程序, 所述计算机程序被所
述至少一个处理器执行, 以使 所述至少一个处理器能够执行如权利要求 1至7中任一所述的
数据库表增量同步方法中的步骤。
10.一种计算机可读存储介质, 存储有计算机程序, 其特征在于, 所述计算机程序被处权 利 要 求 书 2/3 页
3
CN 114691782 A
3
专利 数据库表增量同步方法、装置及存储介质
安全报告 >
其他 >
文档预览
中文文档
18 页
50 下载
1000 浏览
0 评论
309 收藏
3.0分
温馨提示:本文档共18页,可预览 3 页,如浏览全部内容或当前文档出现乱码,可开通会员下载原始文档
本文档由 思考人生 于 2024-02-24 08:50:00上传分享