全网唯一标准王
(19)国家知识产权局 (12)发明 专利申请 (10)申请公布号 (43)申请公布日 (21)申请 号 202210792035.8 (22)申请日 2022.07.05 (71)申请人 上海复深蓝软件股份有限公司 地址 200233 上海市徐汇区宜山路70 0号B2 幢13楼 (72)发明人 杨万强 于海鹏 毕小根  (74)专利代理 机构 上海天之健 律师事务所 31351 专利代理师 刘龙彦 (51)Int.Cl. G06F 16/2457(2019.01) G06F 16/22(2019.01) G06F 16/23(2019.01) G06F 16/2455(2019.01) G06F 16/248(2019.01) (54)发明名称 流数据方法、 装置、 计算机设备及存 储介质 (57)摘要 本发明涉及大数据处理领域, 公开了一种流 数据处理方法、 装置、 计算机设备及存储介质, 其 方法包括: 获取符合预设处理标准的流数据; 对 流数据进行索引、 第一过滤和第一字段处理, 生 成第一处理数据; 获取与第一处理数据关联的关 联数据, 并对关联数据进行第二过滤和第二字段 处理, 生成第二处理数据; 对第二处理数据执行 逻辑处理操作, 以完成流数据的更新。 本发明降 低了流数据处 理的开发难度和维护成本 。 权利要求书2页 说明书8页 附图2页 CN 115203268 A 2022.10.18 CN 115203268 A 1.一种流数据处 理方法, 其特 征在于, 包括: 获取符合预设处 理标准的流数据; 对所述流数据进行索引、 第一过 滤和第一字段处 理, 生成第一处 理数据; 获取与所述第一处理数据关联的关联数据, 并对所述关联数据进行第 二过滤和第 二字 段处理, 生成第二处 理数据; 对所述第二处 理数据执 行逻辑处 理操作, 以完成所述 流数据的更新。 2.如权利要求1所述的流数据处理方法, 其特征在于, 所述获取符合预设处理标准的流 数据之前, 还 包括: 通过预设途径获取原 始流数据; 根据预设转 化程序将所述原 始流数据转 化为所述流数据。 3.如权利要求1所述的流数据处理方法, 其特征在于, 所述第 一处理数据包括所述流数 据的主键和索引数据; 所述对所述 流数据进行索引、 第一过 滤和第一字段处 理, 生成第一处 理数据, 包括: 获取与所述 流数据对应的索引配置文件和主键配置文件; 根据所述主键配置文件 对所述流数据进行主键配置, 生成所述 流数据的主键; 根据所述索引配置文件 对所述流数据进行索引配置, 生成所述 流数据的索引数据。 4.如权利要求1所述的流数据处理方法, 其特征在于, 所述对所述流数据进行索引、 第 一过滤和第一字段处 理, 生成第一处 理数据, 包括: 获取与所述 流数据对应的过 滤规则配置文件和第一字段配置文件; 根据所述过 滤规则配置文件 对已进行索引的所述 流数据进行 过滤, 生成过 滤流数据; 根据所述第 一字段配置文件对所述过滤流数据进行第 一字段处理, 生成所述第 一处理 数据。 5.如权利要求4所述的流数据处理方法, 其特征在于, 所述第 一字段配置文件包括特殊 字符配置文件、 枚举值 转换映射配置文件和日期标准 化规则配置文件。 6.如权利要求1所述的流数据处理方法, 其特征在于, 所述获取与所述第 一处理数据关 联的关联数据, 并对所述关联数据进行第二过滤和第二字段处理, 生成第二处理数据, 包 括: 获取与所述第一处理数据对应的关联关系配置文件、 关联数据过滤规则配置文件和关 联数据字段配置文件; 根据所述关联关系配置文件获取与所述第一处 理数据关联的关联 数据; 根据所述关联 数据过滤规则配置文件 对所述关联 数据进行 过滤, 生成关联 过滤数据; 根据所述关联数据字段配置文件对所述关联过滤数据进行第 二字段处理, 生成所述第 二处理数据。 7.如权利要求1所述的流数据处理方法, 其特征在于, 所述对所述第 二处理数据 执行逻 辑处理操作, 以完成所述 流数据的更新, 包括: 执行所述第二处 理数据的新增操作; 若所述新增操作的结果 为成功, 则获取 所述第二处 理数据的累加标记; 若所述累加标记为1, 则判定所述 流数据更新成功。 8.一种流数据处 理装置, 其特 征在于, 包括:权 利 要 求 书 1/2 页 2 CN 115203268 A 2获取流数据模块, 用于获取符合预设处 理标准的流数据; 第一处理模块, 用于对所述流数据进行索引、 第 一过滤和第 一字段处理, 生成第 一处理 数据; 第二处理模块, 用于获取与所述第一处理数据关联的关联数据, 并对所述关联数据进 行第二过 滤和第二字段处 理, 生成第二处 理数据; 逻辑处理模块, 用于对所述第二处理数据执行逻辑处理操作, 以完成所述流数据的更 新。 9.一种计算机设备, 包括存储器、 处理器以及存储在所述存储器中并可在所述处理器 上运行的计算机可读指令, 其特征在于, 所述处理器执行所述计算机可读指令时实现如权 利要求1至7中任一项所述 流数据处 理方法。 10.一个或多个存储有计算机可读指令的可读存储介质, 所述计算机可读指令被一个 或多个处理器执行时, 使得所述一个或多个处理器执行如权利要求 1至7中任一项 所述流数 据处理方法。权 利 要 求 书 2/2 页 3 CN 115203268 A 3

PDF文档 专利 流数据方法、装置、计算机设备及存储介质

文档预览
中文文档 13 页 50 下载 1000 浏览 0 评论 0 收藏 3.0分
温馨提示:本文档共13页,可预览 3 页,如浏览全部内容或当前文档出现乱码,可开通会员下载原始文档
专利 流数据方法、装置、计算机设备及存储介质 第 1 页 专利 流数据方法、装置、计算机设备及存储介质 第 2 页 专利 流数据方法、装置、计算机设备及存储介质 第 3 页
下载文档到电脑,方便使用
本文档由 SC 于 2024-02-07 12:40:05上传分享
友情链接
站内资源均来自网友分享或网络收集整理,若无意中侵犯到您的权利,敬请联系我们微信(点击查看客服),我们将及时删除相关资源。