全网唯一标准王
(19)国家知识产权局 (12)发明 专利申请 (10)申请公布号 (43)申请公布日 (21)申请 号 202210923150.4 (22)申请日 2022.08.02 (71)申请人 深圳市综合交通与市政工程设计 研 究总院有限公司 地址 518000 广东省深圳市龙华区民治街 道龙塘社区星河传奇花园三期商厦1 栋C座1205单元 (72)发明人 张鹍鹏 陈建军 罗玲 黄静  陈晓达 袁钰奇 何丹妮 李学伟  陈志霖  (74)专利代理 机构 合肥市都耒知识产权代理事 务所(普通 合伙) 34227 专利代理师 刘新雷 (51)Int.Cl. G06F 16/25(2019.01)G06F 16/2458(2019.01) G06F 16/28(2019.01) G06F 16/9535(2019.01) G06F 16/951(2019.01) G06Q 50/26(2012.01) (54)发明名称 一种基于低代码技术的综交市政云基础数 据平台及构建方法 (57)摘要 本发明涉及智能交通技术领域, 具体为一种 基于低代码技术的综交市政云基础数据平台及 构建方法, 包括使用低代码技术构建的数据平 台, 所述数据平台由数据采集模块、 数据处理及 存储模块、 数据同步模块以及系统调度模块构 成, 所述方法包括以下步骤: S1、 构建数据访问 层, S2、 构建数据处理层, S3、 构建业务应用层, 通 过步骤S1、 步骤S2以及步骤S3的配合使用, 以实 现对数据平台的构建, 从而实现从海量数据中迅 速挖掘出有价值的信息和规律, 以对城市交通做 出实时的、 正确的判断和预测, 进而在现有的交 通硬件设施的基础上, 实现对城市交通进行动态 规划的目的以及用快速和准确的信息去指导出 行者使用城市交通的目的。 权利要求书1页 说明书4页 附图2页 CN 115455093 A 2022.12.09 CN 115455093 A 1.一种基于低代码技术的综交市政云基础数据平台, 包括使用低代码技术构建的数据 平台(100), 其特征在于, 所述数据平台(100)由数据采集模块(101)、 数据处理及存储模块 (102)、 数据同步模块(10 3)以及系统调度模块(104)构成。 2.根据权利要求1所述的一种基于低代码技术的综交市政云基础数据平台, 其特征在 于, 所述数据采集模块(101)采集存放于爬虫集群的Master节 点的文本文件, 且将采集到的 数据传输 至分布式文件系统中。 3.根据权利要求2所述的一种基于低代码技术的综交市政云基础数据平台, 其特征在 于, 所述数据处理及 存储模块(102)使用低代码构成, 且处理并存储来自分布式文件系统中 的数据, 并将处 理后的数据传输 至Hive数据仓库。 4.根据权利要求3所述的一种基于低代码技术的综交市政云基础数据平台, 其特征在 于, 所述数据同步模块(10 3)将Hive 数据仓库中处 理后的数据同步到关系型 数据库中。 5.根据权利要求4所述的一种基于低代码技术的综交市政云基础数据平台, 其特征在 于, 所述系统调度模块(104)对 数据采集模块(101)、 数据处理及存储模块(102)以及数据同 步模块(10 3)的整个ETL过程进行自动化处 理。 6.根据权利要求1所述的一种基于低代码技术的综交市政云基础数据平台, 其特征在 于, 所述数据平台(100)包括Web界面(105), 所述Web界面(105)对数据采集模块(101)、 数据 处理及存储模块(102)、 数据同步模块(103)以及系统调度模块(104)的错误信息进行定位 展示。 7.根据权利要求2所述的一种基于低代码技术的综交市政云基础数据平台, 其特征在 于, 所述数据采集模块(101)采用双层flume  agent结构, 第一层agent是从爬虫集群上的各 个监控目录下采集数据, 传输到第二层agent, 第二层agent把传输过来的数据上传到分布 式文件系统中, 且把第二层a gent设置成分布式文件系统的唯一入口统一管理。 8.根据权利要求3所述的一种基于低代码技术的综交市政云基础数据平台, 其特征在 于, 所述数据处理及存储模块(102)选用大数据框架Hadoop作为数据平台(100)的存储与计 算系统, 且在Hiv e数据仓库中设有导入库与存储库, 导入库导入分布式文件系统中的数据, 并将该数据处理完成后放入 存储库。 9.一种基于低代码技术的综交市政云基础数据平台构建方法, 其特征在于, 所述方法 包括如下步骤: 步骤S1、 构建数据访问层(10), 所述数据访问层(10)对存储在外部的非本地关系型数 据库中的数据录入到数据平台(10 0)中; 步骤S2、 构建数据处理层(20), 所述数据处理层(20)接收并处理来自步骤S1中数据访 问层(10)中的数据, 首先加载暂时存储在数据平台(100)中的原始数据, 然后将数据加载到 分布式数据库中(便 于进行下一步的计算); 步骤S3、 构建业务应用层(30), 所述业务应用层(30)将数据处理的关键节点的数据状 态展示给用户, 并针对不同的应用对数据的要求, 定制数据的格式。 10.根据权利要求9所述的一种基于低代码技术的综交市政云基础数据平台构建方法, 其特征在于, 还 包括如下步骤: 采用分布式文件系统存 储交互数据。权 利 要 求 书 1/1 页 2 CN 115455093 A 2一种基于低代码技术的综交 市政云基础数据平台及构建 方法 技术领域 [0001]本发明涉及智能交通技术领域, 具体为一种基于低代码技术的综交市政云基础数 据平台及构建方法。 背景技术 [0002]城市交通的飞速发展, 在带给人们越来越多的便利的同时, 也出现了城市交通压 力过大、 不能高效利用交通资源的情况。 面对超大规模的出行总量, 能够准确并及时的对交 通现状进 行分析并为出行者提供优质的交通诱导服务, 一直是城市智能交通规划所追求的 目标。 [0003]对此中国专利公开号: CN108363756A, 公开了一种智能交通大数据处理系统, 所述 系统包括: 大数据平台, 用于存放接 收已采集的大数据; 大数据预处理模块, 用于对所述已 采集的大数据进行预处理; 所述预处理用于实现负载均衡、 资源虚拟化和分布式数据存储 管理; 智能分析模块, 用于根据接收到的指 令进行所述大数据的分析, 并综合利用大数据预 处理模块提供的数据, 进 行事件因果分析; 数据处理系统模块, 用于生成数据分析任务传递 给智能业务分析模块并接收所述智能分析模块返回的结果; 通过可交互的可视化技术将企 业信息的分析评估结果、 各类详情数据分层 级进行综合、 实时的展现, 该发明解决了传统数 据处理方法实时性、 高效性和交 互性较差的问题。 [0004]然而在使用上述发明时, 还存在一个问题, 对于国际化大都市而言, 繁杂的交通体 系必然带来海量的交通数据, 由此可见, 上述发明难以从海量数据中迅速挖掘出有价值的 信息和规律, 导致其对城市交通无法做出实时的、 正确的判断和预测, 进而在现有的交通硬 件设施的基础上, 是无法实现对城市交通进 行动态规划的目的以及无法用快速和准确的信 息去指导出 行者使用城市交通的目的。 [0005]因此亟需发明一种基于低代码技术的综交市政云基础数据平台及构建方法来解 决上述问题。 发明内容 [0006]本发明的目的在于提供一种基于低代码技术的综交市政云基础数据平台及构建 方法, 以解决上述背 景技术中提出的现有的交通大数据处理系统难以从海量数据中迅速挖 掘出有价值的信息和规律, 导致其对城市交通无法做出实时的、 正确的判断和预测, 进而在 现有的交通硬件设施的基础上, 是无法实现对城市交通进 行动态规划的目的以及无法用快 速和准确的信息去指导出 行者使用城市交通的目的。 [0007]为实现上述目的, 本发明提供如下技术方案: 一种基于低代码技术的综交市政云 基础数据 平台, 包括使用低代码技术构建的数据 平台, 所述数据 平台由数据采集模块、 数据 处理及存储模块、 数据同步模块以及系统调度模块构成。 [0008]优选地, 所述数据采集模块采集存放于爬虫集群的Master节点 的文本文件, 且将 采集到的数据传输 至分布式文件系统中。说 明 书 1/4 页 3 CN 115455093 A 3

PDF文档 专利 一种基于低代码技术的综交市政云基础数据平台及构建方法

文档预览
中文文档 8 页 50 下载 1000 浏览 0 评论 0 收藏 3.0分
温馨提示:本文档共8页,可预览 3 页,如浏览全部内容或当前文档出现乱码,可开通会员下载原始文档
专利 一种基于低代码技术的综交市政云基础数据平台及构建方法 第 1 页 专利 一种基于低代码技术的综交市政云基础数据平台及构建方法 第 2 页 专利 一种基于低代码技术的综交市政云基础数据平台及构建方法 第 3 页
下载文档到电脑,方便使用
本文档由 SC 于 2024-02-24 00:41:41上传分享
友情链接
站内资源均来自网友分享或网络收集整理,若无意中侵犯到您的权利,敬请联系我们微信(点击查看客服),我们将及时删除相关资源。