(19)中华 人民共和国 国家知识产权局 (12)发明 专利申请 (10)申请公布号 (43)申请公布日 (21)申请 号 202111332326.0 (22)申请日 2021.11.11 (71)申请人 杭州海康威视数字技 术股份有限公 司 地址 310051 浙江省杭州市滨江区阡 陌路 555号 (72)发明人 陈小龙　周利　 (74)专利代理 机构 北京柏杉松知识产权代理事 务所(普通 合伙) 11413 代理人 孟维娜　丁芸 (51)Int.Cl. G06N 20/00(2019.01) G06N 5/04(2006.01) G06F 16/22(2019.01) G06F 16/2455(2019.01)H04L 9/06(2006.01) (54)发明名称 一种基于Flink框架的推理方法、 装置及 Flink服务系统 (57)摘要 本发明实施例提供了一种基于Flink框架的 推理方法、 装置及Flink服务系统。 其中， 所述方 法包括： 所述第一消息子系统获取待推理数据； 并根据所述待推理数据在各个特征维度上的特 征值， 生成事实表； 将所述事实表分区至各个所 述Flink工作节点； 所述第二消息子系统获取模 型数据； 并根据所述模型数据， 生成维表； 将所述 维表发送至各个所述Flink工作节点； 所述Flink 工作节点合并所述第一消息子系统分区至所述 Flink工作节点的事实表以及所述第二消息子系 统发送至所述Flink工作节点的维表， 得到合并 表； 所述推理子系统根据所述合并表中模型数据 与待推理数据之间的匹配关系， 以SQL方式进行 推理。 可以提高推理系统的兼容 性。 权利要求书2页 说明书10页 附图3页 CN 114065946 A 2022.02.18 CN 114065946 A 1.一种基于Flink框架的推理方法， 其特征在于， 应用于Flink服务系统， 所述Flink服 务系统包括第一消息子系统、 第二消 息子系统、 多个Flink工作节点以及推理子系统， 所述 方法包括： 所述第一消息子系统获取待推理数据； 并根据所述待推理数据在各个特征维度 上的特 征值， 生成事实表； 将所述事实表分区至各个所述Fl ink工作节点； 所述第二消息子系统获取模型数据； 并根据 所述模型数据， 生成维表； 将所述维表发送 至各个所述Fl ink工作节点； 所述Flink工作节点合并所述第一消息子系统分区至所述Flink工作节点的事实表以 及所述第二消息 子系统发送至所述Fl ink工作节点的维表， 得到合并表； 所述推理子系统根据所述合并表中模型数据与待推理数据之间的匹配关系， 以SQL方 式进行推理。 2.根据权利要求1所述的方法， 其特征在于， 所述第 二消息子系统将所述维表发送至各 个所述Fl ink工作节点， 包括： 所述第二消息 子系统将所述维表广播至每 个所述Fl ink工作节点。 3.根据权利要求2所述的方法， 其特征在于， 所述第 二消息子系统将所述维表广播至每 个所述Fl ink工作节点， 包括： 所述第二消息子系统通过分区转换算子将所述维表广播至每个所述Flink工作节点， 其中， 所述分区转换算子中被传入右侧维表算子以及广播分区器。 4.根据权利要求1所述的方法， 其特 征在于， 所述方法还 包括： 所述Flink工作节点 根据所述 合并表， 确定各个所述待推理数据所匹配的模型 数据； 所述推理子系统根据所述合并表中模型数据与待推理数据之间的匹配关系， 以SQL方 式进行推理， 包括： 所述推理子系统针对每个所述待推理数据， 加载所述待推理数据所匹配的模型数据； 利用加载的模型 数据对所述待推理数据进行推理。 5.根据权利要求 4所述的方法， 其特 征在于， 所述维表中包括比例维度； 所述推理子系统针对每个所述待推理数据， 加载所述待推理数据所匹配的模型数据； 利用加载的模型 数据对所述待推理数据进行推理， 包括： 所述推理子系统针对每 个所述待推理数据， 随机获取指示 值， 作为目标指示 值； 所述推理子系统在所述待推理数据所匹配的所有模型数据中确定与所述目标指示值 对应的目标模型数据， 其中， 所述模型数据对应的任一指示值被随机获取到的概率等于所 述维表中所述模型 数据对应的比例维度的取值； 所述推理子系统加载 所述目标模型 数据对所述待推理数据进行推理。 6.一种基于Flink框架的推理装置， 其特征在于， 应用于Flink服务系统， 所述Flink服 务系统包括第一消息子系统、 第二消 息子系统、 多个Flink工作节点以及推理子系统， 所述 装置包括： 事实表模块， 用于驱动所述第一消息子系统获取待推理数据； 并根据所述待推理数据 在各个特 征维度上的特 征值， 生成事实表； 将所述事实表分区至各个所述Fl ink工作节点； 维表模块， 用于驱动所述第 二消息子系统获取模型数据； 并根据 所述模型数据， 生成维 表； 将所述维表发送至各个所述Fl ink工作节点；权　利　要　求　书 1/2 页 2 CN 114065946 A 2合并模块， 用于驱动所述Flink工作节点合并所述第一消息子系统分区至所述Flink工 作节点的事实表以及所述第二消息 子系统发送至所述Fl ink工作节点的维表， 得到合并表； 推理模块， 用于驱动所述推理子系统根据 所述合并表中模型数据与待推理数据之间的 匹配关系， 以SQ L方式进行推理。 7.根据权利要求6所述的装置， 其特征在于， 所述维表模块， 具体用于驱动所述第二消 息子系统将所述维表广播至每 个所述Fl ink工作节点。 8.根据权利要求7所述的装置， 其特征在于， 所述维表模块， 具体用于驱动所述第二消 息子系统通过分区转换算子将所述维表广播至每个所述Flink工作 节点， 其中， 所述分区转 换算子中被传入右侧维表算子以及广播分区器。 9.根据权利要求6所述的装置， 其特 征在于， 所述装置还 包括： 模型匹配模块， 用于驱动所述Flink工作节点根据所述合并表， 确定各个所述待推理数 据所匹配的模型 数据； 所述推理模块， 具体用于驱动所述推理子系统针对每个所述待推理数据， 加载所述待 推理数据所匹配的模型 数据； 利用加载的模型 数据对所述待推理数据进行推理。 10.根据权利要求9所述的装置， 其特 征在于， 所述维表中包括比例维度； 所述推理模块， 具体用于驱动推理子系统针对每个所述待推理数据， 随机获取指示值， 作为目标指示 值； 并驱动所述推理子系统在所述待推理数据所匹配的所有模型数据中确定与所述目标 指示值对应的目标模型数据， 其中， 所述模型数据对应的任一指示值被随机获取到的概率 等于所述维表中所述模型 数据对应的比例维度； 并驱动所述推理子系统加载 所述目标模型 数据对所述待推理数据进行推理。 11.一种Flink服务系统， 其特征在于， 所述Flink服务系统包括第一消息子系统、 第二 消息子系统、 多个Fl ink工作节点以及推理子系统； 所述第一消息子系统， 用于获取待推理数据； 并根据所述待推理数据在各个特征维度 上的特征值， 生成事实表； 将所述事实表分区至各个所述Fl ink工作节点； 所述第二消息子系统， 用于获取模型数据； 并根据所述模型数据， 生成维表； 将所述维 表发送至各个所述Fl ink工作节点； 所述Flink工作节点， 用于合并所述第一消息子系统分区至所述Flink工作节点的维表 以及所述第二消息 子系统发送至所述Fl ink工作节点的维表， 得到合并表； 所述推理子系统， 用于根据所述合并表中模型数据与待推理数据之间的匹配关系， 以 SQL方式进行推理。 12.一种电子设备， 一种电子设备， 其特 征在于， 包括： 存储器， 用于存放计算机程序； 处理器， 用于执 行存储器上所存放的程序时， 实现权利要求1 ‑5任一所述的方法步骤。 13.一种计算机可读存储介质， 其特征在于， 所述计算机可读存储介质内存储有计算机 程序， 所述计算机程序被处 理器执行时实现权利要求1 ‑5任一所述的方法步骤。权　利　要　求　书 2/2 页 3 CN 114065946 A 3