(19)中华 人民共和国 国家知识产权局 (12)发明 专利 (10)授权公告 号 (45)授权公告日 (21)申请 号 202111366559.2 (22)申请日 2021.11.18 (65)同一申请的已公布的文献号 申请公布号 CN 113791889 A (43)申请公布日 2021.12.14 (73)专利权人 中国科学院成都文献情 报中心 地址 610000 四川省成 都市武侯区一环路 南二段16号 (72)发明人 刘春江　胡正银　李姝影　方曙　 张邹　 (74)专利代理 机构 成都九鼎天元知识产权代理 有限公司 51214 代理人 张杰 (51)Int.Cl. G06F 9/48(2006.01) G06F 9/50(2006.01) G06F 16/33(2019.01) G06F 16/2455(2019.01) G06F 16/28(2019.01)G06N 20/00(2019.01) (56)对比文件 CN 1098149 97 A,2019.0 5.28 CN 1098149 97 A,2019.0 5.28 CN 112948081 A,2021.0 6.11 CN 110347899 A,2019.10.18 CN 10972680 6 A,2019.0 5.07 CN 112685165 A,2021.04.20 CN 112256939 A,2021.01.2 2 US 8780720 B2,2014.07.15 George A tta-Boateng. “A Geolocation Database Mid dleware Sublayer for Minimizing Secondary User Waiti ng Times in TV White Space Spectrum Al location”. 《Wireless Personal Communications》 .2019, 第111卷(第1期), 王园.“面向多场景的大 数据集成存 储与治 理系统的设计与实现 ”. 《中国优秀硕士学位 论文 全文数据库 信息科技 辑》 .2021,(第0 5期), 审查员 冯世昂 (54)发明名称 一种基于多级轮询队列控制器部署学习模 型的方法 (57)摘要 本发明提供一种基于多级轮询队列控制器 部署学习模型的方法， 包括： 步骤1， 系统接收用 户提交的待挖掘文本， 并进行任务预处理， 得到 任务请求信息； 然后提交到多级轮询队列控制 器； 步骤2， 多级轮询队列控制器接收任务请求信 息， 并采用Mysql 关系型数据库和Redi s缓存数据 库进行存储； 步骤3， 多级轮询队列控制器基于任 务请求信息通过多级轮询操作部署学习模型并 进行数据挖掘； 步骤4， 对数据挖掘结果进行持久 化存储和下载。 本发明通过构建多级轮询队列控 制器， 采用轮询和多线程异步机制来限制任务执 行的速度， 能够解决机器学习和深度学习模型部署中广泛存在的执行速度慢和执行速度不统一 的问题， 最终达到用户进行较好数据挖掘体验的 目的。 权利要求书2页 说明书7页 附图5页 CN 113791889 B 2022.03.11 CN 113791889 B 1.一种基于多 级轮询队列控制器部署学习模型的方法， 其特 征在于， 包括如下步骤： 步骤1， 系统接收用户提交的待挖掘文本， 并对待挖掘文本进行任务预处理， 得到任务 请求信息； 然后将得到的任务请求信息提交到多 级轮询队列控制器； 步骤2， 多级轮询队列控制器接收到任务请求信息， 并采用Mysql关系型数据库和Redis 缓存数据库对 任务请求信息进行存 储； 步骤3， 多级轮询队列控制器基于Mysql关系型数据库和Redis缓存数据库中的任务请 求信息通过多 级轮询操作部署学习模型并进行 数据挖掘； 步骤4， 对数据 挖掘结果进行持久化存 储和下载； 步骤1中所述任务预处 理包括文本预处 理和标识符预处 理； 其中： 所述文本预处理是将用户提交 的待挖掘文本按照句子进行分拆， 并形成待挖掘JSON字 符串； 所述标识符预处 理是将此次挖掘任务设置一个任务唯一标识符； 待任务预处理完成后， 将包含待挖掘JSON字符串和任务唯一标识符的任务请求信息提 交到多级轮询队列控制器； 步骤2包括如下子步骤： 步骤2.1， 多级轮询队列控制器将任务请求信息存储到Mysql数据库中， 用于持久化存 储； 具体为： 在Mysql数据库设计了三个表， 分别是： 任务请求信息表、 任务响应详情表和任务响应 信息表； 将任务请求信息存 储到任务请求信息表中； 步骤2.2， 多级轮询队列控制器将任务请求信息存储到Redis缓存数据库中， 用于支持 高并发； 具体为： 在Redis缓存数据库设计了两个队列， 分别是： 待执行队列和正执行队列； 将任务请求信息存储到待 执行队列中， 待 执行队列由任务组成， 每个任务包含一个键 ‑值字 符串； 步骤3包括如下子步骤： 步骤3.1， 第一级轮询： 轮询目标为待执行队列和正执行队列， 将满足要求的任务从待 执行队列转移到正执 行队列； 步骤3.2， 第二级轮询： 轮询目标为正执行队列， 调用学习模型API运行满足要求的任 务； 步骤3.3， 第三级轮询： 轮询目标为正执行队列， 将不满足要求的任务进行持久化存储 和删除操作； 步骤3.1中第一级轮询的具体操作包括： 步骤3.1.1， 多级轮询队列控制器查询正执行队列， 确定每个学习模型API被 同时调用 的任务数量现值CurrentTaskNum， 如果某个学习模型API被同时调用的任务数量现值 CurrentTaskNum小于任务数量最大值MaxTaskNum， 则计算该学习模型API的任务数量剩余 值RemainTaskNum， 计算公式如下： RemainTaskNum=MaxTaskNum‑CurrentTask Num； 多级轮询队列控制器将该 学习模型API及任务数量剩余 值RemainTaskNum记录下来； 步骤3.1.2， 多级轮询队列控制器查询待执行队列， 如果待执行队列中存在该学习模型 API， 则将包含该学习模型API的任务从待执行队列中转移至正执行队列， 转移数量小于或权　利　要　求　书 1/2 页 2 CN 113791889 B 2等于任务数量剩余 值RemainTaskNum。 2.根据权利要求1所述的基于多级轮询队列控制器部署学习 模型的方法， 其特征在于， 步骤3.2中第二次轮询的具体操作包括： 步骤3.2.1， 正执行队列中任务状态有两种： Y和N， 当任务状态为Y时表示任务正在执 行， 当任务状态为N时表示任务未执行或任务执行失败； 多级轮询队列控制器查询出正执行 队列中任务状态为N的任务， 对任务状态为N的任务， 先判断任务执行失败次数是否小于预 设值， 如果任务执行失败次数小于预设值， 则多级轮询队列控制器调用学习模型API， 并修 改该任务的键 ‑值字符串， 包括将任务状态从N 修改为Y； 步骤3.2.2， 学习模型API从该任务的键 ‑值字符串中解析， 并对待挖掘JS ON字符串进行 处理； 处理完成后， 学习模型API 生成已挖掘JSON字符串， 返回给多 级轮询队列控制器。 3.根据权利要求2所述的基于多级轮询队列控制器部署学习 模型的方法， 其特征在于， 步骤3.3中第三级轮询的具体操作包括： 首先， 多级轮询队列控制器查询出任务状态为N的任务， 对任务状态为N的任务， 先判断 任务执行失败次数是否等于预设值， 如果任务执行失败次数等于预设值， 则将这些任务的 键‑值字符串存储到Mysql数据库的任务响应信息表中， 然后从正执行队列中删除这些任 务。 4.根据权利要求1 ‑3任一项所述的基于多级轮询队列控制器部署学习模型的方法， 其 特征在于， 所述学习模型API由学习模型、 Flask和Gunicorn组成， 学习模型API的开发流程 是： 步骤a， 在Pytorc h、 Keras和/或TensorFl ow框架上进行训练、 验证和发布学习模型； 步骤b， 将基于Flask框架开发的web应用程序集成学习模型中并提供可快速响应请求 的API； 步骤c， 通过部署Gun icorn容器实现学习模型的并发访问。 5.根据权利要求4所述的基于多级轮询队列控制器部署学习 模型的方法， 其特征在于， 所述数据挖掘结果包括学习模型API有返回结果和无返回结果两种情况， 则步骤4包括如下 子步骤： 步骤4.1， 若学习模型API有返回结果； 首先， 多级轮询队列控制器收到学习模型API返 回的已挖掘JSON字符串以后， 将该已挖掘JSON字符串与任务的键 ‑值字符串一并存储到 Mysql数据库中的任务响应详情表和任务响应信息表中， 并提供已挖掘JSON字符串的查看 和下载； 然后， 多级轮询队列控制器修改正执行队列， 将该已挖掘JSON字 符串对应的任务从 正执行队列中删除； 步骤4.2， 若学习模型API无返回结果， 则多级轮询队列控制器修改任务的键 ‑值字符 串， 包括： 将任务状态从Y修改为 N， 并将重试次数加一。权　利　要　求　书 2/2 页 3 CN 113791889 B 3