(19)国家知识产权局 (12)发明 专利 (10)授权公告 号 (45)授权公告日 (21)申请 号 202210725740.6 (22)申请日 2022.06.24 (65)同一申请的已公布的文献号 申请公布号 CN 114816720 A (43)申请公布日 2022.07.29 (73)专利权人 小米汽车 科技有限公司 地址 100176 北京市北京经济技 术开发区 科创十街15号院5号楼6层618室 (72)发明人 刘国明　 (74)专利代理 机构 北京法胜知识产权代理有限 公司 11922 专利代理师 戎郑华 (51)Int.Cl. G06F 9/48(2006.01) G06F 9/50(2006.01)(56)对比文件 CN 111026552 A,2020.04.17 CN 103049311 A,2013.04.17 CN 110995614 A,2020.04.10 WO 2022067531 A1,202 2.04.07 CN 114610465 A,2022.06.10 CN 114356580 A,202 2.04.15 审查员 郑宁 (54)发明名称 多任务共享物理处理器的调度方法、 装置及 终端设备 (57)摘要 本申请是关于一种多任务共享物理处理器 的调度方法、 装置及终端设备， 涉及计算机技术 领域。 其中， 方法包括： 获取待处理的任务序列， 任务序列中包括多个任务， 确定任务序列之中每 个任务的计算资源耗用量和每个任务的容忍因 子， 其中， 容忍因子用于表征对其他任务的算力 容忍程度， 根据每个任务的计算 资源耗用量和容 忍因子， 将任务序列中的多个任务分批次调度至 与每一批次对应的物理处理器上。 本方案， 在满 足共享物理处理器的计算资源总量限制的基础 上， 兼顾了待分配任务对其他任务的算力容忍限 度， 使多个任务共享同一个物理处理器时， 不因 任务间的算力竞争影响物理处理器的任务执行 效果， 提高了任务调度的合理性和物理处理器的 任务执行质量。 权利要求书3页 说明书13页 附图5页 CN 114816720 B 2022.09.13 CN 114816720 B 1.一种多任务共享物理 处理器的调度方法， 其特 征在于， 包括： 获取待处 理的任务序列； 所述任务序列中包括多个任务； 确定所述任务序列之中每个所述任务的计算资源耗用量和每个所述任务的容忍因子； 其中， 所述 容忍因子用于表征对其 他任务的算力容忍程度； 根据每个所述任务的计算资源耗用量和容忍因子， 将所述任务序列中的所述多个任务 分批次调度至与每一批次对应的物理 处理器上， 包括： 确定至少一个待共享物理 处理器和每 个所述待共享物理 处理器的计算资源总量； 根据每个所述任务的计算资源耗用量、 容忍因子和每个所述待共享物 理处理器的计算 资源总量， 对所述任务序列中的所述多个任务进行分组以获得至少一个分组， 并将同一分 组中的任务调度至对应的待共享物理 处理器上， 包括： 从所述至少一个待共享物理 处理器中选取一个待共享物理 处理器； 基于每个所述任务在所述任务序列中的顺序， 从第一个任务开始， 对所述多个任务的 计算资源耗用量进行累积计算， 并对所述多个任务的容忍因子补集进行累积计算； 根据所述选取的待共享物理处理器的计算资源总量、 当前累积计算得到的计算资源耗 用量之和与当前累积 计算得到的容忍因子之和， 从所述多个任务中确定出满足共享条件的 至少一个任务， 并将所述满足共享条件的至少一个任务作为一个分组调 度至所述选取的待 共享物理 处理器上， 并从所述任务序列中删除所述满足共享条件的至少一个任务； 从所述至少一个待共享物理处理器中选取其他待共享物 理处理器， 并返回执行所述基 于每个所述任务在所述任务序列中的顺序， 从第一个任务开始， 对所述多个任务的计算资 源耗用量进行累积计算， 并对所述多个任务的容忍因子补集进行累积计算的步骤， 直至所 述任务序列中所有任务被调度至对应的物理 处理器上。 2.如权利要求1所述的方法， 其特征在于， 所述根据每个所述任务的计算资源耗用量、 容忍因子和每个所述待共享物理处理器的计算资源总量， 对所述任务序列中的所述多个任 务进行分组以获得至少一个分组， 并将同一分组中的任务调 度至对应的待共享物理处理器 上， 包括： 从所述至少一个待共享物理 处理器中选取一个待共享物理 处理器； 基于每个所述任务在所述任务序列中的顺序， 将第一个任务加入至待调度队列； 计算所述待调度队列之中所有任务的计算资源耗用量之和与容忍因子之和； 响应于所述待调度队列之中所有任务的计算资源耗用量之和小于或等于所述选取的 待共享物理处理器的计算资源总量， 且所述待调 度队列之中所有任务的容忍因子之和小于 或等于目标值， 从所述任务序列中删除所述第一个任务， 并返回执行所述基于每个所述任 务在所述任务序列中的顺序， 将第一个任务加入至待调度队列的步骤； 响应于所述待调度队列之中所有任务的计算资源耗用量之和大于所述选取的待共享 物理处理器的计算资源总量， 和/或， 所述待调度队列之中所有任务的容忍因子之和大于所 述目标值， 将所述待调度队列中去掉位于当前队尾的任务， 并将去掉位于当前队尾的任务 的待调度队列中的所有任务调度至所述选取的待共享物理 处理器上； 清空所述待调度队列， 从所述至少一个待共享物 理处理器中选取其他待共享物理处理 器， 并执行所述基于每个所述任务在所述任务序列中的顺序， 将第一个任务加入至待调度 队列的步骤， 直至所述任务序列中所有任务被调度至对应的物理 处理器上。权　利　要　求　书 1/3 页 2 CN 114816720 B 23.如权利要求1所述的方法， 其特 征在于， 所述满足共享条件 包括： 当前累积计算得到的计算资源耗用量之和小于或等于所述选取的待共享物理处理器 的计算资源总量； 以及， 当前累积计算得到的容忍因子之和小于或等于目标值。 4.如权利要求1至 3中任一项所述的方法， 其特 征在于， 还 包括： 根据每个所述任务的计算资源耗用量， 对所述任务序列之中所述多个任务进行排序； 或者， 根据每 个所述任务的容忍因子， 对所述任务序列之中所述多个任务进行排序。 5.如权利要求1至3中任一项所述的方法， 其特征在于， 所述物理处理器为物理图形处 理器GPU或物理张量处 理器TPU。 6.一种多任务共享物理 处理器的调度装置， 其特 征在于， 包括： 获取模块， 用于获取待处 理的任务序列； 所述任务序列中包括多个任务； 确定模块， 用于确定所述任务序列之中每个所述任务的计算资源耗用量和每个所述任 务的容忍因子； 其中， 所述 容忍因子用于表征对其 他任务的算力容忍程度； 调度模块， 用于根据每个所述任务的计算资源耗用量和容忍因子， 将所述任务序列中 的所述多个任务分批次调度至与每一批次对应的物理 处理器上； 所述调度模块包括： 确定单元， 用于确定至少一个待共享物理处理器和每个所述待共享物 理处理器的计算 资源总量； 调度单元， 用于根据每个所述任务的计算资源耗用量、 容忍因子和每个所述待共享物 理处理器的计算资源总量， 对所述任务序列中的所述多个任务进 行分组以获得至少一个分 组， 并将同一分组中的任务调度至对应的待共享物理 处理器上； 所述调度单 元具体用于： 从所述至少一个待共享物理 处理器中选取一个待共享物理 处理器； 基于每个所述任务在所述任务序列中的顺序， 从第一个任务开始， 对所述多个任务的 计算资源耗用量进行累积计算， 并对所述多个任务的容忍因子补集进行累积计算； 根据所述选取的待共享物理处理器的计算资源总量、 当前累积计算得到的计算资源耗 用量之和与当前累积 计算得到的容忍因子之和， 从所述多个任务中确定出满足共享条件的 至少一个任务， 并将所述满足共享条件的至少一个任务作为一个分组调 度至所述选取的待 共享物理 处理器上， 并从所述任务序列中删除所述满足共享条件的至少一个任务； 从所述至少一个待共享物理处理器中选取其他待共享物 理处理器， 并返回执行所述基 于每个所述任务在所述任务序列中的顺序， 从第一个任务开始， 对所述多个任务的计算资 源耗用量进行累积计算， 并对所述多个任务的容忍因子补集进行累积计算的步骤， 直至所 述任务序列中所有任务被调度至对应的物理 处理器上。 7.如权利要求6所述的装置， 其特 征在于， 所述调度单 元具体用于： 从所述至少一个待共享物理 处理器中选取一个待共享物理 处理器； 基于每个所述任务在所述任务序列中的顺序， 将第一个任务加入至待调度队列； 计算所述待调度队列之中所有任务的计算资源耗用量之和与容忍因子之和； 响应于所述待调度队列之中所有任务的计算资源耗用量之和小于或等于所述选取的 待共享物理处理器的计算资源总量， 且所述待调 度队列之中所有任务的容忍因子之和小于权　利　要　求　书 2/3 页 3 CN 114816720 B 3