(19)国家知识产权局 (12)发明 专利申请 (10)申请公布号 (43)申请公布日 (21)申请 号 202210700146.1 (22)申请日 2022.06.20 (71)申请人 网易(杭州)网络有限公司 地址 310052 浙江省杭州市滨江区网商路 599号网易大厦 (72)发明人 陈京来　赵增　刘柏　范长杰　 胡志鹏　 (74)专利代理 机构 北京超凡宏宇专利代理事务 所(特殊普通 合伙) 11463 专利代理师 高燕 (51)Int.Cl. G06T 1/20(2006.01) G06F 9/50(2006.01) (54)发明名称 边缘节点的GPU运行方法、 装置、 电子设备及 介质 (57)摘要 本申请提供一种边缘节点的GPU运行方法、 装置、 电子设备及介质， 该方法包括： 获取GPU任 务的任务处理信息， 任务处理信息包括任务标 识， 任务标识用于指示 GPU任务的任务类型； 创建 与任务标识所指示的任务类型对应的Pod； 按照 与任务标识所指示的任务类型对应的边缘节点 搜索策略搜索目标边缘节点； 将所创建的Pod调 度到目标边缘节点上， 以由目标边缘节点执行 GPU任务。 通过本申请， 能够针对不同任务类型的 GPU任务采用相应的调度方式， 有效提升了边缘 节点的GPU 使用效率。 权利要求书2页 说明书14页 附图3页 CN 115082286 A 2022.09.20 CN 115082286 A 1.一种边 缘节点的GPU运行 方法， 其特 征在于， 包括： 获取GPU任务的任务处理信息， 所述任务处理信息包括任务标识， 所述任务标识用于指 示GPU任务的任务类型； 创建与所述任务标识所指示的任务类型对应的Pod； 按照与所述任务标识所指示的任务类型对应的边 缘节点搜索策略搜索目标边 缘节点； 将所创建的Pod调度到所述目标边缘节点上， 以由所述目标边缘节点执行所述GPU任 务。 2.根据权利要求1所述的方法， 其特征在于， 所述任务类型包括GPU独享任务， 与GPU独 享任务对应的边 缘节点搜索策略为基于GPU独享任务针对GPU的设备需求 来搜索边 缘节点。 3.根据权利要求2所述的方法， 其特征在于， 按照所述任务需求信 息所指示的边缘节点 搜索策略搜索目标边 缘节点的步骤 包括： 确定节点池中的各边 缘节点的运行状态， 所述 运行状态包括工作状态和空 闲状态； 将从处于空闲状态的边缘节点中搜索到的满足GPU独享任务针对GPU的设备需求的边 缘节点， 确定为所述目标边 缘节点。 4.根据权利要求1所述的方法， 其特征在于， 所述任务类型包括GPU共享任务组， 与GPU 共享任务组对应的边缘节 点搜索策略为基于针对GPU共享任务组所预先设置的占用标识 来 搜索边缘节点。 5.根据权利要求4所述的方法， 其特征在于， 所述任务处理信息还包括针对GPU共享任 务组所预先设置的占用标识， 所述GPU共享任务组包括多个共享子任务， 其中， 通过以下 方式为每 个共享子任务确定目标边 缘节点： 从节点池的各边缘节点中搜索是否存在具有所述GPU共享任务组对应的占用标识的边 缘节点； 若存在， 则将搜索到的边 缘节点确定为用于执 行该共享子任务的目标边 缘节点； 若不存在， 则从节点池中不执行GPU独享任务的边缘节点中选取一边缘节点， 并将所选 取的边缘节点确定为用于执 行该共享子任务的目标边 缘节点。 6.根据权利要求5所述的方法， 其特 征在于， 还 包括： 为从不执 行GPU独享任务的边 缘节点中所选取的边 缘节点添加占用标识； 在所述目标边缘节点执行完成GPU共享任务组中的所有共享子任务之后， 清除为所述 目标边缘节点所 添加的占用标识。 7.根据权利要求1所述的方法， 其特征在于， 将所创建的Pod调度到所述目标边缘节点 上， 以由所述目标边 缘节点执 行所述GPU任务的步骤 包括： 在启动Pod时， 调用GPU设备插件以获得设备环境变量， 所述设备环境变量由GPU设备插 件通过以下方式获得： 获取GPU任务针对GPU的设备需求， 按照所述设备需求从所述目标边 缘节点中选取GPU， 基于所选取的GPU的设备信息生成设备环境变量； 将所获得的设备环境变量注入Pod， 并启动容器以执 行所述GPU任务。 8.根据权利要求7 所述的方法， 其特 征在于， 还 包括： 在启动容器时， 根据所述设备环境变量中所声明的设备信息， 将所述设备信息所指示 的GPU映射到容器中， 并将所述设备信息所指示的GPU的驱动库也映射到容器中。 9.根据权利要求1所述的方法， 其特征在于， 还包括： 对节点池中的各边缘节点进行节权　利　要　求　书 1/2 页 2 CN 115082286 A 2点注册， 其中， 通过以下 方式为每 个边缘节点进行节点注 册： 在该边缘节点上构建信息查看工具； 通过该边缘节点上的边缘组件调用信息查看工具， 以按照预设信息规范获取GPU状态 信息； 通过该边缘节点上的GPU设备插件调用所述边缘组件， 以基于所获取的GPU状态信息完 成节点注 册。 10.根据权利要求9所述的方法， 其特征在于， 通过以下方式在每个边缘节点上构建信 息查看工具： 根据该边缘节点的节点环境和布置在该边缘节点上的GPU的GPU类型， 对初始信息查看 工具进行适配， 以使适配后的初始信息查看工具能够在所述节点环境下从所述GPU类型 的 GPU获取到GPU状态信息； 将适配后的初始信息查看工具确定所述信息查看工具。 11.一种边 缘节点的GPU运行装置， 其特 征在于， 包括： 获取模块， 用于获取GPU任务的任务处理信息， 所述任务处理信息包括任务标识， 所述 任务标识用于指示GPU任务的任务类型； 创建模块， 用于创建与所述任务标识所指示的任务类型对应的Pod； 搜索模块， 用于按照与所述任务标识所指示的任务类型对应的边缘节点搜索策略搜索 目标边缘节点； 调度模块， 用于将所创建的Pod调度到所述目标边缘节点上， 以由所述目标边缘节点执 行所述GPU任务。 12.一种电子设备， 其特征在于， 包括： 处理器、 存储器和总线， 所述存储器存储有所述 处理器可执行 的机器可读指令， 当电子设备运行时， 所述处理器与所述存储器之间通过所 述总线进行通信， 所述机器可读指令被所述处理器运行时执行如权利要求1至10中任一项 所述的边 缘节点的GPU运行 方法的步骤。 13.一种计算机可读存储介质， 其特征在于， 所述计算机可读存储介质上存储有计算机 程序， 所述计算机程序被处理器运行时执行如权利要求1至10中任一项所述的边缘节点的 GPU运行方法的步骤。权　利　要　求　书 2/2 页 3 CN 115082286 A 3