(19)国家知识产权局 (12)发明 专利 (10)授权公告 号 (45)授权公告日 (21)申请 号 202111643872.6 (22)申请日 2021.12.2 9 (65)同一申请的已公布的文献号 申请公布号 CN 114416351 A (43)申请公布日 2022.04.29 (73)专利权人 北京百度网讯科技有限公司 地址 100085 北京市海淀区上地十街10号 百度大厦2层 (72)发明人 刘吉　吴志华　冯丹蕾　周晨娣　 张敏旭　吴鑫烜　姚雪峰　窦德景　 于佃海　马艳军　 (74)专利代理 机构 北京钲霖知识产权代理有限 公司 11722 专利代理师 李英艳　杨继成(51)Int.Cl. G06F 9/50(2006.01) G06N 3/04(2006.01) G06N 3/08(2006.01) G06N 7/00(2006.01) (56)对比文件 CN 113326099 A,2021.08.31 CN 113010288 A,2021.0 6.22 CN 112579280 A,2021.0 3.30 US 2019250949 A1,2019.08.15 审查员 赵静 (54)发明名称 资源分配方法、 装置、 设备、 介质及计算机程 序产品 (57)摘要 本公开提供了资源分配方法、 装置、 设备、 介 质及计算机程序产品， 涉及计算机领域， 尤其涉 及分布式作业技术领域。 具体实现方案为： 确定 待进行资源分配的神经网络模型， 并确定能够为 神经网络模 型提供资源的设备集合； 基于设备集 合和神经网络模型， 确定第一评估点集合； 对第 一评估点集合进行更新迭代， 得到第二评估点集 合， 第二评估点集合中包括第二数量的评估点， 且每一评估点对应一个资源分配方案， 以及该资 源分配方案对应的资源使用成本， 第二数量大于 第一数量； 在第二评估点集合中选择资源使用成 本最小的资源分配方案， 作为对神经网络模型进 行资源分配的资源分配方案。 通过本公开可以实 现为神经网络模型分配合 适的资源。 权利要求书3页 说明书11页 附图6页 CN 114416351 B 2022.10.21 CN 114416351 B 1.一种资源分配方法， 包括： 确定待进行资源分配的神经网络模型， 并确定能够为所述神经网络模型提供资源的设 备集合； 基于所述设备集合和所述神经网络模型， 确定第 一评估点集合， 其中， 所述第 一评估点 集合中包括第一数量的评估点， 且每一评估点对应一个资源分配方案， 以及该资源分配方 案对应的资源使用成本； 对所述第一评估点集合进行更新迭代， 得到第二评估点集合， 所述第二评估点集合中 包括第二数量的评估点， 且每一评估点对应一个资源分配方案， 以及该资源分配方案对应 的资源使用成本， 所述第二数量大于所述第一数量； 在所述第二评估点集合中选择资源使用成本最小的资源分配方案， 作为对所述神经网 络模型进行资源分配的资源分配方案； 其中， 所述对所述第一评估点 集合进行更新迭代， 得到第二评估点 集合， 包括： 基于所述第一评估点 集合更新贝叶斯 算法模型 所应用目标函数的概 率代理模型； 基于更新后的概率代理模型， 随机生成观察点集合， 所述观察点集合中包括第三数量 的观察点， 且每一观察 点对应一个资源分配方案； 在所述观察 点集合中选择贝叶斯 算法模型 所应用采集 函数值最小的观察 点； 确定所述采集函数值最小的观察点对应资源分配方案中神经网络模型的资源使用成 本； 将所述采集函数值最小的观察点对应资源分配方案以及对应的资源使用成本， 作为更 新的评估点， 加入所述第一评估点 集合中； 重复执行上述过程， 直至得到第二评估点 集合。 2.根据权利要求1所述的方法， 其中， 所述基于所述设备集合和所述神经网络模型， 确 定第一评估点 集合， 包括： 随机生成第 一数量的资源分配方案， 其中， 每一资源分配方案 中包括有被分配的设备， 以及所述设备用于执 行的所述神经网络模型中网络层； 确定所述第一数量的资源分配方案中每一资源分配方案对应的资源使用成本； 基于所述第一数量的资源分配方案以及对应的资源使用成本， 得到第一评估点 集合。 3.根据权利要求1所述的方法， 其中， 所述贝叶斯算法模型所应用目标函数为高斯过程 函数。 4.根据权利要求1所述的方法， 其中， 所述贝叶斯算法模型所应用采集函数为指数积分 EI函数。 5.根据权利要求1至4中任意一项所述的方法， 其中， 资源分配方案中所述神经网络模 型的资源使用成本采用如下 方式确定： 确定资源分配方案与神经网络模型的资源使用成本之间的对应关系； 基于所述对应关系， 确定资源分配方案中所述神经网络模型的资源使用成本 。 6.根据权利要求5所述的方法， 其中， 所述确定资源分配方案与 所述神经网络模型的资 源使用成本之间的对应关系， 包括： 针对所述设备集合中的多种不同类型的设备， 分别确定所述设备匹配所述资源分配方 案的设备使用数量， 并确定所述设备使用数量与所述设备对应的设备使用成本之 间的第一权　利　要　求　书 1/3 页 2 CN 114416351 B 2乘积值； 确定所述多种不同类型的设备中各设备对应的第 一乘积值之间的和值， 并确定神经网 络训练数据数量与所述神经网络模型对应的数据吞吐量之间的比值； 确定所述和值与所述比值之间的第 二乘积值， 并基于所述资源分配方案与 所述第二乘 积值之间的对应关系， 得到资源分配方案与神经网络模型的资源使用成本之间的对应关 系。 7.根据权利要求6所述的方法， 其中， 所述神经网络模型划分为不同阶段， 所述不同阶 段中每一阶段包含所述神经网络模型的一个或多个网络层， 且每一阶段由同一类型的设备 所执行； 所述神经网络模型对应的数据吞吐量满足如下约束条件： 所述神经网络模型的数据吞吐量小于所述阶段中各阶段对应的最小数据吞吐量； 以及 所述阶段中各阶段对应的数据吞吐量相等。 8.一种资源分配装置， 包括： 确定模块， 用于确定待进行资源分配的神经网络模型， 并确定能够为所述神经网络模 型提供资源的设备集合； 以及基于所述设备集合和所述神经网络模型， 确定第一评估点集 合， 其中， 所述第一评估点集合中包括第一数量的评估点， 且每一评估点对应一个 资源分配 方案， 以及该资源分配方案对应的资源使用成本； 处理模块， 用于对所述第 一评估点集合进行更新迭代， 得到第二评估点集合， 所述第二 评估点集合中包括第二数量的评估点， 且每一评估点对应一个资源分配方案， 以及该资源 分配方案对应的资源使用成本， 所述第二数量大于所述第一数量； 以及在所述第二评估点 集合中选择资源使用成本最小的资源分配方案， 作为对所述神经网络模型进 行资源分配的 资源分配方案； 其中， 所述处理模块采用 如下方式对所述第一评估点集合进行更新迭代， 得到第二评 估点集合： 基于所述第一评估点 集合更新贝叶斯 算法模型 所应用目标函数的概 率代理模型； 基于更新后的概率代理模型， 随机生成观察点集合， 所述观察点集合中包括第三数量 的观察点， 且每一观察 点对应一个资源分配方案； 在所述观察 点集合中选择贝叶斯 算法模型 所应用采集 函数值最小的观察 点； 确定所述采集函数值最小的观察点对应资源分配方案中神经网络模型的资源使用成 本； 将所述采集函数值最小的观察点对应资源分配方案以及对应的资源使用成本， 作为更 新的评估点， 加入所述第一评估点 集合中； 重复执行上述过程， 直至得到第二评估点 集合。 9.根据权利要求8所述的装置， 其中， 所述确定模块采用如下方式基于所述设备集合和 所述神经网络模型， 确定第一评估点 集合： 随机生成第 一数量的资源分配方案， 其中， 每一资源分配方案 中包括有被分配的设备， 以及所述设备用于执 行的所述神经网络模型中网络层； 确定所述第一数量的资源分配方案中每一资源分配方案对应的资源使用成本； 基于所述第一数量的资源分配方案以及对应的资源使用成本， 得到第一评估点 集合。权　利　要　求　书 2/3 页 3 CN 114416351 B 3