(19)国家知识产权局 (12)发明 专利申请 (10)申请公布号 (43)申请公布日 (21)申请 号 202210354107.0 (22)申请日 2022.04.03 (71)申请人 福建福清核电有限公司 地址 350300 福建省福州市福清市三 山镇 (72)发明人 梁浩　程莉红　杨伟伟　陈龙　 刘敬仪　周娟　李舒婷　鲍琨　 (74)专利代理 机构 深圳知帮办专利代理有限公 司 44682 专利代理师 刘瑞芳 (51)Int.Cl. G06F 9/48(2006.01) G06F 9/50(2006.01) G06T 1/20(2006.01) G06N 3/04(2006.01) G06K 9/62(2022.01) (54)发明名称 云计算环境中基于GPU虚拟化的调度方法、 系统和电子设备 (57)摘要 本申请公开了一种云计算环 境中基于GPU虚 拟化的调度方法、 系统和电子设备， 其一方面， 通 过基于语义关联的第一特征矩 阵和基于拓扑关 联的第二特征矩阵间的特征关联融合， 以及单个 客户端的特征表达在该融合关联特征空间内的 查询式检索， 可以获得所述单个客户端的任务性 质的适当的编码表达。 另 一方面， 分别将用于资 源特征表达的第一特征向量和用于任务性质的 关联语义特征表达的第三特征向量的各个位置 看作是节 点， 可以基于节点间的类贝塔 分布分析 来获得用于表示非关联特征分布之间的映射关 系的响应性特征分量， 以作为评估节 点分布间的 响应行为的实践因数， 所述因数能够改进节点分 布间的置信度映射估计程度， 从而获得高维特征 分布间的响应性的适当表达 。 权利要求书4页 说明书14页 附图4页 CN 115373813 A 2022.11.22 CN 115373813 A 1.一种云计算环境中基于GPU虚拟化的调度方法， 其特 征在于， 包括： 获取包含当前时间点在内的多个预定时间点的云端GPU虚拟资源的可用量； 将所述多个预定时间点的云端GPU虚拟资源的可用量通过包含一维卷积层和全连接层 的时序编码器以获得第一特 征向量； 获取多个客户端的待计算任务的任务描述； 将各个所述客户端的待计算任务的任务描述通过包含嵌入层的上下文编码器以获得 多个特征向量， 并将所述多个特征向量进 行级联以获得对应于各个所述客户端的待计算任 务的任务描述的第二特 征向量； 将所述多个客户端的多个第二特征向量二维排列为特征矩阵后通过第一卷积神经网 络以获得第一特 征矩阵； 获取所述多个客户端的拓扑矩阵， 所述拓扑矩阵中非对角线位置上各个位置的值为相 应两个客户端之间的距离， 所述拓扑矩阵中对角线位置上 各个位置的值 为零； 将所述拓扑矩阵通过第二卷积神经网络模型以获得拓扑 特征矩阵； 将所述拓扑特征矩阵与所述第一特征矩阵进行矩阵相乘以将所述拓扑特征矩阵的高 维拓扑特征映射到所述第一特征矩阵的高维特征空间中 以获得融合拓扑特征和任务性质 的语义特 征的第二特 征矩阵； 从各个所述客户端的待计算任务的任务描述的第二特征向量中提取待分配的客户端 的第二特征向量， 并将所述待分配的客户端的第二特征向量与所述第二特征矩阵进行相乘 以获得第三特 征向量； 计算所述第一特征向量和所述第三特征向量之间的节点间响应准则因数以获得第四 特征向量， 所述节点间响应准则因数与所述第一特征向量和所述第三特征向量之 间的按位 置点加与所述第一特 征向量和第三特 征向量的按位置点乘之间的比值有关； 将所述第四特征向量通过类Softmax分类函数以获得所述第四特征向量归属于分配云 端GPU虚拟资源的概 率值； 以及 基于所述概率值与所述当前时间点的云端GPU虚拟资源的可用量之间的乘积向所述待 分配的客户端分配运 算GPU虚拟资源。 2.根据权利要求1所述的云计算环境中基于GPU虚拟化的调度方法， 其中， 将所述多个 预定时间点的云端GPU虚拟资源的可用量通过包含一 维卷积层和全连接层的时序编 码器以 获得第一特 征向量， 包括： 将所述多个预定时间点的云端GPU虚拟资源的可用量按照时间维度排列为对应于各个 所述云端GPU虚拟资源的一维的输入向量； 使用所述时序编码器的全连接层以如下公式对所述输入向量进行全连接编码以提取 出所述输入向量中各个位置的特征值的高维隐 含特征 ， 其中 ， 所述公式为 ： 其中X是输入向量， Y是输出向量， W是权重矩阵， B是偏置向量， 表示 矩阵乘； 使用时序编码器的一维卷积层以如下公式对所述输入向量进行一维卷积编码以提取 出所述输入向量中各个位置的特 征值间的关联的高维隐含关联 特征， 其中， 所述公式为：权　利　要　求　书 1/4 页 2 CN 115373813 A 2其中， a为卷积核在x方向上的宽度、 F为卷积核参数向量、 G为与卷积核函数运算的局部 向量矩阵， w 为卷积核的尺寸。 3.根据权利要求2所述的云计算环境中基于GPU虚拟化的调度方法， 其中， 将各个所述 客户端的待计算任务的任务描述通过包含嵌入层的上下文编码器以获得多个特征向量， 包 括： 对各个所述客户端的待计算任务的任务描述进行分词处理以将各个所述客户端的待 计算任务的任务描述 转化为由多个词组成的词序列； 使用所述上下文编码器的嵌入层将所述词序列中各个词映射到词向量以获得词向量 的序列； 以及 使用所述上下文编码器的转化器对所述词向量的序列进行基于全局的上下文语义编 码以获得 所述多个特 征向量。 4.根据权利要求3所述的云计算环境中基于GPU虚拟化的调度方法， 其中， 将所述多个 客户端的多个第二特征向量二维排列为特征矩阵后通过第一卷积神经网络以获得第一特 征矩阵， 包括： 将所述多个客户端的多个第二特 征向量二维排列以获得 特征矩阵； 以及 所述第一卷积神经网络的各层在层的正向传递中分别对输入数据进行基于二维卷积 核的卷积处理、 沿通道维度的池化处理和激活处理以由所述第一卷积神经网络的最后一层 输出所述第一特 征矩阵， 其中， 所述第一卷积神经网络的第一层的输入为所述特 征矩阵。 5.根据权利要求4所述的云计算环境中基于GPU虚拟化的调度方法， 其中， 计算所述第 一特征向量和所述第三特 征向量之间的节点间响应准则因数以获得第四特 征向量， 包括： 以如下公式计算所述第一特征向量和所述第三特征向量之间的节点间响应准则因数 以获得第四特 征向量； 其中， 所述公式为： 其中V1为所述第一特征向量， V3为所述第三特征向量， ⊕和⊙分别表示向量点乘和点 加， 且⊙2表示向量的各位置计算平方， VI是单位向量。 6.根据权利要求5所述的云计算环境中基于GPU虚拟化的调度方法， 其中， 将所述第 四 特征向量通过类Softmax分类函数以获得所述第四特征向量归属 于分配云端GPU虚拟资源 的概率值， 包括： 将所述第四特征向量通过类Softmax分类函数以通过如下公式计算获得所述第四特征 向量归属于分配云端GPU虚拟资源的概 率值； 其中， 所述公式为： exp( ‑xi)/∑iexp(‑xi)。 7.一种云计算环境中基于GPU虚拟化的调度系统， 其特 征在于， 包括： 资源可用量获取单元， 用于获取包含当前时间点在内的多个预定时间点的云端GPU虚 拟资源的可用量；权　利　要　求　书 2/4 页 3 CN 115373813 A 3