(19)国家知识产权局 (12)发明 专利申请 (10)申请公布号 (43)申请公布日 (21)申请 号 20221079696 5.0 (22)申请日 2022.07.05 (71)申请人 中国电信股份有限公司 地址 100033 北京市西城区金融大街31号 (72)发明人 李鑫超　 (74)专利代理 机构 北京律智知识产权代理有限 公司 11438 专利代理师 孙宝海 (51)Int.Cl. G06F 16/2455(2019.01) G06F 16/23(2019.01) (54)发明名称 基于纵向联邦学习的异 步优化方法、 装置及 存储介质 (57)摘要 本申请的实施例公开了一种基于纵向联邦 学习的异步优化方法、 装置及存储介质， 方法包 括： 参与方对训练样本进行编码， 得到编码输出 向量并存储至可信数据库， 从可信数据库中请求 训练期望值， 进而基于训练期望值进行训练， 可 信第三方从可信数据库中读取训练数据， 完成聚 合模型的训练， 得到输入更新向量， 存储至可信 数据作为编码 模型的训练期望值。 本申请实施例 的技术方案， 通过设立存储中间数据的可信数据 库， 避免参与方之间发生等待现象， 同时还有效 缓解了参与方和可信第三方之间的等待。 权利要求书2页 说明书12页 附图6页 CN 114996317 A 2022.09.02 CN 114996317 A 1.一种基于纵向联邦学习的异步优化方法， 其特征在于， 应用于可信第 三方， 所述方法 包括： 从可信数据库中请求各参与方对训练样本的编码输出向量， 以将所请求的编码输出向 量作为聚合模型的训练数据； 根据所述训练数据进行 所述聚合模型的训练， 得到所述聚合模型的输入更新向量； 将所述输入更新向量存储在所述可信数据库中， 以将所述输入更新向量作为各参与方 所需的训练期望值。 2.根据权利要求1所述的方法， 其特征在于， 所述从可信数据库中请求各参与方对训练 样本的编码输出向量之前， 所述方法还 包括： 设立所述可信数据库； 通过所述可信数据库存 储各参与方发送的对训练样本的编码输出向量。 3.根据权利要求1所述的方法， 其特征在于， 所述根据所述训练数据进行所述 聚合模型 的训练， 得到所述聚合模型的输入更新向量， 包括： 将所述编码输出向量 拼接得到所述聚合模型的输入向量； 根据所述聚合模型的输入向量对所述聚合模型进行更新， 同时计算所述输入更新向 量。 4.根据权利要求3所述的方法， 其特征在于， 所述根据所述 聚合模型的输入向量对所述 聚合模型进行 更新， 同时计算所述输入更新向量， 包括： 将所述输入向量输入到所述聚合模型， 以得到预测标签； 根据所述预测标签和所述训练样本对应的样本标签 计算所述聚合模型的损失函数； 根据所述损失函数对所述聚合模型的模型参数进行更新， 并计算得到所述聚合模型的 输入更新向量。 5.根据权利要求4所述的方法， 其特征在于， 所述计算得到所述 聚合模型的输入更新向 量， 包括： 根据所述损失函数和所述聚合模型的模型参数计算得到 输入偏差值； 根据所述编码输出向量和所述输入偏差值计算得到所述输入更新向量。 6.一种基于纵向联邦学习的异步优化方法， 其特征在于， 应用于参与方， 其特征在于， 包括： 基于编码模型对训练样本进行编码， 得到编码输出向量； 将所述编码输出向量发送到可信数据库中进行存储， 以将所述编码输出向量作为可信 第三方的聚合模型的训练数据； 从所述可信数据库中请求所述训练样本的训练期望值； 根据所述训练期望值对所述编码模型进行训练。 7.根据权利要求6所述的方法， 其特征在于， 所述根据所述训练期望值对所述编码模型 进行训练， 包括： 根据所述编码输出向量和所述训练期望值计算所述编码模型的损失函数； 根据所述损失函数对所述编码模型的模型参数进行 更新， 以训练所述编码模型。 8.一种基于纵向联邦学习的异步优化装置， 其特征在于， 所述装置部署于可信第 三方， 包括：权　利　要　求　书 1/2 页 2 CN 114996317 A 2向量请求模块， 用于从可信数据库中请求各参与方对训练样本的编码输出向量， 以将 所请求的编码输出向量作为训练数据； 模型训练模块， 用于根据所述训练数据进行聚合模型的训练， 得到所述聚合模型的输 入更新向量； 数据存储模块， 用于将所述输入更新向量存储在所述可信数据库中， 以将所述输入更 新向量作为各参与方 所需的训练期望值。 9.一种基于纵向联邦学习的异步优化装置， 其特征在于， 所述装置部署于参与方， 包 括： 编码模块， 用于基于编码模型对训练样本进行编码， 得到编码输出向量； 发送模块， 用于将所述编码输出向量发送到可信数据库中进行存储， 以将所请求的编 码输出向量作为可信第三方的聚合模型的训练数据； 请求模块， 用于从所述可信数据库中请求所述训练样本的训练期望值； 训练模块， 用于根据所述训练期望值对所述编码模型进行训练。 10.一种计算机可读存储介质， 其特征在于， 其上存储有计算机可读指令， 当所述计算 机可读指令被计算机的处理器执行时， 使计算机执行权利要求1至5中的任一项所述的方 法， 或执行权利要求6 至7中的任一项所述的方法。权　利　要　求　书 2/2 页 3 CN 114996317 A 3