(19)国家知识产权局 (12)发明 专利申请 (10)申请公布号 (43)申请公布日 (21)申请 号 202210410158.0 (22)申请日 2022.04.19 (71)申请人 光大科技有限公司 地址 100040 北京市石景山区石景山路乙 18号院1号楼120 6 (72)发明人 李钰　樊昕晔　王鹏　田江　 向小佳　丁永建　李璠　 (74)专利代理 机构 北京康信知识产权代理有限 责任公司 1 1240 专利代理师 张丹红 (51)Int.Cl. H04L 9/00(2022.01) H04L 9/08(2006.01) H04L 9/30(2006.01) H04L 9/32(2006.01)G06F 21/60(2013.01) G06N 3/04(2006.01) G06N 3/08(2006.01) (54)发明名称 基于联邦学习的模型训练方法、 装置及存储 介质 (57)摘要 本发明实施例提供了一种基于联邦学习的 模型训练方法、 装置及存储介质， 该方法包括： 参 与联邦学习的第一子节点和第二子节点分别计 算本地参数， 并分别对所述本地参数进行加密； 所述第一子节点和所述第二子节点分别将加密 后的所述本地参数发送到区块链网络； 所述区块 链网络对加密后的所述本地参数进行聚合， 根据 聚合结果计算全局参数， 并将所述全局参数回传 给所述第一子节点和所述第二子节 点； 所述第一 子节点和所述第二子节点根据所述全局参数进 行参数更新， 完成模型训练。 通过本发明， 解决了 相关技术中联邦框架下的模型训练过程中存在 数据安全隐患的问题， 保证了联邦学习框架下的 数据隐私， 实现了局部模型权 重的安全聚合。 权利要求书2页 说明书11页 附图4页 CN 114760023 A 2022.07.15 CN 114760023 A 1.一种基于联邦学习的模型训练方法， 其特 征在于， 包括： 参与联邦学习的第 一子节点和第 二子节点分别计算本地参数， 并分别对所述本地参数 进行加密； 所述第一子节点和所述第二子节点分别将加密后的所述本地 参数发送到区块链网络； 所述区块链网络对加密后的所述本地参数进行聚合， 根据聚合结果计算全局参数， 并 将所述全局参数回传给 所述第一子节点和所述第二子节点； 所述第一子节点和所述第二子节点 根据所述全局参数进行参数 更新， 完成模型训练。 2.根据权利要求1所述的方法， 其特征在于， 所述第 一子节点和所述第 二子节点分别对 所述本地 参数进行加密包括： 所述第一子节点和所述第二子节点之间交换第一密钥； 所述第一子节点和所述第 二子节点分别根据接收到的所述第 一密钥生成第 二密钥， 并 使用所述第二密钥加密各自的所述本地 参数得到第一加密本地 参数； 所述第一子节点和所述第二子节点使用所述区块链网络提供的公钥分别加密各自的 所述第一加密本地 参数， 得到各自的第二加密本地 参数。 3.根据权利要求2所述的方法， 其特征在于， 所述第 一子节点和所述第 二子节点之间交 换第一密钥包括： 所述第一子节点和所述第二子节点之间通过迪菲霍尔曼DH算法交换第一密钥。 4.根据权利要求3所述的方法， 其特征在于， 所述第 一子节点和所述第 二子节点之间通 过迪菲霍尔曼DH算法交换第一密钥包括： 在所述第一子节点和所述第二子节点之间公开素 数a和素数p， 其中， a是p的一个原根； 所述第一子节点选择第一随机数， 并根据所述第一随机数、 所述素数a和所述素数p计 算所述第一子节点的所述第一密钥； 所述第二子节点选择第二 随机数， 并根据所述第二 随 机数、 所述素 数a和所述素 数p计算所述第二子节点的所述第一密钥； 所述第一子节点和所述第二子节点之间交换 各自的所述第一密钥。 5.根据权利要求4所述的方法， 其特征在于， 所述第 一子节点和所述第 二子节点分别根 据接收到的所述第一密钥生成第二密钥包括： 所述第一子节点根据接收到的所述第 二子节点的所述第 一密钥、 所述第 一随机数和所 述素数p生成所述第一子节点的所述第二密钥； 所述第二子节点根据接 收到的所述第一子 节点的所述第一密钥、 所述第二随机数和所述素 数p生成所述第二子节点的所述第二密钥。 6.根据权利要求5所述的方法， 其特征在于， 使用所述第 二密钥加密各自的所述本地参 数得到第一加密本地 参数包括： 所述第一子节点将所述第一子节点的所述本地参数加上所述第一子节点的所述第二 密钥得到所述第一子节点的所述第一加密本地参数， 且所述第二子节点将所述第二子节点 的所述本地参数减去所述第二子节点的所述第二密钥得到所述第二子节点的所述第一加 密本地参数； 或者， 所述第一子节点将所述第一子节点的所述本地参数减去所述第一子节点的所述第二 密钥得到所述第一子节点的所述第一加密本地参数， 且所述第二子节点将所述第二子节点 的所述本地参数加上所述第二子节点的所述第二密钥得到所述第二子节点的所述第一加 密本地参数。权　利　要　求　书 1/2 页 2 CN 114760023 A 27.根据权利要求5所述的方法， 其特征在于， 所述第 一子节点和所述第 二子节点使用所 述区块链网络提供的公钥分别加密各自的所述第一加密本地参数， 得到各自的第二加密本 地参数包括： 所述第一子节点和所述第 二子节点使用所述 区块链网络提供的公钥， 基于同态加密算 法分别加密各自的所述第一加密本地 参数， 得到各自的第二加密本地 参数。 8.根据权利要求7所述的方法， 其特征在于， 所述 区块链网络对加密后的所述本地参数 进行聚合， 根据聚合结果计算全局参数包括： 所述区块链网络对所述第一子节点和所述第二子节点各自的所述第二加密本地参数 进行乘法运算， 得到所述第一子节点的所述本地参数和所述第二子节点的所述本地参数的 和作为所述聚合结果， 并将所述聚合结果取平均 作为所述全局参数。 9.根据权利要求1 ‑8中任一项所述的方法， 其特征在于， 所述第一子节点和所述第二子 节点根据所述全局参数进行参数 更新， 完成模型训练包括： 所述第一子节点和所述第 二子节点根据所述全局参数进行参数更新， 并确定模型是否 收敛； 在模型不收敛的情况下， 返回继续执行参与 联邦学习的第 一子节点和第 二子节点分别 计算本地 参数的步骤； 在模型收敛的情况 下， 确定完成模型训练。 10.根据权利要求1 ‑8中任一项所述的方法， 其特 征在于， 所述本地 参数包括局部梯度。 11.一种基于联邦学习的模型训练装置， 设置于参与联邦学习的子节点， 其特征在于， 包括： 加密模块， 用于计算本地 参数， 并对所述本地 参数进行加密； 发送模块， 用于将加密后的所述本地 参数发送到区块链网络； 接收模块， 用于接收所述区块链网络在对参与 联邦学习的各子节点的加密后的所述本 地参数进行聚合， 并根据聚合结果计算全局参数后， 回传给 所述子节点的所述全局参数； 训练控制模块， 用于根据所述全局参数进行参数 更新， 完成模型训练。 12.一种基于联邦学习的模型训练装置， 设置 于区块链网络， 其特 征在于， 包括： 接收模块， 用于参与联邦学习的各子节点发送的加密后的本地 参数； 聚合模块， 用于对各子节点的加密后的所述本地参数进行聚合， 并根据聚合结果计算 全局参数； 回传模块， 用于将所述全局参数回传给 各子节点。 13.一种计算机可读存储介质， 其特征在于， 所述计算机可读存储介质中存储有计算机 程序， 其中， 所述计算机程序被设置为运行时执行所述权利要求1至10任一项中所述的方 法。 14.一种电子装置， 包括存储器和 处理器， 其特征在于， 所述存储器中存储有计算机程 序， 所述处理器被设置为运行所述计算机程序以执行所述权利要求1至10任一项中所述的 方法。权　利　要　求　书 2/2 页 3 CN 114760023 A 3