(19)国家知识产权局 (12)发明 专利申请 (10)申请公布号 (43)申请公布日 (21)申请 号 202210603940.4 (22)申请日 2022.05.30 (71)申请人 新奥新智科技有限公司 地址 065099 河北省廊坊市广阳区临 空经 济区航谊道自贸区科创基地2101 (72)发明人 王莹　李同治　 (74)专利代理 机构 北京嘉科知识产权代理事务 所(特殊普通 合伙) 11687 专利代理师 张艳 (51)Int.Cl. G06N 20/00(2019.01) G06F 21/60(2013.01) G06F 21/62(2013.01) G06N 3/04(2006.01) G06N 3/08(2006.01) (54)发明名称 联合学习训练方法及装置 (57)摘要 本公开涉及联合学习技术领域， 提供了一种 联合学习训练方法及装置。 该方法包括： 在模型 需求方发起训练任务后， 依据训练任务， 通过联 合学习训练中心确定出多个参与方； 利用多个参 与方的多个参与方数据对神经网络模型进行联 合学习训练； 在联合学习训练中， 获取每个参与 方对应的工作日志， 并通过安全监管中心获取每 个参与方对应的监管信息； 根据每个参与方对应 的工作日志和监管信息对神经网络模型进行审 计处理， 以得到可信联合学习模型。 采用上述技 术手段， 解决现有技术中， 无法对联合学习训练 中参与方数据的使用进行监控， 存在数据安全隐 患和无法 保证联合学习训练的可靠度的问题。 权利要求书2页 说明书10页 附图2页 CN 114897187 A 2022.08.12 CN 114897187 A 1.一种联合学习训练方法， 其特 征在于， 包括： 在模型需求方发起训练任务后， 依据所述训练任务， 通过联合学习训练中心确定出多 个参与方； 利用多个参与方的多个参与方 数据对神经网络模型进行 联合学习训练； 在所述联合学习训练中， 获取每个参与方对应的工作 日志， 并通过安全监管中心获取 每个参与方对应的监管信息； 根据每个参与方对应的所述工作日志和所述监管信息对所述神经网络模型进行审计 处理， 以得到可信联合学习模型。 2.根据权利要求1所述的方法， 其特征在于， 所述每个参与 方对应的工作日志， 包括： 数 据预处理日志、 本地训练日志、 上传日志和下 载日志； 每个参与方对应的监管信息为每个参与方和所述联合学习训练中心交互的信息， 包 括： 该参与方向所述联合学习训练中心上传模型的信息和该参与方从所述联合学习训练中 心下载模型的信息 。 3.根据权利要求2所述的方法， 其特征在于， 所述数据预处理日志、 本地训练日志、 上传 日志和下载日志均包括： 外部网络通讯信息、 计算资源占用信息、 模 型库读写信息和数据库 读取信息 。 4.根据权利要求1所述的方法， 其特征在于， 所述根据每个参与方对应的所述工作日志 和所述监管信息对所述神经网络模型进行审计处 理， 以得到可信联合学习模型， 包括： 获取每个参与方对应的本地训练日志中的第一模型参数， 其中， 每个参与方对应的工 作日志包括所述本地训练日志； 获取每个参与方向所述联合学习训练中心上传模型的信息中的第二模型参数， 其中， 每个参与方对应的监管信息包括该参与方向所述联合学习训练中心上传模型的信息； 分别对每个参与 方对应的第 一模型参数和第 二模型参数进行哈希计算， 得到第 一哈希 值和第二哈希值； 基于每个参与方对应的第 一哈希值和第 二哈希值， 利用所述安全监管中心对所述神经 网络模型进行审计处 理， 以得到所述可信联合学习模型。 5.根据权利要求4所述的方法， 其特征在于， 所述基于每个参与方对应的第 一哈希值和 第二哈希值， 利用所述安全监管中心对所述神经网络模型进行审计处理， 以得到可信联合 学习模型， 包括： 对比每个参与方对应的第一哈希值和第二哈希值： 当每个参与 方对应的第 一哈希值和第 二哈希值均一致 时， 将经过所述联合学习训练之 后的神经网络模型确定为所述可信联合学习模型； 当存在目标参与方， 向所述目标参与方发送重新上传指令， 以使所述目标参与方向所 述联合学习训练中心重新上传 模型， 以得到所述可信联合学习模型， 其中， 所述目标参与方 对应的第一哈希值和第二哈希值 不一致。 6.根据权利要求1所述的方法， 其特征在于， 所述根据每个参与方对应的所述工作日志 和所述监管信息对所述神经网络模型进行审计处 理， 以得到可信联合学习模型， 包括： 根据每个参与方对应的上传日志和每个参与方向所述联合学习训练中心上传模型的 信息， 确定每个参与方是否存在数据泄露， 其中， 每个参与方对应的工作日志包括所述上传权　利　要　求　书 1/2 页 2 CN 114897187 A 2日志， 每个参与方对应的监管信息包括该参与方向所述联合学习训练中心上传模型的信 息； 当存在数据泄露 的参与方时， 基于拦截规则利用所述安全监管中心监管存在数据泄露 的参与方与所述联合学习训练中心之间的交互， 以得到所述可信联合学习模型， 其中， 所述 拦截规则， 包括： 允许每个参与方与所述联合学习训练中心交互模型， 不 允许每个参与方与 所述联合学习训练中心交 互数据。 7.根据权利要求1所述的方法， 其特征在于， 所述根据每个参与方对应的所述工作日志 和所述监管信息对所述神经网络模型进行审计处 理， 以得到可信联合学习模型， 包括： 获取报警规则集合， 其中， 所述报 警规则集合包括多条报警规则， 每条报 警规则对应所 述工作日志和/或所述监管信息中的一个监控项， 所述工作日志和/或所述监管信息包括多 个监控项； 当所述监控日志中存在目标监控项违背所述报警规则集合中目标监控项对应的目标 报警规则时， 发出目标报警； 根据所述目标报 警对应的报 警信息对所述联合学习训练进行处理， 以得到可信联合学 习模型。 8.一种联合学习训练装置， 其特 征在于， 包括： 确定模块， 被配置为在模型需求方发起训练任务后， 依据所述训练任务， 通过联合学习 训练中心确定出多个参与方； 训练模块， 被配置为利用多个参与方的多个参与方数据对神经网络模型进行联合学习 训练； 获取模块， 被配置为在所述联合学习训练中， 获取每个参与 方对应的工作日志， 并通过 安全监管中心获取每 个参与方对应的监管信息； 审计模块， 被配置为根据每个参与方对应的所述工作日志和所述监管信 息对所述神经 网络模型进行审计处 理， 以得到可信联合学习模型。 9.一种电子设备， 包括存储器、 处理器以及存储在所述存储器中并且可在所述处理器 上运行的计算机程序， 其特征在于， 所述处理器执行所述计算机程序时实现如权利要求 1至 7中任一项所述方法的步骤。 10.一种计算机可读存储介质， 所述计算机可读存储介质存储有计算机程序， 其特征在 于， 所述计算机程序被处 理器执行时实现如权利要求1至7中任一项所述方法的步骤。权　利　要　求　书 2/2 页 3 CN 114897187 A 3