(19)国家知识产权局 (12)发明 专利申请 (10)申请公布号 (43)申请公布日 (21)申请 号 202211151905.X (22)申请日 2022.09.21 (71)申请人 哈尔滨理工大 学 地址 150080 黑龙江省哈尔滨市南岗区学 府路52号 (72)发明人 刘宇鹏　林明豪　 (74)专利代理 机构 哈尔滨市松花江专利商标事 务所 23109 专利代理师 张换男 (51)Int.Cl. G16H 10/00(2018.01) G06N 20/00(2019.01) G06F 21/62(2013.01) (54)发明名称 一种基于医疗联邦方的训练系统及训练方 法 (57)摘要 一种基于医疗联邦方的训练系统及训练方 法， 它属于机器学习模型训练领域。 本发明解决 了采用现有方法训练出的机器学习模型的精度 低的问题。 本发 明以高效和隐私保护的方式提供 了公平、 准确的联邦学习参与方贡献评估， 同时 基于贡献评估 结果设计了模型聚合方法， 指导在 线的联邦学习服务器选择性能最好的中间聚合 模型分发给各医疗联邦方进行本地训练， 就可以 训练出满足精度要求的机器学习模 型， 提高了所 获得的机器学习模型的精度。 本发 明方法可以应 用于机器学习模型训练领域。 权利要求书3页 说明书10页 附图5页 CN 115547437 A 2022.12.30 CN 115547437 A 1.一种基于 医疗联邦方的训练系统， 其特征在于， 所述系统包括机器学习 模型、 贡献评 估模块、 模型聚合模块、 声誉管理模块和用户交 互模块， 其中： 所述声誉管理模块用于根据各医院的历史贡献评估记录计算各医院在各情境中的声 誉平均值； 联邦学习的发起者根据声誉管理模块的计算结果选择参与 联邦学习的医疗联邦方， 选 择的医疗联邦方用于根据各自的本地医学 数据集训练机器学习模型； 贡献评估模块用于对各医疗联邦方的训练结果进行贡献评估， 并将贡献评估结果反馈 给声誉管理模块， 声誉管理模块对各医疗联邦方的历史贡献评估记录进行 更新； 模型聚合模块用于根据对各医疗联邦方的贡献评估结果进行模型聚合， 获得聚合后的 模型； 并将聚合成的模型发送回参与下一轮训练的各个医疗联邦方； 用户交互模块用于提供 给授权人员访问和管理的功能。 2.根据权利要求1所述的一种基于 医疗联邦方的训练系统， 其特征在于， 所述联邦学习 的发起者根据声誉管理模块的计算结果选择参与联邦学习的医疗联邦方， 其具体为： 将各 家医院的声誉平均值按照降序排列后， 从各家医院中选择出声誉平均值排在前面的医院作 为联邦学习的参与方。 3.根据权利要求1所述的一种基于 医疗联邦方的训练系统， 其特征在于， 所述机器学习 模型的初始化 参数的获得 方式为： 根据训练任务随机初始化机器学习模型的参数或者通过在公共医学数据集上预训练 机器学习模型来初始化机器学习模型的参数。 4.根据权利要求1所述的一种基于 医疗联邦方的训练系统， 其特征在于， 所述贡献评估 模块对各医疗联邦方的训练结果进行贡献评估是基于Shapley值和引导截断梯度进行的， 计算Shapley值所采用的效用评价 函数V(S)为： 其中， M是上一轮训练聚合成的机器学习模型， S是本轮训练过程中参与训练的医疗联 邦方的个数， |Dj|为第j个医疗 联邦方的本地医学数据集Dj的大小， |DS|表示S个医疗联邦方 的本地医学 数据集DS的大小之和， Δj是第j个医疗联邦方的梯度更新。 5.根据权利要求1所述的一种基于 医疗联邦方的训练系统， 其特征在于， 所述模型聚合 模块根据对各医疗联邦方的贡献评估结果进行模型聚合， 其具体过程 为： 其中， M(t+1)为第t次迭代聚合成的新的机器学习模型， M(t)为第t‑1次迭代聚合成的新的 机器学习模型， 为第t次迭代时第k个医疗联邦方的训练结果， 为第t次迭代参与聚合的第k个医疗联邦方的梯度更新， Dk为第t次迭代参与聚合的第k 个医疗联邦方的本地医学数据集， |Dk|为第t次迭代参与聚合的第k个医疗联邦方的本地医 学数据集的大小， 表示第t次迭代参与聚合的Sp个医疗联邦方的本地医学权　利　要　求　书 1/3 页 2 CN 115547437 A 2数据集的大小之和， k ＝1,2,…,Sp。 6.一种基于医疗联邦方的训练方法， 其特 征在于， 所述方法具体为： 步骤1、 联邦学习的发起 者从候选池的N家医院中选择 出参与联邦学习的医疗联邦方； 步骤2、 每 个医疗联邦方均利用各自的本地医学 数据集来训练初始化的机器学习模型； 步骤3、 根据每个医疗联邦方的训练结果进行医疗联邦方的贡献评估， 根据贡献评估结 果将医疗联邦方训练得到的模型进行聚合， 获得聚合成的新的机器学习模型， 并根据贡献 评估结果确定下一轮参与训练的医疗联邦方； 步骤4、 将聚合成的新的机器学习模型发送回确定出的下一轮参与训练的各个医疗联 邦方； 步骤5、 重复步骤2至步骤4的过程， 直至获得的机器学习模型达到精度要求时停止， 获 得训练好的机器学习模型。 7.根据权利要求6所述的一种基于医疗联邦方的训练方法， 其特征在于， 所述步骤1的 具体过程 为： 根据历史贡献评估记录分别得到每家医院在每个情境下的声誉值， 再计算出第i家医 院在各个情境下声誉的平均值， i ＝1,2,…,N； 将N家医院的声誉平均值按照降序排列后， 从N家医院中选择出声誉平均值排在前N ′位 的医院作为联邦学习的医疗联邦方。 8.根据权利要求6所述的一种基于 医疗联邦方的训练方法， 其特征在于， 所述初始化的 机器学习模型的初始化 参数的获得 方式为： 根据训练任务随机初始化机器学习模型的参数或者通过在公共医学数据集上预训练 机器学习模型来初始化机器学习模型的参数。 9.根据权利要求6所述的一种基于 医疗联邦方的训练方法， 其特征在于， 所述根据每个 医疗联邦方的训练结果进 行医疗联邦方的贡献评估 是基于Shapley值和引导截断梯度进 行 的， 计算Shapley值所采用的效用评价 函数V(S)为： 其中， M是上一轮训练聚合成的机器学习模型， S是本轮训练过程中参与训练的医疗联 邦方的个数， |Dj|为第j个医疗 联邦方的本地医学数据集Dj的大小， |DS|表示S个医疗联邦方 的本地医学 数据集DS的大小之和， Δj是第j个医疗联邦方的梯度更新。 10.根据权利要求6所述的一种基于医疗联邦方的训练方法， 其特征在于， 所述根据贡 献评估结果将医疗联邦方训练得到的模型进行聚合， 其具体过程 为： 其中， M(t+1)为第t次迭代聚合成的新的机器学习模型， M(t)为第t‑1次迭代聚合成的新的 机器学习模型， 为第t次迭代时第k个医疗联邦方的训练结果， 为第t次迭代参与聚合的第k个医疗联邦方的梯度更新， Dk为第t次迭代参与聚合的第k 个医疗联邦方的本地医学数据集， |Dk|为第t次迭代参与聚合的第k个医疗联邦方的本地医权　利　要　求　书 2/3 页 3 CN 115547437 A 3