(19)中华 人民共和国 国家知识产权局 (12)发明 专利申请 (10)申请公布号 (43)申请公布日 (21)申请 号 202111369304.1 (22)申请日 2021.11.18 (71)申请人 贵州大学 地址 550000 贵州省贵阳市花溪区花溪大 道2708号 (72)发明人 彭长根　黄湘洲　丁红发　田有亮　 樊玫玫　 (74)专利代理 机构 北京细软智谷知识产权代理 有限责任公司 1 1471 代理人 付登云 (51)Int.Cl. G06F 21/57(2013.01) G06N 20/00(2019.01) (54)发明名称 基于联邦学习的系统安全漏洞检测方法及 设备 (57)摘要 本申请涉及一种基于联邦学习的系统安全 漏洞检测方法及设备， 方法包括： 模拟待检测联 邦学习系统的联邦模型训练过程； 在联邦模型训 练过程中， 随机选取联邦模型的训练节点进行模 拟攻击； 对受到模拟攻击 之前的联邦模型和受到 模拟攻击之后的联邦模型分别进行仿真， 并将仿 真结果进行对比生成对比结果； 根据对比结果判 断待检测联邦学习系统的安全性能。 本申请中在 待检测联邦学习系统进行模型训练的过程中随 机选取联邦模型的训练节点进行模拟攻击来评 测待检测联邦学习系统的安全性能， 可以提前了 解待检测联邦学习系统到对于重放攻击的防御 程度， 从而及时做出改进和完 善。 权利要求书1页 说明书6页 附图5页 CN 114021152 A 2022.02.08 CN 114021152 A 1.一种基于联邦学习的系统安全漏洞检测方法， 其特 征在于， 包括： 模拟待检测联邦学习 系统的联邦模型训练过程； 在所述联邦模型训练过程中， 随机 选取联邦模型的训练节点进行模拟攻击； 对受到所述模拟攻击之前的联邦模型和受到所述模拟攻击之后的联邦模型分别进行 仿真， 并将仿真结果进行对比生成对比结果； 根据所述对比结果判断所述待检测联邦学习 系统的安全性能。 2.根据权利要求1所述的方法， 其特征在于， 所述随机选取联邦模型的训练节点进行模 拟攻击， 包括： 基于预先训练的重放 攻击模型向联邦模型的练节点进行模拟攻击 。 3.根据权利要求2所述的方法， 其特征在于， 所述重放攻击模型用于阻止所述联邦模型 收敛， 或者使所述联邦模型收敛在坏的局部最小值。 4.根据权利要求3所述的方法， 其特征在于， 所述重放攻击模型通过控制至少一个所述 联邦模型的训练节点阻止所述联邦模型收敛， 或者使所述联邦模型收敛在坏的局部最小 值。 5.根据权利要求1所述的方法， 其特征在于， 还包括： 统计被攻击训练节点的个数占全 部训练节点个数的比例和各被攻击训练节点的被攻击次数作为所述联邦模型的被攻击强 度。 6.根据权利要求5所述的方法， 其特征在于， 根据 所述对比结果判断所述待检测联邦学 习系统的安全性能， 包括： 根据所述联邦模型的被攻击强度和所述对比结果判断所述待检测联邦学习系统的安 全性能。 7.根据权利要求2所述的方法， 其特征在于， 所述随机选取联邦模型的训练节点进行模 拟攻击， 包括： 随机选取联邦模型的训练节点进行控制； 使被控制的各地方训练节点接收中心 节点发送的当前轮次的模型参数， 并进行解密； 使被控制的各地方训练节点使用解密后的模型参数和本地数据训练本地模型； 使被控制的各地方训练节点更新 解密后的模型参数； 使被控制的各地方训练节点加密更新后的模型参数并发送到中心 节点。 8.一种基于联邦学习的系统安全漏洞检测设备， 其特 征在于， 包括： 模拟模块， 用于模拟待检测联邦学习 系统的联邦模型训练过程； 选取模块， 用于在所述联邦模型训练过程中， 随机选取联邦模型的训练节点进行模拟 攻击； 仿真模块， 用于对受到所述模拟攻击之前的联邦模型和受到所述模拟攻击之后的联邦 模型分别进行仿真， 并将仿真结果进行对比生成对比结果； 判断模块， 用于根据所述对比结果判断所述待检测联邦学习 系统的安全性能。权　利　要　求　书 1/1 页 2 CN 114021152 A 2基于联邦学习的 系统安全漏洞检测方 法及设备 技术领域 [0001]本申请涉及联邦学习系统安全检测技术领域， 尤其涉及 一种基于联邦学习的系统 安全漏洞检测方法及设备。 背景技术 [0002]大数据时代， 数据的重要性愈发凸显， 更多的数据往往意味着更好， 更强的模型， 也就能发挥更多的作用， 产生更高的经济效益。 然而在生产实践中常常会遇到数据孤岛问 题。 联邦学习的提出解决了数据孤岛问题， 联邦学习不需要将所有的数据都集中到一个中 心节点来训练机器学习模型， 而 是让每一个拥有 数据的节点用本地的数据来训练一个本地 模型， 各节点在每一轮的迭代中共享本地的模型参数， 由中心节点来聚合所有的模型参数， 得到一个当前的全局模型， 最 终模型收敛， 中心节点就得到了一个最 终的全局模 型。 联邦学 习既能帮助多个参与方搭建共享的高性能模型， 又符合用户隐私和数据保密性的要求。 随 着联邦学习的发展， 联邦学习模型也面临着诸多安全风险， 由于联邦学习的分布式结构以 及节点与中心节点间的通信行为， 传统的网络攻击方法例如重放攻击可能成为新的模型投 毒方式， 现有技术中， 联邦学习中在面对重放攻击时的抵御手段较少， 导致基于联邦学习的 系统容易受到重放攻击的入侵 。 发明内容 [0003]为至少在一定程度上克服相关技术中联邦学习的系统容易受到重放攻击的入侵 的问题， 本申请提供一种基于联邦学习的系统安全漏洞检测方法及设备。 [0004]本申请的方案如下： [0005]根据本申请实施例的第一方面， 提供一种基于联邦学习 的系统安全漏洞检测方 法， 包括： [0006]模拟待检测联邦学习 系统的联邦模型训练过程； [0007]在所述联邦模型训练过程中， 随机 选取联邦模型的训练节点进行模拟攻击； [0008]对受到所述模拟攻击之前的联邦模型和受到所述模拟攻击之后的联邦模型分别 进行仿真， 并将仿真结果进行对比生成对比结果； [0009]根据所述对比结果判断所述待检测联邦学习 系统的安全性能。 [0010]优选的， 在本申请一种可实现的方式中， 所述随机选取联邦模型的训练节点进行 模拟攻击， 包括： [0011]基于预先训练的重放 攻击模型向联邦模型的练节点进行模拟攻击 。 [0012]优选的， 在本申请一种可实现的方式中， 所述重放攻击模型用于阻止所述联邦模 型收敛， 或者使所述联邦模型收敛在坏的局部最小值。 [0013]优选的， 在本申请一种可实现的方式中， 所述重放攻击模型通过控制至少一个所 述联邦模型的训练节 点阻止所述联邦模型收敛， 或者使所述联邦模型收敛在坏的局部最小 值。说　明　书 1/6 页 3 CN 114021152 A 3