(19)国家知识产权局 (12)发明 专利申请 (10)申请公布号 (43)申请公布日 (21)申请 号 202210025877.0 (22)申请日 2022.01.11 (71)申请人 扬州大学 地址 225009 江苏省扬州市大 学南路88号 (72)发明人 张佳乐　李晔　陈玮彤　薄莉莉　 孙小兵　 (74)专利代理 机构 南京苏高专利商标事务所 (普通合伙) 32204 专利代理师 张弛 (51)Int.Cl. H04L 9/32(2006.01) H04L 9/30(2006.01) (54)发明名称 一种可验证的轻量化隐私保护联邦学习系 统及方法 (57)摘要 本发明公开了一种可验证的轻量化隐私保 护联邦学习系统及方法， 来防止局部梯度在传输 阶段泄漏。 本发明包括初始化模块、 注册模块、 局 部训练模块、 聚合和解密模块以及全局更新模 块； 在局部训练模块， 基于Paillier同态密码体 制和分布式选择性随机梯度下降(DSSGD)方法， 提出了一种有效的PPFL机制， 该机制可以保护局 部模型梯度隐私， 降低密码系统的计算成本。 在 聚合和解密模块， 采用带边缘计算框架的在线/ 离线签名方法， 实现了对数据完整性的轻量级局 部梯度验证； 通过将耗时的操作外包， 降低了计 算成本。 权利要求书4页 说明书8页 附图3页 CN 114785510 A 2022.07.22 CN 114785510 A 1.一种可验证的轻量 化隐私保护联邦学习 系统， 其特 征在于， 包括： 初始化模块， 生成一个随机数p1、 一个双线性 映射 其中， 为p阶乘法循 环群， 是p×p阶乘法循环群， |p1|＝k1， (k,k1)为两个安全参数； 生成随机数对(n,g)和 ( λ, μ )， 计算Paillier密码系统的公私钥对(pk,sk)＝(n,g),( λ, μ )， 生成三个安全的加密单 向散列函数 以及一个变色龙散列函数 其中， 和 分别为p阶和 阶的整数循环群； 从整数循环群 和乘法循环 群 中随机生成三个元素 Q， 且 对 进行 计算； 其中， 是对 进行乘方运算得到的一个值， g1为生成元； 将初始化的秘钥参数 发送给移动终端； 将主密钥 分配给中 央服务器， 其中， p,q为随机生成的两个大 素数； 注册模块， 绘制 作为签名密钥Sigk， 绘制 作为认证密钥Verk； 计算ei ＝H1(ki||IDi||SIt)， 其中， ei为数学符号， 表示哈希运算； 是不可见的因子， IDi代表 参与者i的身份， SIt代表时间t内的本地状态信息； 计算用户注册参数 βi＝ei‑xiH2 ( αi)； 发送注册信息{yi, αi, βi}给中央服务器； 计算 并作为参与者i 的认证密钥， 其中， 表示当前时间戳， Q为参与方身份信息； 广播注册信息{yi, αi, βi}； 从 中生成离线签名参数 计算 同时将本地状态 信息SI＝(ei,si,ui)保存在本 地， 其中， g2和g3是在线认证密钥中的两个元素； 基于DTCH 函数 按照 计算BLS签名； 发送离线签名 给边缘服务器； 发送在线认证密钥Veron＝(g1,g2,g3)给中央服 务器； 局部训练模块， 计算联邦学习某一通信轮的梯度向量 其中 表示对权重wt求偏导， 为本地模型的损失函数； 分离权重 和梯度 计算本地参数 其中η为本地学习 率； 生成参与方的 本地模型并更新本地 参数为 计算本地密文 其中mod表示求余函数， 表示n2阶的整数循环 群； 计算在线签名参数 其中 生成在线 签名 给中央服 务器发送本地密文 和在线签名 聚集和解密模块， 计算聚合后的密文 并将ct+1转换为标准权　利　要　求　书 1/4 页 2 CN 114785510 A 2Paillier加密格式 采用Paillier密 码系统的解密算法 对聚合后的密文ct+1进行解密， 得到聚合后的明文Lt+1， 其中， R(u)＝ [(u‑1)/n]； 全局更新模块， 中央服务器对聚合后的明文Lt+1进行平均， 生成一个新的全局模型 当 下 一 个 通 信轮 t+ 1 开 始时 ， 每 个 参 与者 i 根 据 更新参与者i的本地模型参数w(t+1)， 其中η′表示本地学习 率； 重复上述操作， 直至全局模型趋 于收敛， 整个流 程结束。 2.根据权利要求1所述的可验证的轻量化隐私保护联邦学习系统， 其特征在于： 在注册 模块中， 在发送注册信息{yi, αi, βi}给中央服务器之后， 检查公式 的正确性， 若正 确， 则允许访问； 否则直接拒绝访问。 3.根据权利要求2所述的可验证的轻量化隐私保护联邦学习系统， 其特征在于： 在局部 训练模块中， 在计算联邦学习某一通信轮的梯度向量之前， 通过认证密钥Verk检查等式 的正确性， 若验证正确， 则继续执行后续流程； 否则拒绝执 行； 通过确定方程 是否为真来批量验证离线签名， 若等式成立返回允许访问， 否则返回拒绝访问。 4.根据权利要求3所述的可验证的轻量化隐私保护联邦学习系统， 其特征在于： 在聚集 和解密模块中， 在计算聚合后的密文之前， 通过验证等式Hch(ri,si,ui)＝Hch(ci,s′i,u′i)是否成立来验 证在线签名的正确性， 其中ri为随机生成的大整数， ci为本地密文； 如果成立返回允许访问， 否则返回拒绝访问。 5.一种可验证的轻量 化隐私保护联邦学习方法， 包括： (1)生成一个随机数p1、 一个双线性映射 其中， 为p阶乘法循环群， 是p×p阶乘法循环群， |p1|＝k1， (k,k1)为两个安全参数； 生成随机数对(n,g)和( λ, μ )， 计算 Paillier密码系统的公私钥对(pk,sk)＝(n,g),( λ, μ )， 生成三个安全的加密单向散列函数 以及一个变色龙散列函数 其中， 和 分别为p阶和 阶的整数循环群； 从整数循环群 和乘法循环群 中随机生成三 个元素 Q， 且 对 进行计算； 其中， 是对 进行乘方运 算得到的一个值， g1为生成元； 将初始化的秘钥参数 发送给移动终端； 将主密钥 分配给中权　利　要　求　书 2/4 页 3 CN 114785510 A 3