(19)国家知识产权局 (12)发明 专利申请 (10)申请公布号 (43)申请公布日 (21)申请 号 202210634337.2 (22)申请日 2022.06.06 (71)申请人 电子科技大 学 地址 610000 四川省成 都市高新区 （西区） 西源大道 2006号 (72)发明人 王瑞锦　赖金山　张凤荔　刘东　 朱举异　张志扬　 (74)专利代理 机构 成都众恒智合专利代理事务 所(普通合伙) 51239 专利代理师 王育信 (51)Int.Cl. G06F 21/62(2013.01) G06N 3/04(2006.01) G06N 3/08(2006.01) (54)发明名称 一种云边端协同的泛在智能联邦学习隐私 保护系统及方法 (57)摘要 本发明公开了一种云边端协同的泛在智能 联邦学习隐私保护系统及方法， 系统上包括终端 设备、 参数服务器、 边缘服务器、 中心云服务器； 方法上包括： S1、 设置基于掩码 的终端训练输出 保护机制； S2、 添加局部模型的自适应差分扰动； S3、 全局模型聚合和添加自适应差分扰动。 本发 明提出了一种轻量级的隐私保护方案， 在终端设 备进行部分模 型训练并添加矩阵掩码， 保证在终 端与边缘服务器之间安全传输； 此外， 在边缘服 务器进行剩余模 型训练并添加差分扰动； 在云端 进行聚合后添加噪声再反馈给边缘服务器。 实验 结果表明， 该方案在保证隐私的前提上在 CIFAR10数据集上能达到86％的准确率， 能够很 好地满足泛在智 能的需求， 因此， 本发明非常适 合大规模推广应用。 权利要求书3页 说明书14页 附图5页 CN 115017541 A 2022.09.06 CN 115017541 A 1.一种云边端协同的泛在智能联邦学习隐私保护系统， 其特 征在于， 包括： 终端设备， 用于生成个人掩码向量和系数矩阵的分量， 收集数据集并进行部分模型训 练， 并对模型输出 添加掩码； 参数服务器， 用于进行密钥协商和分配并负责收集预定区域内终端设备的个人掩码， 然后生成公共掩码和系数矩阵， 并将公共掩码和系数矩阵发送给参与训练的终端设备和边 缘服务器； 边缘服务器， 用于从中心云服务器获取需要训练的模型框架， 收集添加掩码后的输出 并解除掩码， 然后将终端设备 的输出作为输入进行神经网络的训练， 并将训练所得 的局部 模型参数进行差分扰动， 再发送给中心云服 务器进行聚合； 中心云服务器， 用于对不同边远服务器训练所得的局部模型参数进行聚合， 再将聚合 后的全局模型参数发送给边远服 务器， 以进行 下一轮训练。 2.一种云边端协同的泛在智能联邦学习隐私保护方法， 其特征在于， 其是在云、 边、 端 协同的联邦学习上， 设置掩码添加和自适应差分扰动， 从而在保证模型精度和训练效率的 前提下， 对数据和模型参数进行隐私保护， 具体过程如下： S1、 设置基于掩码的终端训练输出保护机制： S101、 参数服务器分别和参与训练的终端设备和边缘服务器进行对称密钥协商得到对 称密钥Ss； S102、 每个终端设备生成一个个人随机掩码和个人系数向量， 并使用对称密钥加密后 发送给边 缘服务器； S103、 边缘服务器收到对称密钥之后利用系数向量组生成一个满秩矩阵A作为系数矩 阵； S104、 边缘服务器计算系数矩阵的逆A‑， 并将对应终端设备的个人随机掩码相加得到全 局公共掩码R， 然后和系数矩阵进行对称加密后发送给每一个参与训练的终端设备； S105、 终端设备收到密文后进行解密得到公共掩码和系数矩阵， 然后在训练过程中对 部分模型输出进行掩码添加； S2、 添加局部模型的自适应差分扰动： S201、 边缘服务器从中心云服务器下载并初始化模型参数， 终端设备将添加了掩码后 的部分模型输出发送给边缘服务器， 由边缘服务器解除掩码后， 以部分模型输出 的分量作 为输入进行神经网络的训练， 得到一个局部模型； S202、 求取局部模型梯度值， 并进行裁 剪； S203、 利用裁 剪后的局部模型梯度值更新局部模型参数； S204、 对更新后的局部模型参数 添加高斯噪声； S205、 各边缘服务器将添加了噪声的局部模型参数发送到中心云服 务器； S3、 全局模型聚合和添加自适应差分扰动： S301、 中心云服务器收到各个边缘服务器的局部模型参数后， 对其进行聚合并获得全 局模型参数； S302、 对全局模型参数进行裁 剪； S303、 裁剪后， 在全局模型参数中添加高斯噪声， 并更新全局模型参数； S304、 中心云服务器将更新后的全局模型参数下发给边缘服务器进行下一轮次的训权　利　要　求　书 1/3 页 2 CN 115017541 A 2练， 直到模型收敛或达 到迭代次数为止 。 3.根据权利要求2所述的一种云边端协同的泛在智能联邦学习隐私保护方法， 其特征 在于， 所述步骤S 102具体过程为： 每个终端设备 di使用随机数生成器random.uni form()生 成个人随机掩码ri， 该ri是n维列向量， 其值在[0， 1]， 并将ri进行归一化得到系数向量ai， 加 密后将ri和ai发送给边 缘服务器； 对于ri里的第j个分量； 归一 化公式如下： 式中， ||ri||2为向量的二范数， 遍历ri里的每一个分量元素， 并进行上述操作， 得到归 一化向量ai。 4.根据权利要求3所述的一种云边端协同的泛在智能联邦学习隐私保护方法， 其特征 在于， 所述步骤S103具体过程为： 边缘服务器收集来自终端设备的个人掩码ri和系数向量 ai， 并判断系数向量ai是否与系数矩阵A中的向量组线性无关， 是， 则使用添加函数append ()系数向量添加进向量组， 同时R＝R+ri， 直到rank(A)为N， 得到一个满秩矩阵A； 否， 则将系 数向量ai移除， 并重新收集个人掩码ri和系数向量ai。 5.根据权利要求4所述的一种云边端协同的泛在智能联邦学习隐私保护方法， 其特征 在于， 所述步骤S105中， 按照如下公式进行部分模型输出 的掩码添加， 得到一个n阶掩码 矩阵Mi： 其中， R和ri会自动扩展为 n维向量。 6.根据权利要求5所述的一种云边端协同的泛在智能联邦学习隐私保护方法， 其特征 在于， 所述 步骤S201中， 按照如下公式解除掩码： 7.根据权利要求2～6任一项所述的一种云边端协同的泛在智能联邦学习隐私保护方 法， 其特征在于， 所述步骤S202 中， 对于第j个边缘服务器， 其第t轮训练得到的局 部模型梯 度值为： 式中， ω表示权重参数， ωt是第j个边缘服务器第t轮训练后得到的权重参数； N是上传 到边缘服务器的终端总数； Loss是损失函数， 且 其中， Di是第i个终端设备的训练集， 且Di＝{x1， x2， x3...xn}， 是输入数据xn后得到的模型 输出； Li是第i个终端设备的标签集； 并且， 得到局部模型梯度 值 后， 计算Loss值对Yic的导数 并反馈给第i个终端设备， 第i个终端设备按照如下公式对本地神经网络参数ωc进行更新： 式中， η是学习率。 8.根据权利要求7所述的一种云边端协同的泛在智能联邦学习隐私保护方法， 其特征 在于， 所述 步骤S202中， 采用以下公式对局部梯度值进行裁 剪：权　利　要　求　书 2/3 页 3 CN 115017541 A 3