(19)国家知识产权局 (12)发明 专利 (10)授权公告 号 (45)授权公告日 (21)申请 号 202210559255.6 (22)申请日 2022.05.23 (65)同一申请的已公布的文献号 申请公布号 CN 114662155 A (43)申请公布日 2022.06.24 (73)专利权人 广州中平智能科技有限公司 地址 510000 广东省广州市南沙区丰泽 东 路106号 （自编1号楼） X13 01-I013661 (72)发明人 郑飞州　 (74)专利代理 机构 广州容大知识产权代理事务 所(普通合伙) 44326 专利代理师 刘新年 (51)Int.Cl. G06F 21/62(2013.01) G06K 9/62(2022.01)G06N 3/08(2006.01) G06N 20/20(2019.01) (56)对比文件 CN 110874484 A,2020.0 3.10 CN 110674528 A,2020.01.10 审查员 郑攀 (54)发明名称 面向联邦学习的数据隐私安全机制评估方 法、 设备及 介质 (57)摘要 本发明涉及数据隐私保护领域， 具体公开了 一种面向联邦学习的数据隐私安全机制评估方 法、 设备及介质， 包括对用于训练本地模型的样 本数据集进行采样， 得到原始样本； 通过重构模 型， 重构一组与原始样本相关的重构样本； 计算 原始样本与重构样本的梯度差异， 并依据梯度差 异迭代重构样本， 获得最终重构样本； 计算最终 重构样本与原始样本的相似度和匹配率， 作为所 述样本数据集的监测值； 比较所述监测值是否大 于等于预设值时， 如是， 则发出梯度泄露风险告 警； 否则， 提示安全。 本发明根据重构样本与输入 样本的相似度来制定风险评估指标， 不依赖于预 训练的统计模型。 权利要求书2页 说明书6页 附图2页 CN 114662155 B 2022.09.02 CN 114662155 B 1.一种面向联邦学习的数据隐私安全机制评估方法， 其特 征在于， 包括： 对用于训练本地模型的样本数据集进行采样， 得到原 始样本； 通过重构模型， 重构一组与原 始样本相关的重构样本； 通过公式 （1） 计算原始样本与重构样本的梯度差异； 并通过公式 （2） ， 迭代更新重构样 本 ， 获得最终重构样本；              （1） ；                           （2） 其中， 为最终重构样本的特征 ‑标签对， 为更新步长， 为由重构样本 计算而得的重构模型梯度， 为由原始样本(x,y)计算而得的原始模型梯度， F为 待训练的神经网络模型,其模型参数为W， 为计算重构模型梯度 与 原始模型梯度 之间的L2范数差异， 为该项的计算权重， 为计算重构样本模型梯度与原始模型梯度的负余弦函数值， 其中<>为求向量间的点积操 作， 为求向量的模长， 为该项的计算权重； 为计算模型 的预测标签和原始样本标签的L2范数差异， 其中F为模型， 为重构样本的特征， 为重构 样本的标签， W为模型参数， 为重构样本对应的模型预测标签， y为原始样本的标 签， 为该项的计算权 重； 计算最终重构样本与原始样本的相似度和匹配率， 作为所述样本数据集的监测值， 具 体为： 将重构样本特征 和欲保护的输入样本特征x采用MSE相似度算法， 获得最终重构样 本与原始样本的相似度值， 采用匹配率Match算法计算最 终重构样本与原始样本的匹配率； 将相似度值和匹配率作为所述样本数据集的监测值； 所述MSE相似度算法， 具体为公式 （3） ：                （3） 其中， m为原 始样本的样本个数； 所述匹配率Matc h算法， 具体为公式 （4） ：权　利　要　求　书 1/2 页 2 CN 114662155 B 2；                 （4） 其中， 表示当a与b相同， 则该 的值为1， 否则 的值为0； 当所述监测值大于等于预设值时， 发出梯度泄 露风险告警； 当所述监测值小于所述预设值时， 提 示安全。 2.根据权利要求1所述的一种面向联邦学习的数据隐私安全机制评估方法， 其特征在 于， 所述通过重构模型， 重构一组与原 始样本相关的重构样本， 具体为： 依据原始样本， 通过正态分布随机初始化， 获得一组与原 始样本相同维度的重构样本 。 3.根据权利要求1所述的一种面向联邦学习的数据隐私安全机制评估方法， 其特征在 于， 还包括： 输出相似度和匹配率， 以及最终重构样本 。 4.一种终端设备， 其特征在于， 包括： 处理器和存储装置， 所述存储装置用于存储一个 或多个程序； 当所述一个或多个程序被所述处理器执行时， 所述处理器实现根据权利要求 1 至3中任意一项所述的面向联邦学习的数据隐私安全机制评估方法。 5.一种计算机可读存储介质， 其特征在于， 所述计算机可读存储介质包括存储的计算 机程序， 其中， 在所述计算机程序运行时控制所述计算机可读存储介质所在设备执行如权 利要求1至 3中任意一项所述的面向联邦学习的数据隐私安全机制评估方法。权　利　要　求　书 2/2 页 3 CN 114662155 B 3