(19)国家知识产权局 (12)发明 专利申请 (10)申请公布号 (43)申请公布日 (21)申请 号 202211282836.6 (22)申请日 2022.10.19 (71)申请人 深圳前海微众 银行股份有限公司 地址 518000 广东省深圳市前海深港合作 区前湾一路1号A栋201室 （入驻深圳市 前海商务秘书 有限公司） (72)发明人 范力欣　古瀚林　李开涞　杨强　 (74)专利代理 机构 深圳市世纪恒程知识产权代 理事务所 4 4287 专利代理师 杨培权 (51)Int.Cl. G06N 20/20(2019.01) G06N 3/08(2006.01) G06N 3/04(2006.01) G06F 21/62(2013.01) (54)发明名称 横向联邦模 型构建优化方法、 系统、 设备、 介 质及产品 (57)摘要 本申请公开了一种横向联邦模型构建优化 方法、 系统、 设备、 介质及产品， 应用于参与方设 备， 包括： 获取本地样本， 通过将所述本地样本输 入私有隐私保护模块， 对所述本地样本进行基于 周期性地样本变换， 得到周期性变换样本； 通过 将所述周期性变换样本输入本地共享神经网络， 对所述私有 隐私保护模块和所述本地共享神经 网络进行本地迭代训练优化； 获取所述本地共享 神经网络的本地网络参数， 通过将所述本地网络 参数上传至联邦服务器， 对私有隐私保护模块和 本地共享神经网络进行基于横向联邦学习的迭 代优化。 本申请解决了在进行数据隐私保护的前 提下如何提升横向联邦建模过程中各参与方设 备之间的通信效率的技 术问题。 权利要求书2页 说明书17页 附图3页 CN 115438807 A 2022.12.06 CN 115438807 A 1.一种横向联邦模型构建优化方法， 其特征在于， 应用于参与 方设备， 所述横向联邦模 型构建优化方法包括： 获取本地样本， 通过将所述本地样本输入私有隐私保护模块， 对所述本地样本进行基 于周期性 地样本变换， 得到周期性变换样本； 通过将所述周期性变换样本输入本地共享神经网络， 对所述私有隐私保护模块和所述 本地共享神经网络进行本地迭代训练优化； 获取所述本地共享神经网络的本地网络参数， 将所述本地网络参数上传至联邦服务 器， 其中， 所述联邦服务器用于将各所述参与方设备上传的本地网络参数聚合为联邦网络 参数； 接收所述联邦服务器下发的联邦网络参数， 将所述本地共享神经网络的本地网络参数 更新为所述联邦网络参数； 返回执行步骤： 获取本地样本， 通过将所述本地样本输入私有隐私保护模块， 对所述本 地样本进行基于周期性地样本变换， 得到周期性变换样本， 直至检测到横向联邦学习建模 完毕。 2.如权利要求1所述横向联邦模型构建优化方法， 其特征在于， 所述私有隐私保护模块 包括私有周期性神经网络和私有噪声模块， 所述通过将所述本地样本输入私有隐私保护模块， 对所述本地样本进行基于周期性地 样本变换， 得到周期性变换样本的步骤 包括： 通过所述本地样本输入所述私有周期性神经网络， 对所述本地样本进行基于周期性的 样本映射， 得到周期性映射样本； 依据所述私有噪声模块， 对所述周期性映射样本进行噪声附加， 得到所述周期性变换 样本。 3.如权利要求2所述横向联邦模型构建优化方法， 其特征在于， 所述私有周期性神经网 络包括神经网络参数和周期性激活函数， 所述通过所述本地样本输入所述私有周期性神经网络， 对所述本地样本进行基于周期 性的样本映射， 得到周期性映射样本的步骤 包括： 依据所述神经网络参数， 对所述本地样本进行样本映射， 得到映射样本； 依据所述周期性激活函数， 对所述映射样本进行周期性激活， 得到所述周期性映射样 本。 4.如权利要求1所述横向联邦模型构建优化方法， 其特征在于， 所述横向联邦模型构建 优化方法还 包括： 获取待预测样本， 根据所述私有隐私保护模块， 对所述待预测样本进行基于周期性地 样本变换， 得到第一周期性变换 预测样本； 根据所述本地共享神经网络， 对所述第一周期性变换预测样本进行样本预测， 得到第 一样本预测结果。 5.如权利要求1至4任一项所述横向联邦模型构建优化方法， 其特征在于， 所述横向联 邦模型构建优化方法还 包括： 接收客户端发送 的第二周期性变换预测样本， 根据本地共享神经网络， 对所述第二周 期性变换预测样 本进行样本预测， 得到第二样 本预测结果， 其中， 所述第二周期性变换预测权　利　要　求　书 1/2 页 2 CN 115438807 A 2样本由所述客户端根据所述参与方设备下发的私有隐私保护模块确定的目标隐私保护模 块， 对待预测样本进行基于周期性 地样本变换 得到； 将所述第二样本预测结果反馈 至所述客户端。 6.如权利要求5所述横向联邦模型构建优化方法， 其特征在于， 在所述接收客户端发送 的第二周期性变换 预测样本的步骤之前， 所述横向联邦模型构建优化方法还 包括： 将所述私有隐私保护模块和预设噪声阈值下发至客户端， 以供所述客户端根据 所述预 设噪声阈值确定的本地附加噪声， 对所述私有隐私保护模块中的私有 噪声模块进行调整， 得到目标隐私保护模块。 7.一种横向联邦学习 系统， 其特 征在于， 所述横向联邦学习 系统包括： 至少一个参与方设备， 用于获取本地样本， 通过将所述本地样本输入私有隐私保护模 块， 对所述本地样本进 行基于周期性地样本变换， 得到周期性变换样 本； 通过将所述周期性 变换样本输入本地共享神经网络， 对所述私有隐私保护模块和所述本地共享神经网络进 行 本地迭代训练优化； 获取所述本地共享神经网络的本地网络参数， 将所述本地网络参数上 传至联邦服务器； 接 收所述联邦服务器下发的联邦网络参数， 将所述本地共享神经网络的 本地网络参数更新为所述联邦网络参数； 返回执行步骤： 获取本地样 本， 通过将所述本地样 本输入私有隐私保护模块， 对所述本地样本进行基于周期性地样本变换， 得到周期性变换 样本， 直至检测到横向联邦学习建模完毕； 联邦服务器， 用于将各 所述参与方设备 上传的本地网络参数聚合 为联邦网络参数。 8.如权利要求7所述横向联邦学习系统， 其特征在于， 所述横向联邦学习系统还包括客 户端， 所述参与 方设备还用于将所述私有隐私保护模块下发至客户端； 接收所述客户端发送 的周期性变换预测样本， 根据本地共享神经网络， 对所述周期性变换预测样本进行样本预 测， 得到样本预测结果； 将 样本预测结果反馈 至所述客户端； 所述客户端用于根据 所述私有隐私保护模块确定的目标隐私保护模块， 对待预测样本 进行基于周期性地样本变换， 得到周期性变换预测样本； 将所述周期性变换预测样本发送 至参与方设备； 接收所述 参与方设备反馈的样本预测结果。 9.一种电子设备， 其特 征在于， 所述电子设备包括： 至少一个处 理器； 以及， 与所述至少一个处 理器通信连接的存 储器； 其中， 所述存储器存储有可被所述至少一个处理器执行的指令， 所述指令被所述至少一个处 理器执行， 以使所述至少一个处理器能够执行权利要求 1至6中任一项 所述的横向联邦模型 构建优化方法的步骤。 10.一种计算机可读存储介质， 其特征在于， 所述计算机可读存储介质上存储有实现横 向联邦模型构建优化方法的程序， 所述 实现横向联邦模型构建优化方法的程序被处理器执 行以实现如权利要求1至 6中任一项所述横向联邦模型构建优化方法的步骤。 11.一种计算机程序产品， 包括计算机程序， 其特征在于， 所述计算机程序被处理器执 行时实现如权利要求1至 6中任一项所述横向联邦模型构建优化方法的步骤。权　利　要　求　书 2/2 页 3 CN 115438807 A 3