(19)国家知识产权局 (12)发明 专利申请 (10)申请公布号 (43)申请公布日 (21)申请 号 202211282074.X (22)申请日 2022.10.19 (71)申请人 深圳前海微众 银行股份有限公司 地址 518000 广东省深圳市前海深港合作 区前湾一路1号A栋201室 （入驻深圳市 前海商务秘书 有限公司） (72)发明人 古瀚林　范力欣　杨强　 (74)专利代理 机构 深圳市世纪恒程知识产权代 理事务所 4 4287 专利代理师 杨培权 (51)Int.Cl. G06N 5/04(2006.01) G06N 20/20(2019.01) G06N 3/08(2006.01) G06N 3/04(2006.01)G06F 21/62(2013.01) (54)发明名称 模型安全推理方法、 电子设备、 介质及程序 产品 (57)摘要 本申请公开了一种模 型安全推理方法、 电子 设备、 介质及程序产品， 应用于客户端， 包括： 获 取待推理样本， 根据隐私保护模块， 对所述待推 理样本进行基于周期性地样本变换， 得到周期性 变换推理样 本； 将所述周期性变换推理样本上传 至服务端， 以供所述服务端基于推理模型， 对所 述周期性变换推理样本进行模型推理， 得到模型 推理结果； 接收所述服务端下发的模型推理结 果。 本申请解决了两方模型安全推理效率低的技 术问题。 权利要求书2页 说明书16页 附图3页 CN 115470908 A 2022.12.13 CN 115470908 A 1.一种模型安全推理方法， 其特 征在于， 应用于客户端， 所述模型安全推理方法包括： 获取待推理样本， 根据隐私保护模块， 对所述待推理样本进行基于周期性地样本变换， 得到周期性变换推理样本； 将所述周期性变换推理样本上传至服务端， 以供所述服务端基于推理模型， 对所述周 期性变换推理样本进行模型推理， 得到模型推理结果； 接收所述 服务端下发的模型推理结果。 2.如权利要求1所述模型安全推理方法， 其特征在于， 所述隐私保护模块包括周期性神 经网络和噪声模块， 所述根据隐私保护模块， 对所述待推理样本进行基于周期性地样本变换， 得到周期性 变换推理样本的步骤 包括： 通过所述待推理样本输入所述周期性神经网络， 对所述待推理样本进行基于周期性的 样本映射， 得到周期性映射样本； 依据所述噪声模块， 对所述周期性映射样本进行噪声附加， 得到所述周期性变换推理 样本。 3.如权利要求2所述模型安全推理方法， 其特征在于， 所述周期性神经网络包括神经网 络参数和周期性激活函数， 所述通过所述待推理样本输入所述周期性神经网络， 对所述待推理样本进行基于周期 性的样本映射， 得到周期性映射样本的步骤 包括： 依据所述神经网络参数， 对所述待推理样本进行线性变换， 得到线性变换样本； 依据所述周期性激活函数， 对所述线性变换样本进行周期性激活， 得到所述周期性映 射样本。 4.如权利要求1所述模型安全推理方法， 其特征在于， 在所述获取待推理样本， 根据隐 私保护模块， 对所述待推理样本进行基于周期性地样本变换， 得到周期性变换推理样本的 步骤之前， 所述模型安全推理方法还 包括： 接收所述服务端下发的初始隐私保护模块和预设噪声阈值， 根据所述预设噪声阈值， 生成本地附加噪声； 根据所述本地附加噪声， 对所述初始隐私保护模块中的噪声模块进行调整， 得到所述 隐私保护模块。 5.一种模型安全推理方法， 其特 征在于， 应用于服 务端， 所述模型安全推理方法包括： 接收客户端上传的周期性变换推理样本， 其中， 所述周期性变换推理样本由所述客户 端根据隐私保护模块对待推理样本进行基于周期性 地样本变换 得到； 根据推理模型， 对所述周期性变换推理样本进行模型推理， 得到模型推理结果； 将所述模型推理结果下发至所述 客户端。 6.如权利要求5所述模型安全推理方法， 其特征在于， 在所述接收客户端上传的周期性 变换推理样本的步骤之前， 所述模型安全推理方法还 包括： 获取训练样本， 通过将所述训练样本输入待训练隐私保护模块， 对所述训练样本进行 基于周期性 地样本变换， 得到周期性变换训练样本； 将所述周期性变换训练样本输入待训练推理模型， 对所述周期性变换训练样本进行样 本预测， 得到训练样本预测结果；权　利　要　求　书 1/2 页 2 CN 115470908 A 2根据所述训练样本预测结果计算的模型损失， 对所述待训练隐私保护模块和所述待训 练推理模型进行迭代优化， 得到所述隐私保护模块和所述推理模型； 将所述隐私保护模块和预设噪声阈值下发至所述 客户端。 7.如权利要求5所述模型安全推理方法， 其特征在于， 所述服务端包括横向联邦学习的 参与方设备， 在所述接 收客户端上传的周期性变换推理样本的步骤之前， 所述模型安全推 理方法还 包括： 获取训练样本， 通过将所述训练样本输入待训练隐私保护模块， 对所述训练样本进行 基于周期性 地样本变换， 得到周期性变换训练样本； 根据所述周期性变换训练样本， 对所述待训练隐私保护模块和待训练推理模型进行迭 代优化； 获取所述待训练推理模型的本地网络参数， 将所述本地网络参数上传至横向联邦服务 器， 其中， 所述横向联邦服务器用于将各所述参与方设备上传的本地网络参数聚合为联邦 网络参数； 接收所述横向联邦服务器下发的联邦网络参数， 将所述待训练推理模型的本地网络参 数更新为所述联邦网络参数； 返回执行步骤： 获取训练样本， 通过将所述训练样本输入待训练隐私保护模块， 对所述 训练样本进行基于周期性地样本变换， 得到周期性变换训练样本， 直至检测到横向联邦学 习建模完毕， 将所述待训练隐私保护模块作为所述隐私保护模块以及将所述待训练推理模 型作为所述推理模型； 将所述隐私保护模块和预设噪声阈值下发至所述 客户端。 8.一种电子设备， 其特 征在于， 所述电子设备包括： 至少一个处 理器； 以及， 与所述至少一个处 理器通信连接的存 储器； 其中， 所述存储器存储有可被所述至少一个处理器执行的指令， 所述指令被所述至少一个处 理器执行， 以使所述至少一个处理器能够执行权利要求 1至7中任一项 所述的模 型安全推理 方法的步骤。 9.一种计算机可读存储介质， 其特征在于， 所述计算机可读存储介质上存储有实现模 型安全推理方法的程序， 所述实现模型安全推理方法的程序被处理器执行以实现如权利要 求1至7中任一项所述模型安全推理方法的步骤。 10.一种计算机程序产品， 包括计算机程序， 其特征在于， 所述计算机程序被处理器执 行时实现如权利要求1至7中任一项所述模型安全推理方法的步骤。权　利　要　求　书 2/2 页 3 CN 115470908 A 3