(19)国家知识产权局 (12)发明 专利 (10)授权公告 号 (45)授权公告日 (21)申请 号 202111254170.9 (22)申请日 2021.10.27 (65)同一申请的已公布的文献号 申请公布号 CN 113988260 A (43)申请公布日 2022.01.28 (73)专利权人 杭州海康威视数字技 术股份有限 公司 地址 310051 浙江省杭州市滨江区阡 陌路 555号 (72)发明人 吴昌建　张迪　陈鹏　张玉全　 薛军印　黄球　连欢欢　田清波　 (74)专利代理 机构 北京博思佳知识产权代理有 限公司 1 1415 专利代理师 王茹 (51)Int.Cl. G06N 3/04(2006.01)G06N 3/08(2006.01) G06N 20/00(2019.01) (56)对比文件 CN 113297396 A,2021.08.24 CN 113537518 A,2021.10.2 2 CN 112329010 A,2021.02.0 5 CN 113408743 A,2021.09.17 Haizhou Du et al. .Toward Efficient Federated Learn ing in Multi- Channeled Mobile Edge Netw ork. 《arxiv》 .2021,第1-12 页. 雷凯等.智能生态网络： 知识驱动的未来 价 值互联网基础设施. 《应用科 学学报》 .2020,第38 卷(第1期),第152-172页. 审查员 王春雨 (54)发明名称 一种数据处 理方法、 装置、 设备及系统 (57)摘要 本申请提供一种数据处理方法、 装置、 设备 及系统， 该方法包括： 获取与第一客户端的本域 数据匹配的第一目标联邦模型， 第一目标联邦模 型包括网络骨干层和第一网络头层； 将网络骨干 层发送给每个第二客户端， 以使第二客户端生成 第二目标联邦模 型， 第二目标联邦模 型包括所述 网络骨干层和随机网络头层， 基于第二客户端的 本域数据对随机网络头层的模型参数进行调整， 得到第二网络头层； 接收每个第二客户端返回的 第二网络头层， 并基于所述网络骨干层、 所述第 一网络头层和每个第二客户端返回的第二网络 头层生成最终联邦模型； 其中， 所述最终联邦模 型用于对待处理数据进行处理。 通过本申请的技 术方案， 最终联邦模型在本域数据和它域数据上 的性能均比较高。 权利要求书4页 说明书16页 附图6页 CN 113988260 B 2022.11.25 CN 113988260 B 1.一种数据处理方法， 其特征在于， 联邦学习系统包括第一客户端和至少一个第二客 户端， 所述方法应用于所述第一 客户端， 所述方法包括： 获取与所述第一客户端的本域图像数据匹配的第一目标联邦模型； 其中， 所述第一目 标联邦模 型包括网络骨干层和第一网络头层； 所述第一目标联邦模型包括K个网络层， 所述 K个网络层中的前面M个网络层是网络骨干层， 且除网络骨干层之外的其余网络层是第一网 络头层； 或者， 所述K个网络层中的后面N个网络层是第一网络头层， 且除第一网络头层之外 的其余网络层是网络骨干层； 其中， K、 M和N均为 正整数， M小于K， N小于K； 将所述网络骨干层发送给每个第二客户端， 以使第二客户端生成第二目标联邦模型， 所述第二目标联邦模型包括所述网络骨干层和随机网络头层， 所述随机网络头层的结构与 所述第一网络头层的结构相同， 所述随机网络头层的模型参数与所述第一网络头层的模型 参数不同， 基于所述第二客户端的本域图像数据对所述随机网络头层的模型参数进行调 整， 得到第二网络 头层； 接收每个第二客户端返回的第二网络头层， 并基于所述网络骨干层、 所述第一网络头 层和每个第二客户端返回的第二网络 头层生成最终联邦模型； 其中， 所述 最终联邦模型用于对待处 理图像数据进行处 理。 2.根据权利要求1所述的方法， 其特征在于， 基于所述网络骨干层、 所述第一网络头层 和每个第二客户端返回的第二网络 头层生成最终联邦模型， 包括： 将所述网络骨干层的输出端与所述第一网络头层、 每个第二网络头层拼接， 得到所述 最终联邦模型； 其中， 在所述最 终联邦模型中， 所述第一网络头层和每个第二网络头层为并 行关系。 3.根据权利要求2所述的方法， 其特 征在于， 所述基于所述网络骨干层、 所述第 一网络头层和每个第 二客户端返回的第 二网络头层 生成最终联邦模型之后， 所述方法还 包括： 将待处理图像数据输入给所述最终联邦模型的所述网络骨干层， 由所述网络骨干层对 所述待处 理图像数据进行处 理， 得到所述待处 理图像数据对应的数据特 征； 将所述数据特征输入给所述第 一网络头层， 由所述第 一网络头层对所述数据 特征进行 处理， 得到第一处理结果， 并将所述数据特征输入给每个第二网络头层， 由各第二网络头层 对所述数据特 征进行处 理， 得到第二处 理结果； 基于第一处 理结果和各第二处 理结果确定所述待处 理图像数据的目标处 理结果。 4.根据权利要求1所述的方法， 其特征在于， 所述基于所述第 二客户端的本域图像数据 对所述随机网络 头层的模型参数进行调整， 得到第二网络 头层， 包括： 所述第二客户端将所述第 二客户端的本域图像数据输入给所述第 二目标联邦模型， 以 通过所述第二 客户端的本域图像数据对所述第二目标 联邦模型进行训练； 其中， 在通过所述第二客户端的本域图像数据对所述第二目标联邦模型进行训练时， 对所述随机网络头层的模型参数进行调整， 得到与所述第二客户端的本域图像数据匹配的 第二网络 头层， 且不对所述网络骨干层的模型参数进行调整。 5.根据权利要求1 ‑4任一项所述的方法， 其特 征在于， 所述方法还 包括： 基于已配置的划分参数M将所述第一目标联邦模型的K个网络层划分为网络骨干层和 第一网络头层； 或者， 基于已配置的划分参数N将所述第一目标联邦模型的K个网络层划分权　利　要　求　书 1/4 页 2 CN 113988260 B 2为网络骨干层和第一网络 头层。 6.根据权利要求1 ‑4任一项所述的方法， 其特 征在于， 所述获取与所述第一 客户端的本域图像数据匹配的第一目标 联邦模型， 包括： 基于所述第 一客户端的本域图像数据对已获取的原始模型进行训练， 得到已训练的初 始联邦模型， 将所述初始联邦模型发送给服务端， 由所述服务端基于所述第一客户端的初 始联邦模型和各第二客户端的初始联邦模型， 为所述第一客户端生成与所述第一客户端的 本域图像数据匹配的第一目标 联邦模型； 从所述服务端获取 所述第一目标 联邦模型。 7.根据权利要求6所述的方法， 其特征在于， 所述服务端基于所述第 一客户端的初始联 邦模型和各第二客户端的初始联邦模型， 为所述第一客户端生成与所述第一客户端的本域 图像数据匹配的第一目标 联邦模型， 包括： 所述服务端基于所述第 一客户端的加权系数和各第 二客户端的加权系数， 对所述第 一 客户端的初始联邦模型和各第二客户端的初始联邦模型进 行加权融合， 得到与所述第一客 户端的本域图像数据匹配的第一目标 联邦模型； 其中， 所述第一 客户端的加权系数 大于每个第二客户端的加权系数。 8.一种数据处理装置， 其特征在于， 联邦学习系统包括第一客户端和至少一个第二客 户端， 所述装置应用于所述第一 客户端， 所述装置包括： 获取模块， 用于获取与所述第一客户端的本域图像数据匹配的第一目标联邦模型， 所 述第一目标联邦模型包括网络骨干层和第一网络头层； 所述第一 目标联邦模型包括K个网 络层， 所述K个网络层中的前面M个网络层是网络骨干层， 且除网络骨干层之外的其余网络 层是第一网络头层； 或者， 所述K个网络层中的后面N个网络层是第一网络头层， 且除第一网 络头层之外的其 余网络层是网络骨干层； 其中， K、 M和N均为 正整数， M小于K， N小于K； 发送模块， 用于将所述网络骨干层发送给每个第二客户端， 以使第二客户端生成第二 目标联邦模型， 所述第二 目标联邦模型包括所述网络骨干层和随机网络头层， 所述 随机网 络头层的结构与所述第一网络头层的结构相同， 所述随机网络头层的模型参数与所述第一 网络头层的模型参数不同， 基于所述第二客户端的本域图像数据对所述随机网络头层的模 型参数进行调整， 得到第二网络 头层； 接收模块， 用于 接收每个第二客户端返回的第二网络 头层； 生成模块， 用于基于所述网络骨干层、 所述第一网络头层和每个第二客户端返回的第 二网络头层生成最终联邦模型； 其中， 所述 最终联邦模型用于对待处 理图像数据进行处 理。 9.根据权利要求8所述的装置， 其特征在于， 所述生成模块基于所述网络骨干层、 所述 第一网络头层和每个第二客户端返回的第二网络头层生成最 终联邦模型时具体用于： 将所 述网络骨干层的输出端与所述第一网络头层、 每个第二网络头层拼接， 得到所述最终联邦 模型； 其中， 在所述 最终联邦模型中， 所述第一网络 头层和每 个第二网络 头层为并行关系； 其中， 所述装置还包括： 处理模块， 用于将待处理图像数据输入给所述最终联邦模型的 所述网络骨干层， 由所述网络骨干层对所述待处理图像数据进行处理， 得到所述待处理图 像数据对应的数据特征； 以及， 将所述数据特征输入给所述最终联邦模型的第一网络头层， 由所述第一网络头层对所述数据特征进