全网唯一标准王
(19)国家知识产权局 (12)发明 专利申请 (10)申请公布号 (43)申请公布日 (21)申请 号 202211151068.0 (22)申请日 2022.09.21 (71)申请人 国网河北省电力有限公司信息通信 分公司 地址 050026 河北省石家庄市裕华区富强 大街10号 申请人 北京邮电大 学 国家电网有限公司 (72)发明人 陈连栋 程凯 张磊 申培培  刘咸通 辛晓鹏 赵林丛 刘子州  刘玮 郭少勇  (74)专利代理 机构 石家庄国为知识产权事务所 13120 专利代理师 付晓娣 (51)Int.Cl. G06Q 10/04(2012.01)G06Q 50/06(2012.01) G06K 9/62(2022.01) (54)发明名称 面向电力数据共享的联邦学习聚合优化系 统及方法 (57)摘要 本申请适用于电力数据共享技术领域, 提供 了一种面向 电力数据共享的联邦学习 聚合优化 系统及方法, 该系统包括: 设备层、 边缘层和云 层; 设备层包括电力物联设备, 用于采集目标客 户端的电力数据, 建立分层联邦学习模型, 进行 本地模型训练; 以及将电力数据和本地模型训练 参数发送给边缘层; 边缘层包括边缘服务器, 用 于基于本地模 型训练参数, 采用模糊聚类法更新 边缘模型; 以及将电力数据和边缘模 型发送给云 层; 云层包括参数服务器, 用于根据电力数据和 边缘模型的参数, 以过时性 感知的异步更新机制 更新全局模 型。 本申请的方法能够在不稳定环境 下减少联邦学习的通信时间, 提高联邦学习在边 缘网络中应用的性能。 权利要求书4页 说明书16页 附图4页 CN 115358487 A 2022.11.18 CN 115358487 A 1.一种面向电力数据共享的联邦学习聚合优化系统, 其特征在于, 包括: 设备层、 边缘 层和云层; 所述设备层包括电力物联设备, 用于采集目标客户端的 电力数据, 建立分层联邦学习 模型, 进行本地模型训练, 以及将所述电力数据和所述本地模型训练参数发送给所述边缘 层; 所述边缘层包括边缘服务器, 用于基于所述本地模型训练参数, 采用模糊聚类法更新 边缘模型, 以及将所述电力数据和所述 边缘模型发送给 所述云层; 所述云层包括参数服务器, 用于根据所述电力数据和所述边缘模型的参数, 以过时性 感知的异步更新机制更新全局模型。 2.如权利要求1所述的面向电力数据共享的联邦学习聚合优化系统, 其特征在于, 所述 电力物联设备作为 参与所述本地模型训练的客户端, 形成分层联邦学习模型; 所述分层联邦学习模型包括本地模型训练、 边 缘模型聚合和全局模型 更新。 3.如权利要求2所述的面向电力数据共享的联邦学习聚合优化系统, 其特征在于, 所述 边缘模型用于对联邦学习模型进行重构; 所述对联邦学习模型进行重构包括通过采用模糊聚类法对所述电力物联设备进行分 簇, 选择一个目标边缘服务器作为簇头; 所述 目标边缘服务器为所述模糊聚类法的聚类中 心, 所述聚类中心对联邦学习模型进行重构。 4.如权利要求3所述的面向电力数据共享的联邦学习聚合优化系统, 其特征在于, 在所 述本地模型训练 时, 客户端使用梯度下降法来训练本地模型, 对于集群k中的客户端i来说, 在数据集 上训练的损失函数表示 为: 在所述边缘模型聚合时, 所述集群k中的设备向所述目标边缘服务器发送更新的本地 模型 得到更新的边 缘模型wk表示为: 在所述全局模型更新 时, 所述参数服务器接受所有边缘模型并进行全局聚合, 定义t轮 过后的全局损失函数 F(wt)为: 5.如权利要求1所述的面向电力数据共享的联邦学习聚合优化系统, 其特征在于, 所述 模糊聚类法包括能量消耗模型、 计算与通信时间模型和数据异质性模型; 所述能量消耗模型为: 权 利 要 求 书 1/4 页 2 CN 115358487 A 2其中, Etran(i,h)为客户端ni向nj传输b比特数据的能量消耗, αdel表示数据处理的电路 所消耗的单位能量, αop表示运行电路所消耗的单位能量, dij表示客户端ni和nj之间的距离, γ表示路径衰耗指数; 客户端ni的CPU周期频率表示为fi, 训练本地模型所需要执行的CPU周 期数为ci, βi表示样本数据大小, 是客户端i芯片组的有效电容 参数; 所述计算与通信时间模型为: 其中, 为边缘节点k传输模型参数的时间, 为边缘节点i传输模型参数的时 间; 联邦学习参数的传输速率表示为 B是传输带宽, ρk是边缘节点k的 传输功率, hk是边缘节点k之间点对点链路的信道增益, N0是可能存在的噪声; 令 边缘节点边 缘聚合所 得的模型参数 数目为σ; TPi表示客户端之间的P2P通信吞吐量; 所述数据异质性模型为: 假设第i个客户端的训练数据是从分布 中iid采样的, 则总 体分布是 所有局部数据分布的混合, 即 将SGD权重发散定义为: 使用EMD距离来量化客户端数据分布的模型权重发散程度; 设p(y=z)为总体概率分 布, pi(y=z)为第i个客户端的局部概 率分布, 则客户端i的E MD距离为: 6.如权利要求5所述的面向电力数据共享的联邦学习聚合优化系统, 其特征在于, 所述 模糊聚类法, 还包括: 将所述分层联邦学习模型聚类转化为非线性规划问题, 进行模糊K均 值聚类; 所述模糊K均值聚类表示 为: 其中, J为最小化目标, 即簇内平方误差; uki为 簇划分矩阵, μk是簇 的聚类中心; uki 包括客户端的所述能量消耗、 所述计算和通信时间和所述模型权 重分散程度。 7.如权利要求4所述的面向电力数据共享的联邦学习聚合优化系统, 其特征在于, 所述 过时性感知的异步更新机制, 包括: 对于集群k, τ表示自上次全局更新以来其内部客户端 的本地迭代次数, t ‑τ表示第t轮权 利 要 求 书 2/4 页 3 CN 115358487 A 3

.PDF文档 专利 面向电力数据共享的联邦学习聚合优化系统及方法

文档预览
中文文档 25 页 50 下载 1000 浏览 0 评论 309 收藏 3.0分
温馨提示:本文档共25页,可预览 3 页,如浏览全部内容或当前文档出现乱码,可开通会员下载原始文档
专利 面向电力数据共享的联邦学习聚合优化系统及方法 第 1 页 专利 面向电力数据共享的联邦学习聚合优化系统及方法 第 2 页 专利 面向电力数据共享的联邦学习聚合优化系统及方法 第 3 页
下载文档到电脑,方便使用
本文档由 人生无常 于 2024-03-18 06:40:37上传分享
友情链接
站内资源均来自网友分享或网络收集整理,若无意中侵犯到您的权利,敬请联系我们微信(点击查看客服),我们将及时删除相关资源。