全网唯一标准王
(19)国家知识产权局 (12)发明 专利申请 (10)申请公布号 (43)申请公布日 (21)申请 号 202111491864.4 (22)申请日 2021.12.08 (71)申请人 国网上海能源互联网研究院有限公 司 地址 200131 上海市浦东 新区中国 (上海) 自由贸易试验区李冰路251号、 法拉第 路28号1幢4层、 5层 申请人 国家电网有限公司   国网浙江省电力有限公司嘉兴供电 公司 (72)发明人 岑维聪 吕广宪 陆一鸣 刘鹏  王国庆  (74)专利代理 机构 北京工信联合知识产权代理 有限公司 1 1266 专利代理师 夏德政(51)Int.Cl. G06F 30/18(2020.01) G06F 30/27(2020.01) G06K 9/62(2022.01) G06N 3/08(2006.01) G06F 111/08(2020.01) G06F 113/04(2020.01) (54)发明名称 一种适用 于配电网分布式数据存储的模型 统合方法 (57)摘要 本发明公开了一种适用于配电网分布式数 据存储的模型统合方法及系统, 包括: 确定总部 和下级单位的拓扑结构, 并在总部搭建总部节 点, 在下级单位部署代理 agent节点; 总部节点下 发全局模型和模型信息至每个下级单位对应的 agent节点; 每个agent节点对所述全局模型进行 训练, 并计算训练前后参数的差值, 并将所述差 值返回至总部节点; 总部节点对所有agent节点 返回的差值进行聚合, 以重新确定全局模型; 对 所述重新确定的全局模型进行评估, 计算所述重 新确定的全局模 型的准确率与损失函数; 若所述 准确率与损失函数满足预设准确定率阈值和损 失函数阈值, 则确定所述重新确定的全局模型为 最优全局模型。 权利要求书2页 说明书8页 附图7页 CN 115270366 A 2022.11.01 CN 115270366 A 1.一种适用于配电网分布式数据存 储的模型统合方法, 其特 征在于, 所述方法包括: 确定总部和下级单位的拓扑结构, 并在总部搭建总部节点, 在下级单位部署代 理agent 节点; 总部节点下发全局模型和模型信息 至每个下级单位对应的a gent节点; 每个agent节点对所述全局模型进行训练, 并计算训练前后参数的差值, 并将所述差值 返回至总部节点; 总部节点对所有a gent节点返回的差值进行聚合, 以重新确定全局模型; 对所述重新确定的全局模型进行评估, 计算所述重新确定的全局模型的准确率与损失 函数; 若所述准确率与损失函数满足预设准确定率阈值和损失函数阈值, 则确定所述重新确 定的全局模型为 最优全局模型。 2.根据权利 要求1所述的方法, 其特征在于, 所述总部节点和每个agent节点基于UEP通 道进行数据交互; 所述模型信息包括: 模型名称、 节点信息、 全局迭代次数、 本地模型训练迭代次数和本 地训练的样本数。 3.根据权利要求1所述的方法, 其特征在于, 所述每个agent节点对所述全局模型进行 训练, 并计算训练前后参数的差值, 包括: 每个Agent节点将获取的全局模型覆盖本地模型, 并进行模型训练, 在过程使用交叉熵 损失函数公式计算交叉熵误差, 并使用梯度下降算法求 解参数, 计算差值; 其中, 所述交叉熵损失函数公式包括: 其中, L为 交叉熵误差; M为类别数量, yic为符号函数0 或1, 如果样本i的真实类别等于c, 则取1, 否则取0, pic为观测样本i属于类别c的预测概 率。 4.根据权利要求1所述的方法, 其特征在于, 所述总部节点对所有agent节点返回的差 值进行聚合, 以重新确定全局模型, 包括: 总 部 节 点 对 每 个 a g e n t 节 点 的 返 回 值 使 用 F e d A v g 算 法 ,利 用 公 式 进行聚合, 以重新确定全局模型; 其中, Gt表示第t轮 更新的全局模型参数, 表示第i个a gent节点在第t+1轮本地更新后的模型。 5.根据权利要求1所述的方法, 其特征在于, 所述对所述重新确定的全局模型进行评 估, 计算所述重新确定的全局模型的准确率与损失函数, 包括: 总部节点聚合所有的损失cross_entropy交叉熵函数计算损失, 获取最大的对数概率 的索引值, 根据最大的对数概率的索引值在所有 预测结果中选择可能性最大的作为最终的 分类结果, 统计预测结果与真实标签的匹配总 数, 根据匹配总 数计算当前 的全局模型 的准 确值与损失率。 6.一种适用于配电网分布式数据存 储的模型统合系统, 其特 征在于, 所述系统包括: 拓扑结构确定单元, 用于确定总部和下级单位的拓扑结构, 并在总部搭建总部节点, 在 下级单位部署代理a gent节点;权 利 要 求 书 1/2 页 2 CN 115270366 A 2模型下发单元, 用于总部节点下发全局模型和模型信息至每个下级单位对应的agent 节点; 训练单元, 英语每个agent节点对所述全局模型进行训练, 并计算训练前后参数的差 值, 并将所述差值返回至总部节点; 聚合单元, 用于总部节点对所有agent节点返回的差值进行聚合, 以重新确定全局模 型; 评估单元, 用于对所述重新确定的全局模型进行评估, 计算所述重新确定的全局模型 的准确率与损失函数; 最优全局模型确定单元, 用于若所述准确率与损失函数满足预设准确定率阈值和损失 函数阈值, 则确定所述重新确定的全局模型为 最优全局模型。 7.根据权利 要求6所述的系统, 其特征在于, 所述总部节点和每个agent节点基于UEP通 道进行数据交互; 所述模型信息包括: 模型名称、 节点信息、 全局迭代次数、 本地模型训练迭代次数和本 地训练的样本数。 8.根据权利 要求6所述的系统, 其特征在于, 所述训练单元, 每个 agent节点对所述全局 模型进行训练, 并计算训练前后参数的差值, 包括: 每个Agent节点将获取的全局模型覆盖本地模型, 并进行模型训练, 在过程使用交叉熵 损失函数公式计算交叉熵误差, 并使用梯度下降算法求 解参数, 计算差值; 其中, 所述交叉熵损失函数公式包括: 其中, L为 交叉熵误差; M为类别数量, yic为符号函数0 或1, 如果样本i的真实类别等于c, 则取1, 否则取0, pic为观测样本i属于类别c的预测概 率。 9.根据权利 要求6所述的系统, 其特征在于, 所述聚合单元, 总部节点对所有agent节点 返回的差值进行聚合, 以重新确定全局模型, 包括: 总 部 节 点 对 每 个 a g e n t 节 点 的 返 回 值 使 用 F e d A v g 算 法 ,利 用 公 式 进行聚合, 以重新确定全局模型; 其中, Gt表示第t轮 更新的全局模型参数, 表示第i个a gent节点在第t+1轮本地更新后的模型。 10.根据权利要求6所述的系统, 其特征在于, 所述评估单元, 对所述重新确定的全局模 型进行评估, 计算所述重新确定的全局模型的准确率与损失函数, 包括: 总部节点聚合所有的损失cross_entropy交叉熵函数计算损失, 获取最大的对数概率 的索引值, 根据最大的对数概率的索引值在所有 预测结果中选择可能性最大的作为最终的 分类结果, 统计预测结果与真实标签的匹配总 数, 根据匹配总 数计算当前 的全局模型 的准 确值与损失率。权 利 要 求 书 2/2 页 3 CN 115270366 A 3

.PDF文档 专利 一种适用于配电网分布式数据存储的模型统合方法

文档预览
中文文档 18 页 50 下载 1000 浏览 0 评论 309 收藏 3.0分
温馨提示:本文档共18页,可预览 3 页,如浏览全部内容或当前文档出现乱码,可开通会员下载原始文档
专利 一种适用于配电网分布式数据存储的模型统合方法 第 1 页 专利 一种适用于配电网分布式数据存储的模型统合方法 第 2 页 专利 一种适用于配电网分布式数据存储的模型统合方法 第 3 页
下载文档到电脑,方便使用
本文档由 人生无常 于 2024-03-18 22:27:40上传分享
友情链接
站内资源均来自网友分享或网络收集整理,若无意中侵犯到您的权利,敬请联系我们微信(点击查看客服),我们将及时删除相关资源。