(19)中华 人民共和国 国家知识产权局 (12)发明 专利 (10)授权公告 号 (45)授权公告日 (21)申请 号 202110008719.X (22)申请日 2021.01.0 5 (65)同一申请的已公布的文献号 申请公布号 CN 112711791 A (43)申请公布日 2021.04.27 (73)专利权人 浙江大学 地址 310058 浙江省杭州市西湖区余杭塘 路866号 (72)发明人 章超波　李俊阳　赵阳　李婷婷　 张学军　 (74)专利代理 机构 杭州求是专利事务所有限公 司 33200 代理人 傅朝栋　张法高 (51)Int.Cl. G06F 30/13(2020.01) G06F 30/27(2020.01) G06Q 10/04(2012.01) G06Q 50/08(2012.01) G06N 3/04(2006.01)G06N 3/08(2006.01) G06F 111/04(2020.01) G06F 111/08(2020.01) (56)对比文件 CN 110209649 A,2019.09.0 6 CN 109002942 A,2018.12.14 CN 110866640 A,2020.0 3.06 CN 112001439 A,2020.1 1.27 CN 104217258 A,2014.12.17 US 201834185 0 A1,2018.1 1.29 李婷婷等.基于BP神经网络的地铁站厅空调 负荷预测. 《计算机科 学》 .2019,第46卷(第1 1A 期),第590 -594页. Chaobo Zhang,et al. .A hybrid de ep learning-based method for short-term building energy l oad predicti on combined with an i nterpretati on proces s. 《Energy& Buildings》 .2020,第1-18页. 审查员 邓迪 (54)发明名称 基于神经网络弹性权重固化的建筑用能负 荷实时预测方法 (57)摘要 本发明提出了一种基于神经网络弹性权重 固化的建筑用能负荷实时预测方法， 包括神经网 络模型离线训练和神经网络模型实时微调两个 步骤。 模型离线训练步骤包含六个子步骤， 依次 为建筑用能负荷历史数据获取、 数据预处理、 模 型输入选择、 模型超参数寻优、 模型参数训练和 参数重要性计算。 模型实时微调步骤包含六个子 步骤， 依次为建筑用能负荷实时数据获取、 数据 预处理、 保持模型输入一致、 保持模型超参数一 致、 使用弹性权重固化对模型进行微调和参数重 要性更新。 特别地， 模型微调以滑动窗的形式定 期进行， 从而保证模型能适应建筑用能规律的变 化。 该方法通过使用弹性权重固化技术对神经网络模型进行定期微调， 从而实现准确可靠的建筑 用能负荷实时预测。 权利要求书2页 说明书6页 附图2页 CN 112711791 B 2022.04.19 CN 112711791 B 1.一种基于神经网络弹性权重固化的建筑用能负荷实时预测方法， 其特征在于， 包括 以下步骤： 步骤1为模型离线训练， 具体步骤如下： 第1‑1步， 获取历史的建筑用能负荷数据； 第1‑2步， 对所述建筑用能负荷数据进行预处理， 剔除所述建筑用能负荷数据中的异常 值和缺失值， 同时对所述建筑用能负荷数据进行归一 化处理， 得到预处 理后的历史数据； 第1‑3步， 选择与建筑用能负荷最为相关的变量作为神经网络模型的输入， 以建筑用能 负荷作为神经网络模型的输出， 以构建用于实时预测建筑用能负荷的神经网络； 第1‑4步， 对神经网络的超参数进行优化， 得到一组最优的超参数 取值； 第1‑5步， 将所述历史数据以一定比例随机划分为训练集和验证集， 在训练集上使用随 机梯度下降算法对神经网络中包括权重和偏置在内的参数进 行训练， 以保证其在验证集上 的精度； 第1‑6步， 计算所述神经 网络中的每个参数的重要性， 任意第i个参数θi的重要程度Ii用 所述神经网络的损失函数对所述 参数的二阶导数衡量， 计算公式为： 式中， D1是所述历史数据， |D1|是所述历史数据中采样点的数量， L(d, θi)是所述神经网 络在所述历史数据的一个采样点d上的损失； 步骤2为模型实时微调， 具体步骤如下： 第2‑1步， 获取从神经网络模型离线训练或模型实时微调操作完成后固定时间间隔内 的实时建筑用能负荷数据； 第2‑2步， 对所述实时建筑用能负荷数据进行预处理， 剔除所述实时建筑用能负荷数据 中的异常值和 缺失值， 同时对所述实时建筑用能负荷数据进行归一化处理， 得到预处理后 的实时数据； 其中， 该步骤中的归一 化范围与第1 ‑2步中的归一 化范围保持一 致； 第2‑3步， 选取与第1 ‑3步相同变量作为神经网络模型的输入； 第2‑4步， 选取从第1 ‑4步优化得到的最优的超参数 取值作为模型的超参数 取值； 第2‑5步， 在所述实时数据上使用随机梯度下降算法对当前神经网络中包括权重和偏 置在内的参数进行微调， 所述微调 过程中使用弹性权重固化技术对损失函数进行约束， 计 算公式为： 式中， L为所述微调过程中的损失函数， Lnew为神经网络在所述实时数据上的损失函数， λ为约束调 节因子， Ii为参数重要程度， θi， new为所需学习的参数值， θi， old为已经学得的参数 值； 第2‑6步， 基于所述实时数据， 重新计算微调后的神经网络中每个参数的重要程度， 对 任意第i个参数θi的重要程度Ii， new重新计算， 计算公式为：权　利　要　求　书 1/2 页 2 CN 112711791 B 2式中， D2是所述实时数据， |D2|是所述实时数据中采样点的数量， L(d， θi)是微调后的神 经网络在所述实时数据的一个采样点d上的损失； 取重新计算得到的重要程度Ii， new与原始重要程度Ii， old中的最大值， 更新所述参数θi的 重要程度Ii， 计算公式如下： Ii＝max(Ii， new， Ii， old) 第2‑7步， 每隔固定时间间隔， 重复第2 ‑1步至第2 ‑6步， 实现对神经网络参数的持续更 新， 得到实时更新的网络模型， 以实时预测建筑用能负荷。 2.如权利要求1所述的基于神经网络弹性权重固化的建筑用能负荷实时预测方法， 其 特征在于， 所述建筑用能负荷包括冷负荷、 热负荷和电力负荷。 3.如权利要求1所述的基于神经网络弹性权重固化的建筑用能负荷实时预测方法， 其 特征在于， 所述建筑用能负荷数据通过楼宇自动化系统获取。 4.如权利要求1所述的基于神经网络弹性权重固化的建筑用能负荷实时预测方法， 其 特征在于， 所述第1 ‑2步中， 使用箱形图识别 所述建筑用能负荷数据中存在的异常值， 剔除 包含异常值或者缺失值的数据， 然后使用最大最小规范化方法对所述建筑用能负荷数据进 行归一化。 5.如权利要求1所述的基于神经网络弹性权重固化的建筑用能负荷实时预测方法， 其 特征在于， 与所述建筑用能负荷最为相关的变量包括室外空气温度、 室外空气相对湿度、 历 史负荷和时间变量。 6.如权利要求1所述的基于神经网络弹性权重固化的建筑用能负荷实时预测方法， 其 特征在于， 所述第1 ‑4步中， 使用交叉验证和网格搜索方法对神经网络的超参数进行寻优。 7.如权利要求6所述的基于神经网络弹性权重固化的建筑用能负荷实时预测方法， 其 特征在于， 所述超参数包括隐藏层数、 隐藏层内神经 元个数和激活函数。 8.如权利要求1所述的基于神经网络弹性权重固化的建筑用能负荷实时预测方法， 其 特征在于， 所述第1 ‑5步中， 历史数据中80％的数据作为训练集， 20％的数据作为验证集。 9.如权利要求1所述的基于神经网络弹性权重固化的建筑用能负荷实时预测方法， 其 特征在于， 所述精度指标包括可决系数、 均方根 误差和平均绝对误差 。 10.如权利要求1所述的基于神经网络弹性权重 固化的建筑用能负荷实时预测方法， 其 特征在于， 所述固定时间 间隔为一周。权　利　要　求　书 2/2 页 3 CN 112711791 B 3