(19)中华 人民共和国 国家知识产权局 (12)发明 专利申请 (10)申请公布号 (43)申请公布日 (21)申请 号 202111403178.7 (22)申请日 2021.11.24 (71)申请人 宁波力斗智能技 术有限公司 地址 315153 浙江省宁波市海曙区石碶街 道横涨村 (72)发明人 何怡刚　汪磊　邵凯旋　江雪　 杨宗礼　 (74)专利代理 机构 湖北武汉 永嘉专利代理有限 公司 42102 代理人 张宇 (51)Int.Cl. G06Q 10/04(2012.01) G06Q 10/06(2012.01) G06Q 50/06(2012.01) G06K 9/62(2022.01) (54)发明名称 基于多模态多任务的Transformer网络的风 电功率多步预测方法 (57)摘要 本发明公开了一种基于多模态多任务的 Transformer网络的风电功率多步预测方法， 属 于电力系统规划领域， 包括： 设计深度的M2TNet 预测模型； 收集K种多源异构数据并利用最大信 息系数分析进行变量选择， 选 出S种优选变量； 对 优选变量进行归一化处理， 划分训练集和测试 集； 采用人工经验和网格搜索的方式并结合模型 训练的效果来确定M2T Net模型的超参数； 保存最 佳训练效果的参数模型， 利用测试集的数据进行 风电功率多步预测； 对预测结果进行反归一化得 到风电功率预测值， 并结合评价指标对预测结果 进行分析。 解决了多源异构数据的风电功率多步 预测问题， 并改善了已有的模型性能， 不仅能提 升已有模型的预测准确率而且能降低其时间复 杂度。 权利要求书2页 说明书6页 附图2页 CN 114118569 A 2022.03.01 CN 114118569 A 1.一种基于多模态多任务的Transformer网络的风电功率多步预测方法， 其特征在于， 包括： 设计深度的M2TNet预测模型； 收集K种多源异构数据并利用最大信息系数分析进行变量选择， 将S种优选变量作为 M2TNet预测模型的输入， S≤K； 对S种优选变量进行归一 化处理得到样本数据， 将 样本数据划分为训练集和 测试集； 采用人工经验和网格搜索的方式并结合模型训练的效果 来确定M2TNet模型的超参数； 保存最佳训练效果的参数模型， 利用测试集的数据进行风电功率多步预测； 对预测结果进行反归一化得到风电功率预测值， 并结合评价指标对预测结果进行分 析。 2.根据权利要求1所述的方法， 其特征在于， 所述M2TNet预测模型具有特征提取层、 特 征融合层和预测终端层； 其中， 特征提取层采用带有多个Transformer单元并联的多分支结 构； 特征融合层为 一层普通全连接网络； 预测终端层为 一个回归层。 3.根据权利要求2所述的方法， 其特 征在于， 设计深度的M2TNet预测模型， 包括： 第一阶段： 利用多个特征提取器分别从各种历史特征中提取出高阶特征， 其中， Transformer单 元作为特 征提取器； 第二阶段： 采用多模态学习策略， 对来自不同历史特征的高阶特征进行融合， 形成含有 更丰富信息的统一特 征； 第三阶段： 采用多任务学习策略， 基于统一特 征预测风电功率序列。 4.根据权利要求3所述的方法， 其特征在于， 所述M2TNet预测模型描述为： 其中， yt为在t时刻对未来某 一时段内的风电功率序列， xt表示输入向量， f( ·)表示预测模型的隐函数， 表示t时刻 对应历史特征i的子向量， ht表示统一特征， rt(i)表示对应于历 史特征i的高阶特征， gi(·) 表示第一阶段中对应于历 史特征i(i＝1,2,...,S)的特征提取器的隐函数， v( ·)和u(·) 分别表示第二阶段和第三阶段功能的隐函数， S表示历史特 征数量。 5.根据权利要求1至4任意一项所述的方法， 其特征在于， 收集K种 多源异构数据并利用 最大信息系数分析进行变量选择， 将S种优选变量作为M2TNet预测模型的输入， 包括： 利用互信息来衡量风电功率与其他异构数据历史变量之间的相关性并且计算MIC值， 按照从大到小的顺序进行排序， 将前S个 变量作为优选变量。 6.根据权利要求5所述的方法， 其特征在于， 采用人工经验和网格搜索的方式并结合模 型训练的效果 来确定M2TNet模型的超参数， 包括： 所有的Transformer均采用相同的结构参数； Transformer中各隐层的单元个数保持一 致， 因此M2TNet中需要确定的超参数包括： 每个Transformer的编码层数目、 每个隐含层神 经元个数、 学习率的大小、 Epochs的大小、 Bat ch Size的大小以及Dropout的大小； M2T Net的 优化器采用RMS Prop， 其损失函数 是mse； 采用人工经验和网格搜索的方式并结合模型训练的效果 来确定M2TNet模型的超参数。权　利　要　求　书 1/2 页 2 CN 114118569 A 27.根据权利要求6所述的方法， 其特征在于， 由 和 作为评价指标， 其中， yk和 分别是误差统计时间区间内的k时刻 的风电功率实际值和预测值， n是 此区间的时段总数， CN是待预测的风电场的装机容 量。 8.一种计算机可读存储介质， 其上存储有计算机程序， 其特征在于， 所述计算机程序被 处理器执行时实现权利要求1至7任一项所述方法的步骤。权　利　要　求　书 2/2 页 3 CN 114118569 A 3