(19)中华 人民共和国 国家知识产权局 (12)发明 专利申请 (10)申请公布号 (43)申请公布日 (21)申请 号 202111414339.2 (22)申请日 2021.11.25 (71)申请人 安徽大学 地址 230039 安徽省合肥市蜀山区肥西路3 号 (72)发明人 贾兆红　金村界　唐俊　 (74)专利代理 机构 合肥市浩智运专利代理事务 所(普通合伙) 34124 代理人 丁瑞瑞 (51)Int.Cl. G06Q 10/04(2012.01) G06Q 50/14(2012.01) G06N 3/04(2006.01) G06N 3/08(2006.01) (54)发明名称 基于STL和带有注意力机制的LSTM的旅游需 求预测方法 (57)摘要 一种基于ST L和带有注意力机制的LSTM的旅 游需求预测方法， 包括： 从旅游客流量数据中获 取初始的时间序列； 使用STL分解模型对初始时 间序列进行分解， 得到3个分解序列； 将3个分解 序列分别输入到一个共享的注 意力层， 获得每个 序列中不同特征的权重， 然后将带有权重的特征 作为LSTM的输入； 对3个分解序列使用相同参数 的LSTM模型进行训练， 并分别对它们的测试集进 行预测； 3个预测结果进入全连接单元； 将这3个 预测结果相加得到游客达到量的最终预测结果 并输出。 本发明的优点在于： 首先利用ST L解决了 旅游需求预测过程中由于数据量有 限引起的高 度复杂的模 型中过拟合问题， 并形成了一个相对 简单的预测过程； 其次， 运用Attention ‑LSTM有 效地选择了特 征变量和适当的时间步长 。 权利要求书4页 说明书11页 附图2页 CN 114091768 A 2022.02.25 CN 114091768 A 1.一种基于STL和带有注意力机制的LSTM的旅游需求预测方法， 其特征在于， 包括下述 步骤： 步骤1： 从旅游客流量数据中获取统计周期内的游客到达量， 从而得到初始的时间序 列； 步骤2： 使用STL分解模型对步骤1中的初始时间序列进行分解， 得到 3个分解序列； 步骤3： 将步骤2中得到季节序列、 趋势序列和剩余序列分别作为输入， 输入到一个共享 的注意力层， 获得每 个序列中不同特 征的权重， 然后将带有权 重的特征作为LSTM的输入； 步骤4： 建立LSTM预测模型， 设置三个分解序列的训练集和测试集的比例为8： 2； 分别 对 步骤2得到的3个分解序列使用相同参数的带有注意力机制的LSTM模型输入训练集进行训 练， 并分别对它 们的测试集进行 预测； 步骤5： 步骤4中得到的3个预测结果进入 全连接单 元； 步骤6： 将这3个预测结果相加得到游客达 到量的最终预测结果 步骤7： 输出 预测结果 2.如权利 要求1所述的一种基于STL和带有注意力机制的LSTM的旅游需求预测方法， 其 特征在于， 还 包括如下步骤： 通过最小化真实的游客到达量和预测的游客到达量之间的差值来训练SAL模型， SAL模 型包括了STL分解模 型和带有注 意力机制的LSTM模 型， 在训练过程中， 使用网格搜索对参数 进行微调来确定SAL模型的最优参数， 在实验中， 设定时间步长为12， 输入特征的维度为 2725， LSTM神经元个数的取值范围为{16， 32， 64， 128， 256， 512}， 全连接单元个数取值范围 为{8， 16， 32， 128， 256}， dropout_rate取值范围为{0.2， 0.3， 0.5， 0.7， 0.8}， 批次取值范围 为{2， 3， 7， 1 1， 12， 15}， 迭代测试 取值范围为{3 00， 500， 700， 1000， 3000}。 3.如权利 要求1所述的一种基于STL和带有注意力机制的LSTM的旅游需求预测方法， 其 特征在于， 所述 步骤2具体包括以下步骤： 步骤21:去趋势， 假定Ttk为内循环中第k次迭代结束时的趋势分量， 用原始序列Yt减去 上一次迭代结果的趋势分量Ttk， 即Yt′＝Yt‑Ttk， 当k＝0时的初始值Tt0＝0； 步骤22:周期子序列平滑， 去趋势序列中的每一个周期子序列都是通过局部加权回归 进行平滑， 得到一个临时的季节序列， 记为 步骤23:平滑周期子序列的低通滤波， 将一个低通滤波应用于 这个滤波器包含一 个长度为12的移动平均， 一个长度为3的移动平均， 然后做局部加权回归， 得到结果序列 步骤24:去除平滑周期子序列趋势， 第(k+1)次迭代季节分量为 其中减 去 目的是防止低频信息进入季节项； 步骤25:去季节项， 原始序列Yt通过减掉季节分量 得到了一个消除季节化的序列， 去 季节性序列为 步骤26:趋势平滑， 在步骤25中获得的去季节性序列Yt″经过局部加权回归平滑处理得权　利　要　求　书 1/4 页 2 CN 114091768 A 2到第(k+1)次迭代中趋势分量Ttk+1； 步骤27： 判断季节分量 和趋势分量Ttk+1是否收敛， 若收敛输出季节分量 和趋势 分量Ttk+1， 否则返回步骤21； 步骤28： 计算剩余分量 4.如权利 要求1所述的一种基于STL和带有注意力机制的LSTM的旅游需求预测方法， 其 特征在于， 所述 步骤3具体包括以下步骤： 步骤31： 将季节序列、 趋势序列和剩余序列分别作为输入； 步骤32： 输入到一个全连接层； 步骤33： 然后使用softmax激活函数进行归一 化， 来获得每 个序列中不同特 征的权重： 其中， W为权重矩阵， b为偏置项； 步骤34： 将每 个特征乘以相对应的权 重， 从而获得 带有权重的特征： 步骤35： 输出带有权重的特征作为LSTM的输入。 5.如权利 要求1所述的一种基于STL和带有注意力机制的LSTM的旅游需求预测方法， 其 特征在于， 所述 步骤4具体如下: 将 做为输入， LSTM将其编码为隐层状态 在时间步长t时， ht为LSTM单元输出 门隐层状态， 它是由前一隐层状态ht‑1， 当前单元状态ct和当前输入xt′更新的， 更新过程如 下： ft＝σ(Wf×x′t+Uf×ht‑1+bf) it＝σ(Wi×x′t+Ui×ht‑1+bi) Ot＝σ(Wo×x′t+Uo×ht‑1+bo) ht＝Ot×tanh(Ct) 其中， Wf、 Uf、 Wi、 Ui、 Wc、 Uc、 Wo和Uo为权重矩阵， bf、 bc、 bi和bo为偏置项， t anh为激活函数， ×代表逐元素相乘， 将最后一步的输出送入到一个线性回归层分别得到季节序列、 趋势序 列和剩余序列的预测结果。 6.一种基于STL和带有注意力机制的LSTM的旅游需求预测装置， 其特征在于， 包括如下 模块： 初始的时间序列获得模块： 用来从旅游客流量数据中获取统计周期内的游客到达量， 从而得到初始的时间序列； 时间序列分解模块： 用来使用STL分解模型对步骤1中的初始时间序列进行分解， 得到3 个分解序列； 注意力层模块： 将时间序列分解模块输出的季节序列、 趋势序列和剩余序列分别作为 输入， 输入到一个共享的注意力 层， 获得每个序列中不同特征的权重， 然后 将带有权重的特 征作为LSTM预测模型的输入；权　利　要　求　书 2/4 页 3 CN 114091768 A 3