[发明专利]一种基于LSTM网络的数据预测模型调优方法及装置

说明书

本发明涉及一种基于LSTM网络的数据预测模型调优方法，包括预处理：获取所述待预测变量前N小的周期值；提取相关系数之和大于系数阈值的前数个变量在数据集中的数据组成训练集；模型训练：按照周期值从小到大的顺序，共进行N轮训练，求得优化解模型；每轮训练均包括：将所述训练集由时间序列数据转化为监督学习序列；将监督学习序列输入LSTM网络，得到本轮训练模型；利用本轮训练模型得到均方根误差并与上轮训练的均方根误差进行比较，保留其中较小值对应的训练模型为优化解模型。本发明还涉及一种基于LSTM网络的数据预测模型调优装置。本发明提供的调优方法及装置在LSTM网络的基础上优化，可用于数据预测，计算速度快，且预测效果好。

技术领域

本发明涉及数据处理技术领域，尤其涉及一种基于LSTM网络的数据预测模型调优方法及装置。

背景技术

LSTM(Long Short-Term Memory)长短期记忆网络，是一种特殊的循环神经网络(RNN)，它能够学习序列中的长期依赖关系。传统的LSTM网络主要用于序列的预测，即通过t-1,t-2,…,t-n时刻的真实值对第t时刻的数值进行预测。LSTM在序列建模上很强大，能够记忆上文信息，还具备神经网络拟合非线性的能力。

但LSTM缺点在于训练过程较慢，训练维度较高，模型训练过程复杂，且需要大量的调整参数。尤其是针对于某一具体的问题，例如在工业大数据中，真实产值不仅仅随时间波动，而且与其他的变量变化有很强的关联性，同时由于工业大数据的周期性规律较弱，其移动步长很难依据简单的推断获得，训练时，调整参数的过程复杂且不能保证出现局部最优解，传统的LSTM网络难以获得优秀的数据预测模型。

发明内容

(一)要解决的技术问题

本发明要解决的技术问题是解决现有的LSTM网络难以对变量多、模型复杂或周期性规律较弱的大数据集的变量进行有效预测，且计算速度慢，不能保证出现局部最优解的问题。

(二)技术方案

为了解决上述技术问题，本发明提供了一种基于LSTM网络的数据预测模型调优方法，包括：

S1、预处理：根据数据集中待预测变量的数据，计算所述待预测变量的周期值，将其周期值从小到大排列，获取所述待预测变量前N小的周期值；计算数据集中各个变量与所述待预测变量的相关系数，并将所述各个变量按照其相关系数从大到小排列，提取相关系数之和大于系数阈值的前数个变量在数据集中的数据组成训练集；

S2、模型训练：利用所述步骤S1中获得的训练集和N个周期值构建模型，按照周期值从小到大的顺序，共进行N轮训练，求得优化解模型；

其中，每轮训练均包括：

S2-1、数据转换：根据周期值将所述训练集由时间序列数据转化为监督学习序列；

S2-2、LSTM建模：将所述步骤S2-1中得到的监督学习序列输入由多个LSTM感知机连接起来组成的LSTM网络，得到本轮训练模型；

S2-3、调优：利用所述步骤S2-2得到的本轮训练模型计算设定时刻的待预测变量的数据，并将其与待预测变量的实际值进行比较，得到均方根误差；将得到的均方根误差与上轮训练的均方根误差进行比较，保留其中的较小值作为本轮训练的均方根误差，保留其对应的训练模型作为优化解模型。

优选地，所述步骤S1中，根据数据集中待预测变量的数据计算所述待预测变量的周期值时，按照时间序列顺序对所述待预测变量的数据进行归一化处理，计算两个过零点的序列值之差，记为所述待预测变量的周期值。

优选地，所述步骤S1获取所述待预测变量前N小的周期值时，N的取值范围为4～7。

优选地，所述N的取值为5。