[发明专利]一种基于自演化预训练的多变量时间序列预测方法和设备

权利要求书

1.一种基于自演化预训练的多变量时间序列预测方法，其特征在于，该方法包括以下步骤：

S1、获取表征实时运行系统性能的N维度指标数据，构成N个单变量时间序列，作为历史输入序列，并进行预处理；

S2、将N个单变量时间序列输入到基于差分特征构造的自演化预训练模型中，建立单变量时间序列线性回归模型，将多阶差分信息显式地融入到线性回归模型中，形成对应预测输出

S3、将N个单变量时间序列组成的二维张量进行大小不同的一维卷积操作，提取变量间依赖关系信息得到多个特征图；

S4、将特征图输入到长短记忆网络中对多尺度特征图进行时序建模，来捕捉多变量依赖关系的时序信息，对应的多变量建模的网络组件形成对应输出

S5、将步骤S2和S4得到的输出和进行向量元素的一一对应相加融合，构建多变量预测输出模型，并进行训练，得到训练完毕的模型；

S6、将需要进行预测的时间序列进行预处理后输入到步骤S5得到的已训练完毕的模型中，从而得到时间序列的预测值。

2.根据权利要求1所述的检测方法，其特征在于，所述步骤S2包括：

S2-1、将N个单变量时间序列输入到基于差分特征构造的自演化预训练模型中，建立单变量时间序列线性回归模型，对于第i个序列有：

其中表示第i个序列中时刻t-j的时序值，为对应的线性权值，T为历史输入序列长度；

S2-2、将多阶差分信息显式地融入到线性回归模型中，形成对应预测输出

为差分特征的融合权值，softmax为对应的归一化操作，Q为最大差分阶数；为标准的线性自回归项，x_t-T：t-1表示从t-1时刻到t-T时刻的时间序列。

3.根据权利要求1所述的预测方法，其特征在于，所述步骤S3中一维CNN卷积操作如下：

C^(k)＝W^(k)*X_t-T：t-1

W^(k)为第k个卷积核，C^(k)是卷积结果，即从变量间依赖关系中提取的特征图，X_t-Tt-1表示N个单变量时间序列组成的二维张量，x_t-T：t-1表示从t-1时刻到t-T时刻的时间序列，T为历史输入序列长度。

4.根据权利要求1所述的预测方法，其特征在于，所述步骤S4包括：将步骤S3得到第k个卷积核所有通道的特征图C(k)按时间维度进行拼接，然后作为对应的第k个长短记忆网络的输入；对应网络单元的隐藏输出输入到全连接层，形成输出向量h^(k)∈R^N×1，K个相同的LSTM总计输出h⁽¹⁾，h⁽²⁾，...，h^(K)，将所有向量h⁽¹⁾，h⁽²⁾，...，h^(K)相加形成多变量依赖关系建模输出结果

5.根据权利要求1所述的检测方法，其特征在于，所述步骤S5中将步骤S2和S4输出的结果进行加权融合，融合方法如下：

W^(se)，W^(id)为融合权值，表示元素乘法。

6.根据权利要求5所述的检测方法，其特征在于，所述步骤S5中训练模型，构造优化目标对应的损失函数如下：

N为多变量时间序列的维数。

7.一种计算机设备，其特征在于，所述设备包括：

一个或多个处理器；

存储器；以及

一个或多个程序，其中所述一个或多个程序被存储在所述存储器中，并且被配置成由所述一个处理器执行，所述程序被处理器执行时实现如权利要求1-6中的任一项所述方法的步骤。