[发明专利]一种负载预测方法、装置及设备

权利要求书

1.一种负载预测方法，其特征在于，应用于计算集群系统，所述计算集群系统包括多个计算节点，所述方法包括：

获取所述计算节点中多个负载的时间序列数据；所述多个负载包括中央处理器CPU、内存、磁盘和网络；

将所述时间序列数据输入至预先构建的负载预测模型，得到所述计算节点的CPU负载预测值；所述负载预测模型是在基于注意力机制的神经网络模型和自回归模型的基础上训练得到的。

2.根据权利要求1所述的方法，其特征在于，所述负载预测模型的构建方式如下：

获取所述计算节点中多个负载的训练时间序列数据以及CPU负载训练值；

利用所述训练时间序列数据和所述CPU负载训练值，对初始负载预测模型进行训练，得到所述负载预测模型。

3.根据权利要求2所述的方法，其特征在于，所述初始负载预测模型包括预处理层、循环层、卷积层、注意力机制层、自回归模型和全连接层。

4.根据权利要求3所述的方法，其特征在于，所述将所述时间序列数据输入至预先构建的负载预测模型，得到所述计算节点的CPU负载预测值包括：

将所述时间序列数据输入所述预处理层进行归一化处理，得到输入序列；

将所述输入序列输入所述自回归模型，得到线性特征向量；

将所述输入序列输入所述循环层，得到隐层状态矩阵，所述隐层状态矩阵包括多个时刻的隐层状态向量；

将所述隐层状态矩阵输入所述卷积层，得到所述计算节点中多个负载的依赖关系特征矩阵；

将所述依赖关系特征矩阵输入所述注意力机制层，得到非线性特征向量；

将所述隐层状态矩阵中的最后一个时刻的隐层状态向量、所述线性特征向量和所述非线性特征向量输入所述全连接层，得到所述计算节点的CPU负载预测值。

5.根据权利要求4所述的方法，其特征在于，所述将所述依赖关系特征矩阵输入所述注意力机制层，得到非线性特征向量包括：

将所述依赖关系特征矩阵输入所述注意力机制层，计算所述依赖关系特征矩阵中的每个行特征向量和所述最后一个时刻的隐层状态向量的相似度，得到每个行特征向量的相似度，利用激活函数计算所述每个行特征向量的相似度得到每个行特征向量的权重，对所述每个行特征向量利用对应的权重进行加权求和，得到非线性特征向量。

6.根据权利要求2所述的方法，其特征在于，所述方法还包括：

获取所述计算节点中多个负载的验证时间序列数据以及CPU负载验证值；

将所述验证时间序列数据输入所述负载预测模型，得到所述计算节点的CPU负载预测值；

当所述CPU负载预测值与所述CPU负载验证值不同时，将所述验证时间序列数据重新作为所述训练时间序列数据，对所述负载预测模型进行更新。

7.根据权利要求3-5任意一项所述的方法，其特征在于，所述循环层为循环神经网络RNN、长短期记忆网络LSTM或门控循环单元GRU。

8.根据权利要求7所述的方法，其特征在于，所述长短期记忆网络LSTM中加入残差连接机制。

9.一种负载预测装置，其特征在于，所述装置包括：

第一获取单元，用于获取计算节点中多个负载的时间序列数据；所述多个负载包括中央处理器CPU、内存、磁盘和网络；

第一预测单元，用于将所述时间序列数据输入至预先构建的负载预测模型，得到所述计算节点的CPU负载预测值；所述负载预测模型是在基于注意力机制的神经网络模型和自回归模型的基础上训练得到的。

10.一种负载预测设备，其特征在于，包括：处理器、存储器、系统总线；

所述处理器以及所述存储器通过所述系统总线相连；

所述存储器用于存储一个或多个程序，所述一个或多个程序包括指令，所述指令当被所述处理器执行时使所述处理器执行权利要求1-8任一项所述的方法。