[发明专利]一种基于注意力机制的集群资源预测方法和装置

权利要求书

1.一种基于注意力机制的集群资源预测方法，其特征在于，包括：

S1：将上一时刻第一隐藏层状态、与目标实例同属于一个部署单元的所有时间序列数据、与目标实例同属于一个主机单元的所有时间序列数据以及历史时刻的目标时序作为输入注意力层的输入，得到第一输入向量；

步骤S1具体包括：

S11：将上一时刻第一隐藏层状态以及与目标实例同属于一个部署单元的所有时间序列数据作为部署单元注意力层的输入，得到部署单元注意力层输出向量；

S12：将上一时刻第一隐藏层状态以及与目标实例同属于一个主机单元的所有时间序列数据作为主机单元注意力层的输入，得到主机单元注意力输出向量；

S13：将上一时刻第一隐藏层状态以及历史时刻的目标时序作为自相关性注意力层的输入，得到自相关性注意力层输出向量；

S14：将部署单元注意力层输出向量、主机单元注意力输出向量和自相关性注意力层输出向量合并作为第一输入向量；

S2：将所述第一输入向量输入到LSTM编码器，得到当前第一隐藏层状态；

S3：将所述当前第一隐藏层状态和上一时刻第二隐藏层状态输入到时间相关性注意力层，得到上下文向量；

S4：将所述上下文向量、上一时刻第二隐藏层状态和历史时刻的目标时序输入到LSTM解码器，得到当前第二隐藏层状态；

S5：将所述当前第二隐藏层状态和所述上下文向量进行线性变换，得到预测值。

2.根据权利要求1所述的一种基于注意力机制的集群资源预测方法，其特征在于，步骤S11具体包括：

基于上一时刻第一隐藏层状态和与目标实例同属于一个部署单元的所有时间序列数据计算第一注意力权重；

基于第一注意力权重，使用softmax函数计算出归一化部署单元注意力权重；

基于上一时刻第一隐藏层状态、与目标实例同属于一个部署单元的所有时间序列数据以及归一化部署单元注意力权重，计算部署单元注意力层输出向量；

步骤S12具体包括：

计算与目标实例同属于一个主机单元的每个时间序列数据相对于历史目标时序的一阶时序相关性系数，并得到对应的主机单元内所有时间序列和历史目标时序的静态时间相关性权重；

基于上一时刻第一隐藏层状态和目标实例同属于一个主机单元的所有时间序列数据计算第二注意力权重；

基于静态时间相关性权重和第二注意力权重得到主机单元注意力权重，并进行归一化，得到归一化主机单元注意力权重；

基于上一时刻第一隐藏层状态、与目标实例同属于一个主机单元的所有时间序列数据、历史时刻的目标时序以及归一化主机单元注意力权重，计算主机单元注意力输出向量；

步骤S13具体包括：

计算不同时间窗口内的历史时刻目标时序之间的相关性系数，并得到对应的自相关权重；

基于上一时刻第一隐藏层状态和不同历史时刻目标时序计算第三注意力权重；

基于自相关权重和第三注意力权重得到自相关单元注意力权重，并进行归一化，得到归一化自相关单元注意力权重；

基于上一时刻第一隐藏层状态、历史时刻的目标时序、以及归一化自相关单元注意力权重，计算自相关性注意力层输出向量。

3.根据权利要求1～2任意一项所述的一种基于注意力机制的集群资源预测方法，其特征在于，步骤S3具体包括：

基于上一时刻第二隐藏层状态计算时间注意力层权重，并进行归一化，得到归一化后的时间注意力层权重；

基于当前第一隐藏层状态和归一化后的时间注意力层权重计算上下文向量。