[发明专利]基于卷积和长短期记忆网络的电网监控告警事件识别方法

权利要求书

1.一种基于卷积和长短期记忆网络的电网监控告警事件识别方法，其特征在于，包括以下步骤：

(1)采集电网监控系统中历史监控告警信息及每条告警信息的时标，告警信息中包含的所有变电站和线路名称，构成电网监控告警事件识别模型所需的训练数据集；

(2)对历史监控告警信息进行数据预处理，通过word2vec模型对监控告警信息进行无监督训练，生成包含信号特征的信息向量；

(3)从采集的历史监控告警信息中按照滑动时间窗口提取监控告警信息集合，确定告警信息集合的事件类型和告警事件的标志词，得到各类标签化监控告警事件的样本，构建告警事件样本库；

(4)建立基于长短期记忆网络和卷积神经网络组合的深度学习识别模型，设置各类超参数，建立目标函数并选取优化算法，利用监控告警事件样本库中的样本对模型进行迭代训练，并且通过计算损失函数的梯度逐步迭代更新识别模型的参数；所述步骤(4)中建立基于长短期记忆网络和卷积神经网络组合的深度学习识别模型的具体过程如下：

(41)LSTM层的输入为告警事件样本，将其表示为X＝{x₁,x₂,…,x_n}，其中x_i是监控告警信息的分布式向量表示，i＝1,2,…n；n是告警事件样本包含的监控告警信息的数量；

输入门中当前时刻网络输入中保存到记忆单元中的信息量计算公式如下：

i_t＝σ(w_xix_t+w_hih_t-1+b_i)

式中：i_t是输入门的输出；x_t和h_t-1分别是当前输入和前一个隐含层输出；w_xi和w_hi分别是输入x_t和h_t-1的权重；b_i是输入门的偏置；σ表示sigmoid激活函数；

输入门输出一个临时记忆单元c′_t的计算公式如下：

c′_t＝tanh(w_xcx_t+w_hch_t-1+b_c)

式中：w_xc和w_hc分别是输入x_t和h_t-1的权重；b_c是临时的记忆单元c′_t的偏置；

遗忘门中前一时刻记忆单元保留到当前时刻记忆单元中的信息量计算公式如下：

f_t＝σ(w_xfx_t+w_hfh_t-1+b_f)

式中：f_t是遗忘门的输出；w_xf和w_hf分别是输入x_t和h_t-1的权重；b_f是遗忘门的偏置；第二部分为当前时刻输入作用于输入门得到的临时记忆单元；

当前时刻记忆单元计算公式如下：

c_t＝f_t·c_t-1+i_t·c′_t

式中：c_t-1是前一时刻记忆单元的输出值；

输出门和隐含层的输出表达式如下：

o_t＝σ(w_xox_t+w_hoh_t-1+b_o)

h_t＝o_t·tanh(c_t)

式中：o_t和h_t分别表示输出门和当前隐含层的输出；w_xo，w_ho和b_o分别是x_t的权重，h_t-1的权重和o_t的偏置；

(42)将长短期记忆网络中每个时间步上的隐含层输出矩阵H∈R^n×k输入到卷积层中提取告警信息的局部特征，其中n为告警事件样本的时间序列长度，表示事件包含的监控告警信息数量，k为输出值的向量维度，采用行数为h，列数与输入层矩阵H相同的卷积矩阵W∈R^h×k进行卷积操作，卷积结果表达式如下：

r_i＝W·H_i:i+h-1

式中：H_i:i+h-1表示由矩阵H的第i行至第i+h-1行构成的子矩阵；运算符号“·”是点乘运算，表示将两个矩阵相同位置的元素相乘然后求和；

每次卷积结果经过非线性操作后的结果为：

c_i＝ReLU(r_i+b_i)

式中：b_i为偏置项；ReLU为激活函数，计算公式为：

ReLU＝(0,x)

将所有结果依次排列堆积得到卷积层特征向量c∈R^n-h+1，n-h+1是共进行的卷积操作次数；

(43)池化层通过下采样规则对特征向量进行降维，通过最大池化法，取每个经卷积操作得到的特征向量c中的最大值作为特征值，表示如下：

c_max＝max{c}

将所有不同特征向量经过池化操作提取的特征值拼接形成池化层输出向量q∈R^v,其中v＝m·k，m为卷积窗口的类别数，k为每类卷积窗口的数量；

(44)池化层向量q输入到Softmax分类器中输出属于每个告警事件类别的概率，选取概率最大的类别作为该段输入监控告警信息的识别结果，表达式如下：

p＝softmax(W_q·q+b_q)

式中：W_q为与事件q对应的权重；b_q为与事件q对应的偏置项；

(5)使用训练好的深度学习模型对监控告警信息进行识别，取概率最大的事件类别作为告警事件识别结果输出。