[发明专利]一种工业系统中缺失的时序数据的填充方法

权利要求书

1.一种工业系统中缺失的时序数据的填充方法，其特征在于，包括以下步骤：

步骤一：数据预处理：获取工业系统历史运行过程中的完整数据作为故障诊断的原始数据集X，X中有n种类型的故障数据，对完整数据进行随机丢失处理，即规定丢失事件发生的可能性概率为p0，则不发生的概率为1-p0；

步骤二：针对缺失的多元时序数据，以边界平衡生成对抗网络BEGAN模型为基础，构建生成对抗网络模型BiGRU-BEGAN，包括判别器D和生成器G，所述判别器D是一个自编码器模型，包括Encoder表示编码器和Decoder表示解码器，所述生成器G采用双向循环神经网络BiGRU，BiGRU网络模型分为前向循环神经网络层和后向循环神经网络层，每一次训练序列向前和向后分别是两个门控循环神经网络，网络中的隐状态均取决于前一时刻的隐状态和输入值，而且这两个神经网络都连接着一个输出层；

步骤三：训练BiGRU-BEGAN网络模型；

步骤四：用训练好的BiGRU-BEGAN模型生成完整的人工数据并填充原始缺失数据：在训练好的模型中输入从原始缺失数据提取的特征向量z|t，生成完整的时序数据，再将生成的数据插补至原始缺失数据的对应缺失位置。

2.根据权利要求1所述的一种工业系统中缺失的时序数据的填充方法，其特征在于：步骤三所述训练BiGRU-BEGAN网络模型具体为：

S3.1：参数设置：设定训练数据的批次batchsize、迭代次数epoch和超参数学习率α，Loss₁损失函数系数θ，更新的学习率λ以及生成数据的重构损失权值系数k_t；

S3.2：训练判别器D：提取原始缺失数据的特征z|t作为生成器输入的低维向量，通过生成器生成数据G(z|t)，再将原始缺失数据x|t以及生成数据G(z|t)作为判别器的输入，计算判别器的损失函数L_D＝L(x|t)-k_tL(G(z|t))，根据Adam优化算法更新判别器的权重参数：

w_d←w_d-α*Adam(w_d,d_w)

k_t+1←k_t+λ(rL(x|t)-L(G(z|t)))

k_t＝min(max(k,0),1)

其中，k_t是生成数据重构损失的权重系数，λ为k_t更新的学习率；x|t表示原始缺失数据，G(z|t)表示生成数据；L(x|t)、L(G(z|t))分别表示原始数据和生成数据的重构损失，w_d表示判别器的权重参数，d_w是对判别器的参数w_d所求的梯度；

S3.3：训练生成器G：将由原始数据特征生成的低维向量z|t作为生成器的输入，生成数据G(z|t)，计算生成器的损失函数L_G＝L(G(z|t))+θLoss₁，根据Adam优化算法去更新生成器的权重参数：

w_g←w_g-α*Adam(w_g,g_w)

其中L(G(z|t))表示生成数据的重构损失，θ为权值系数，w_g表示生成器的权重参数，g_w表示对生成器的参数所求的梯度。Loss₁表示真实数据和生成数据之间的L₁范数，其数学表达式为：

Loss₁＝||G(z|t)-x|t||₁

S3.4：交替训练判别器和生成器，至M_gloable损失函数值趋于稳定不再下降，M_gloable损失函数如下：

M_gloable＝L(x|t)+||rL(x|t)-L(G(z|t))||₁

其中，r表示多样性比率，用于调节生成器和判别器之间的平衡，公式如下：

当E(L(x|t))＝E(L(G(z|t)))时，则判别器和生成器达到平衡。

3.根据权利要求1或2所述的一种工业系统中缺失的时序数据的填充方法，其特征在于：步骤二所述门控循环神经网络包括更新门和重置门，更新门z_t定义了前面记忆的信息保存到当前时刻的量，控制当前时刻的输出状态h_t中要保留多少历史状态h_t-1，以及保留多少当前时刻的候选状态重置门r_t决定当前t时刻的候选状态是否需要依赖上一时刻的网络状态h_t-1以及依赖程度，其更新公式为：

z_t＝σ(W_zx_t+U_zh_t-1+b_z)

r_t＝σ(W_rx_t+U_rh_t-1+b_r)

其中，是当前候选状态信息，x_t为当前时刻的输入，h_t是当前隐含状态信息，h_t-1是上一时刻的隐含状态信息，z_t表示更新门，r_t表示重置门，W_r,U_r,b_r是重置门的权重和偏置参数，W_z,U_z,b_z是更新门的权重和偏置参数，W_c,U_c,b_c是更新当前候选状态信息的权重和偏置参数，σ是sigmoid函数，在更新记忆单元时使用了tanh函数，具体函数公式为：