[发明专利]基于主动学习神经网络模型的工业过程半监督软测量建模方法

说明书

本发明公开了一种基于主动学习神经网络模型的半监督软测量建模方法，它是由主动学习算法和神经网络模型组成；主动学习算法迭代调用神经网络模型，通过神经网络模型从大量的无标签样本中选择出有价值的样本，进行标定并添加到有标签样本集中，使得有标签数据集不断更新，直到建立的模型满足精度要求，最终实现软测量模型的建立。本发明可以有效地解决有标签样本少、无标签样本多导致的软测量建模不准的问题。

技术领域

本发明属于工业过程预测与控制领域，涉及一种基于主动学习神经网络模型的工业过程半监督软测量建模方法。

背景技术

在实际的工业生产过程中，往往存在或多或少的关键过程变量无法实现在线检测，为了解决这个难题，通过采集过程中比较容易检测的变量，根据某种最优准侧，构造出一种以这些变量为输入，关键过程变量为输出的数学模型，实现对关键过程变量的在线估计，这便是工业过程中常用的软测量建模。

统计过程软测量建模的发展对于大规模的工业数据的需求极为显著。然而，软测量建模目前还存在很多问题。在工业过程中系统的复杂程度也是日益提高，过程数据中的非线性关系越来越突出，如果仍然利用传统的线性方法建立软测量模型，无疑不能胜任变量准确预测的任务，针对非线性过程特性，有神经网络核方法等模型，在众多模型中极限学习机模型由于它的计算速度快、建模效果准确，从而得到了越来越多的关注与应用。

与此同时，许多情况下机器学习问题中的有标签样本极为珍贵且非常稀少，无标签样本容易获得但人工标记过程又困难重重。

发明内容

针对目前工业过程中有标签样本少、无标签样本多和过程非线性严重等问题，本发明提出了一种基于主动学习神经网络模型的半监督软测量建模方法，该方法将主动学习思想和神经网络模型相结合，实现了关键过程变量的精确在线估计。

本发明具体技术方案如下：

一种基于主动学习神经网络模型的工业过程半监督软测量建模方法，其中，

所述的神经网络模型分为三层，第一层为输入层，第二层为隐藏层，第三层为输出层，输入层到隐藏层的权重和偏置分别为ω₁和b₁，隐藏层到输出层的权重和偏置分别为ω₂和b₂，该模型对应数据的输入变量为x，输出变量为y，模型的输出，即预测值为

所述的半监督软测量建模方法步骤如下：

步骤一：收集历史工业过程的数据组成建模用的训练数据集，所述的训练数据集既包括包含主导变量也包含辅助变量的有标签数据集L，L∈R^n×d，也包括仅包含辅助变量的无标签数据集U，U∈R^N×M，n表示有标签数据集的数据样本个数，d表示过程变量个数，R为实数集，N表示无标签数据集的数据样本个数，M表示无标签数据集的辅助变量的个数；

步骤二：将步骤一中收集到的训练数据集标准化，即将过程变量化成均值为0、方差为1的新的数据集和

步骤三：运用主动学习算法不断更新有标签样本集

(1)利用标准化后的有标签样本集训练神经网络模型：

首先进行前向传播计算出隐藏层神经元的输出a，a＝σ(ω₁x+b₁)，σ表示非线性激活函数；同理可以计算输出层的神经元输出其中权重和偏置是初始化时随机赋值的；完成前向传播之后，可以通过反向传播算法完成两层权重和偏置的梯度求解；最后通过梯度下降算法不断更新参数，从而使得模型不断更新，直到符合建模要求，完成神经网络建模过程，得到训练后的神经网络模型；

(2)利用训练后的神经网络模型按照距离准则，从标准化后的无标签样本集中挑选出与有标签样本集中所有样本距离之和最大的N个无标签样本，然后将这N个无标签样本打上标签，添加到有标签样本集中更新有标签样本集