[发明专利]一种基于并行模块化神经网络的副产煤气实时预测方法

摘要

一种基于并行模块化神经网络的副产煤气实时预测方法,其特征是首先按照神经网络的状态空间分割的原则，采用Fuzzy c‑means(FCM)聚类将样本数据分为若干类，每一个分类对应一个状态空间的子空间(即模块)，再对数据重构以建立预测模型。在建模过程中提出一种改进的回声状态网络，采用模块化方法将神经网络网络状态空间分割成多个独立的子空间，每个子空间就是子网络。结合共享储备池方法，使得所有网络的训练都在同一个储备池中完成，而子空间各自对应一个输出权值矩阵，能更好的模拟系统的运行规律。最后将网络训练问题化简为多个小网络的并行训练问题以加速模型计算过程，引入含有更多有用信息的大数据样本提高了模型的预测精度，并应用Map Reduce计算框架将求解问题并行化，获得较高的加速比，实现冶金煤气系统的实时预测。

主权项

一种基于并行模块化神经网络的副产煤气实时预测方法，其特征包括如下步骤：(1)数据读取：从冶金煤气系统现场数据库读取所需的数据；(2)基于回声状态网络的预测：建立回声状态神经网络预测模型对副产煤气进行预测，得到预测结果(3)基于并行模块化神经网络的预测校正：构造并行的模块化神经网络并结合第2步预测结果，完成预测值的校正；具体如下：1)建立状态空间分割规则：①读取已知的数据组成一个样本集，输入和输出样本的数据样本集表示为D＝{(x_i,y_i)|_i＝1,…,N}，其中输入样本x_i∈R^d，输出样本y_i∈R^l，N是输入样本的个数；②依据空间中的两个点x(n₁)，x(n₂)位置接近，那么观测值y(n₁)，y(n₂)的位置也是接近，通过对输出样本的分割来完成对状态空间的分割；③状态空间划分通过分割Y轴为M段将状态空间划分为M个子空间即模块，利用模糊C均值聚类对输出样本进行聚类，得到M个分类的聚类中心，然后依照状态空间划分函数将样本划分为M个子集；2)建立模块化神经网络模型：共享储备池模块化神经网络是将神经网络的状态空间分割成多个子状态空间，每个子空间样本的训练都在同一个储备池中完成，而子空间各自对应一个输出权值矩阵；网络训练的最终目标是求得最优的输出权值矩阵，使得均方误差(MSE)最小化，网络输出权值的求解转化为求解如下方程组：$\left\{\begin{array}{ccc}{A}^1\·W_{out}^{\left(1\right)}& =& T^1\\ A^2\·W_{out}^{\left(2\right)}& =& T^2\\ A^3\·W_{out}^{\left(3\right)}& =& T^3\\ .& & .\\ .& & .\\ .& & .\\ A^M\·W_{out}^{\left(M\right)}& =& T^M\end{array}\right.$采用线性回归算法确定输出权值，即：是矩阵A的广义逆，采用SVD方法求取当使用海量数据训练网络时，计算量远大于计算根据矩阵运算法则，将矩阵求取按如下公式计算：至此，将模块化神经网络模型的求解转化为求解3)算法的并行加速：在Map函数中，按照前文指定的规则对左矩阵与右矩阵进行拆分，并分配指定的key和样本的分类号；在Reduce中，把相同key值的数据读入到数组中并进行计算，输出是结果矩阵并保存到分布式文件系统的输出文件中；4)校正预测结果：应用得到的神经网络分割规则判断预测结果所属的状态子空间；应用得到的模型的输出权值矩阵对预估值网络得到的预测结果进行校正得到最终估计值(4)结果分析和精度统计：统计预测性能指标，供现场调度人员进行参考；(5)预测结果的存储：将预测结果及精度统计结果存储到数据库。