[发明专利]基于自组织深度置信回声状态网的湖库蓝藻水华预测方法

权利要求书

1.一种基于自组织深度置信回声状态网的湖库蓝藻水华预测方法，其包括如下步骤：

步骤一、确定深度置信回声状态网的输入变量及输出变量；

输入变量以互信息法作为判断准则，当候选的水质变量与输出变量的互信息值大于设定的阈值0.2，则将该候选的水质变量入选为输入变量，否则将其剔除；

输出变量为湖库蓝藻水华的表征变量叶绿素a浓度；

筛选后的输入变量和输出变量一起参与深度置信回声状态网的训练及预测；

步骤二、建立深度置信回声状态网的结构；

深度置信回声状态网的结构包括深度置信网和回声状态网，所述回声状态网采用模块化储备池结构；具体步骤为：

2.1，采用受限玻尔兹曼机构成深度置信网的基本单元，提取输入变量的深层特征；

2.2，回声状态网学习所述深层特征并预测下一时刻的叶绿素a浓度；

深度置信回声状态网结构中的储备池包括多个子储备池，每个所述子储备池之间相互独立；设所述子储备池的个数为N_total个，则由N_total个子储备池构成的储备池权值矩阵为分块对角阵，即：

其中，每一个权值矩阵元素W_i为第i个子储备池对应的权值矩阵，1≤i≤N_total；

W_i采用奇异值分解法生成，即W_i＝U_iS_iV_i；

对角矩阵由给定的奇异值分布随机生成，且子储备池的权值矩阵内部是全连接的，p＝1,2,…,n_sub，n_sub为第i个子储备池的大小；

是同时生成的两个随机正交矩阵，其中，u_pk,v_pk∈(-1,1)，p＝1,2,…,n_sub，k＝1,2,…,n_sub；

为了克服初始瞬态的影响，假设从n_min+1时刻开始到L_train时刻收集内部状态矩阵H＝[x(n_min+1),…,x(L_train)]^T，其对应的期望输出向量为T＝[t(n_min+1),…,t(L_train)]^T，t(n_min+1)为n_min+1时刻的期望输出值；

输出权值矩阵采用含有L2正则化的鲁棒损失函数来迭代求解输出，在迭代至k步的结合正则化项的鲁棒损失函数E(k)及输出权值矩阵的求解结果分别为：

C为正则化系数，

I为(N_total×n_sub)×(N_total×n_sub)维的单位矩阵，

为2-范数，

ρ(·)为鲁棒目标函数，ξ^[k](n)＝T(n)-y^[k](n)为迭代至k步第n时刻的训练误差，为迭代至k步的残差稳健尺度估计，MAR为绝对离差中位数，

表示(L_train-n_min)×(L_train-n_min)维的鲁棒权重矩阵，w(·)为鲁棒权重函数，且取Welsch函数；

所述鲁棒目标函数ρ(·)和所述鲁棒权重函数w(·)分别为：

其中，z为变量，k_set＝μk_def，μ为鲁棒系数，k_def＝2.985；

步骤三、设计所述深度置信回声状态网的自组织机制并训练所述深度置信回声状态网；

在各自训练过程的每轮迭代中分别实现深度置信网的隐含层神经元以及回声状态网中子储备池的调整；

针对深度置信网的各隐含层神经元，其迭代至第k₁步时神经元的重要性指标定义为：

为第l层第j个神经元的输入；

为第l层第j个神经元的输出；

表示为和之间的互信息值；

表示为和期望输出向量T之间的互信息值；

(3.1)隐含层神经元的分裂机制：当第l层第j个神经元满足如下条件时：

则第j个神经元分裂为两个神经元，为迭代至第k₁步时第l层神经元的总数；

(3.2)隐含层神经元的删减机制：定义迭代至第k₁步时自适应的删减阈值如下：

其中β∈(0,1]，当第j个神经元满足条件时，第j个神经元被删除；

所述回声状态网的自组织机制包括子储备池筛选与增长机制，具体地，

(3.3)子储备池的筛选机制：定义储备池中第i个子储备池的重要性指标为：

其中为第i个子储备池第p个神经元的输入向量，为第i个子储备池第p个神经元的输出向量，在迭代训练至k₂步时随机产生和原有储备池结构一致的i_max(k₂)个临时子储备池{1,2,…,i,…,i_max(k₂)}，按照重要性指标大小进行排序：定义自适应筛选阈值如下：

S_th(k₂)＝NS_s′_ub(INT(αi_max(k₂))) (12)

其中，INT(·)为取整函数，为排序后的子储备池重要性向量,α∈(0,1)为自定义的控制参数；

当迭代第k₂步时，第i个子储备池满足：

且所有子储备池的鲁棒损失函数E(k₂)小于等于历史鲁棒损失函数的最小值时，则这些子储备池保留，其余子储备池则被删除；

步骤四、基于自组织深度置信回声状态网模型进行预测；

利用所述自组织深度置信回声状态网模型进行蓝藻水华的预测；

其特征在于：

回声状态网的数学表达式为：

u(n)为K×1维的n时刻的输入向量，K为深度置信网最后一个隐含层的神经元个数，也即深度置信网提取的n时刻的深层特征；

x_i(n)为1×n_sub维的第i个子储备池n时刻的状态向量；

y(n)为n时刻回声状态网的输出值；

为输入权值矩阵，为n_sub×K维的第i个子储备池的输入权值矩阵，为1×(N_total×n_sub)维的输出权值矩阵；

f^res为储备池神经元的激活函数，且取sigmoid函数；

(3.4)子储备池的增长机制：将筛选后的每个所述子储备池与随机产生的一个新的子储备池进行合并，则合并后回声状态网的输出向量的权值矩阵为：

H_o为筛选机制完成后储备池对应的状态矩阵；

H_g为增长的储备池对应的状态矩阵；

为合并增长后储备池对应的状态矩阵；

为维的单位矩阵，其中，为合并增长后子储备池的总个数；

基于公式(14)得到输出权值矩阵更新的数学表达式为：

I_o为(N_o×n_sub)×(N_o×n_sub)维的单位矩阵；

N_o为筛选机制完成后子储备池的个数；

I_g为n_sub×n_sub维的单位矩阵；

I_L为(L_train-n_min)×(L_train-n_min)维的单位矩阵。

2.根据权利要求1所述的基于自组织深度置信回声状态网的湖库蓝藻水华预测方法，其特征在于：深度置信回声状态网结构的输入变量还包括滞后三个时刻的所述叶绿素a浓度。