[发明专利]基于流形正则和范数正则的领域迁移极限学习机方法

权利要求书

1.一种基于领域迁移极限学习机方法的气体识别方法，其特征在于，包括以下步骤：

步骤1：取第1,2个月445个气体样本数据作为无传感器漂移现象的源领域数据，记为D_S＝{X_S}，取其中100个样本作为无漂移的源领域有标签气体样本数据，记为T_S是相应的类别标签，其余样本作为无漂移的源领域无标签气体样本数据，记为取第3-10个月1244个气体样本数据作为存在传感器漂移现象的目标领域数据，记为D_T＝{X_T}，取其中200个样本作为有漂移的目标领域有标签气体样本数据，记为T_T是相应的类别标签，其余样本作为有漂移的目标领域无标签气体样本数据，记为把第i个气体样本表示成x_i＝[x_i1,x_i2,…,x_in]^T，n是每个气体样本数据的特征维度，在此n＝128；

步骤2：本发明的极限学习机模型：事先设定好隐层节点个数L，利用随机函数随机产生隐层节点参数(a_i,b_i),i＝1,2,...,L，其中a_i＝[a_i1,a_i2,…,a_in]^T是连接第i个隐层节点和输入神经元的输入权重，n是输入神经元的个数，b_i是第i个隐层节点的偏置；

步骤3：对于N个输入的气体样本数据X＝{x₁,x₂,...,x_N}，计算其相应的隐层输出矩阵：

其中g(·)表示激活函数，采用sigmoid函数作为激励函数；对X_S，X_T和分别计算它们相对应的隐层输出矩阵，分别记为H_S，和H_T；

步骤4：结合半监督学习、迁移学习，引入流形正则项并同时考虑源领域和目标领域误差最小化，构建本发明方法的优化模型：

其中||β||_p是用来约束权值空间的范数正则子，考虑了L₁范数||β||₁，L₂范数为了方便求解，使用的是0.5倍的L₂范数平方的形式和包络范数(介于L₁范数和L₂范数之间)三种范数正则子；C_S，C_T，λ_S和λ_T都是惩罚参数，L_S和L_T分别是源领域数据和目标领域数据的拉普拉斯算子，Tr(·)表示矩阵的迹；

步骤5：设定步骤中的4个惩罚参数C_S，C_T，λ_S和λ_T；

步骤6：分别计算不存在漂移现象的源领域气体样本数据和存在漂移现象的目标领域气体样本数据的拉普拉斯矩阵L_S和L_T；

步骤7：根据步骤4所述优化模型，求解最优的连接隐层节点和输出神经元的输出权值β，不同的范数正则子本发明采用不同的求解方式，具体如下：

7-1.当采用L₁范数||β||₁时，令

则随机初始化输出权值β，设置迭代终止条件，然后由前向后向分裂算法(FOBOS)得到模型迭代形式的解：k是迭代次数；

令由迭代软阈值收缩算法(ISTA)得，

当满足迭代终止条件时，迭代停止，得到模型L₁范数下的输出权值；

7-2.当采用L₂范数时，模型写成：

N_S是中气体样本的个数，N_T是中气体样本的个数；分别表示无飘移的源领域第i个气体样本的隐层输出，类别标签，实际输出与理想输出之间的误差；同样，分别表示有漂移的目标领域第j个气体样本的隐层输出，类别标签，实际输出与理想输出之间的误差；

利用拉格朗日乘子，写成：

对上式求偏导：

当N_S<L时，

令可得：

令

方程式简化为：

然后解得α_S,α_T：

解得模型L₂范数下的输出权值：

当N_S>L时，

由偏导式方程可得：

解得模型L₂范数下的输出权值：

7-3.当采用包络范数时，令

则

随机初始化输出权值β，设置迭代终止条件，然后由前向后向分裂算法得到模型迭代形式的解：

令由迭代软阈值收缩算法得，

当满足迭代终止条件时，迭代停止，得到模型包络范数下的输出权值；

步骤8：根据步骤7得到的输出权值矩阵β，得到基于流形正则项和Lp范数正则子的领域迁移极限学习机模型f(x)并将此模型应用到电子鼻系统的气体识别中。