[发明专利]基于无标记样本的RBF神经网络构建方法及其装置

权利要求书

1.一种基于无标记样本的RBF神经网络构建方法，其特征在于，包括以下步骤：

（S101）选取一个足够大的正整数m作为隐层神经元数，构建一个三层RBF神经网络，并给定初始网络参数；

（S103）利用有标记的样本集训练神经网络直到代价函数收敛到某个给定的很小的阈值e，得到经过训练的分类器；

（S105）利用有标记和无标记样本计算隐层神经元的敏感性，并按照敏感性由小到大排序；

（S107）去掉敏感性最小的隐层神经元，得到新结构的RBF神经网络；

（S109）对新的RBF神经网络在原有参数的基础上再次使用有标记的样本集进行训练，如果代价函数能够收敛到某个很小的阈值e，则得到经过参数更新的分类器并重复步骤（S107）、（S109）；如果不能收敛则进入下一步；

（S111）取隐层神经元数最小且能收敛的RBF神经网络网络结构为最终的网络结构，其网络为最终输出的分类器。

2.如权利要求1所述的基于无标记样本的RBF神经网络构建方法，其特征在于，当神经网络训练完成后，设映射关系函数为F(X)，X为输入向量，假设裁掉的是第j个隐层神经元，那么去掉第j个隐层神经元后神经网络的映射关系函数变成F_j(X)，定义第j个隐层神经元的敏感性为：

S_j(X)＝E(||F(X)-F_j(X)||²)     （1）

||·||²是求取·的欧几里德范数的算符，E为求取期望的算符；

在计算S_j(X)的过程中，S_j(X)可以变形为：

S_j(X)＝∫_Ω(F(X)-F_j(X))²p(X)dX     （2）

其中Ω是定义域，p(X)为X在定义域Ω中的密度函数，采用有标记的样本和无标记的样本一起估计p(X)；

假设(X₁,y₁),(X₂,y₂),…(X_b,y_b)是有标记的样本集，X_b+1,X_b+2…X_N是无标记的样本集，那么S_j(X)的一个好的估计是：

Sj(X)=1NΣs=1N(F(Xs)-Fj(Xs))2---(3)]]>

采用（3）式计算隐层神经元的敏感性。

3.一种基于无标记样本的RBF神经网络构建装置，其特征在于，包括：初始模块、训练模块、隐层神经元选择模块和输出模块；上述模块按照如下顺序依次构建：初始模块、训练模块、隐层神经元选择模块、输出模块；

（1）初始模块：其选取一个足够大的正整数m作为隐层神经元数，构建一个三层RBF神经网络，并给定初始网络参数；

（2）训练模块：其利用有标记的样本集训练神经网络直到代价函数收敛到某个给定的很小的阈值e，得到经过训练的分类器；

（3）隐层神经元选择模块：其利用有标记的样本和无标记样本计算隐层神经元的敏感性，按照敏感性由小到大排序，并去掉敏感性最小的隐层神经元，形成新结构的RBF神经网络；重新利用有标记样本集训练新结构的RBF神经网络，如果代价函数能够收敛到某个很小的阈值e，则得到经过参数更新的分类器并重复本步骤；如果代价函数不能够收敛到某个很小的阈值e，通过输出模块最终的分类器；

（4）输出模块：取隐层神经元数最小且能收敛的神经网络网络结构为最终的网络结构，并输出这个网络为最终的分类器。