[发明专利]深度非线性主成分分析网络的训练方法、装置及计算机可读存储介质

权利要求书

1.一种深度非线性主成分分析网络的训练方法，其特征在于，包括：

获取深度非线性主成分分析网络；

利用所述深度非线性主成分分析网络进行前向传播，对输入数据进行逐层编码，求解出各层的输入值与其估计值之间的重构误差；

从所述深度非线性主成分分析网络的最后一层开始逐层进行反向回传，计算整个神经网络的重构误差之和对于各层权重的梯度；

根据所述整个神经网络的重构误差之和对于各层权重的梯度，计算出所述深度非线性主成分分析网络的权重矩阵；

根据所述权重矩阵对所述深度非线性主成分分析网路进行参数更新，并返回所述利用所述深度非线性主成分分析网络对输入数据进行前向传播的过程，直至所述整个神经网络的重构误差之和下降到收敛为止。

2.如权利要求1所述的深度非线性主成分分析网络的训练方法，其特征在于，所述利用所述深度非线性主成分分析网络进行前向传播，对输入数据进行逐层编码，求解出各层的输入值与其估计值之间的重构误差包括：

令在利用所述深度非线性主成分分析网络对所述输入数据进行前向传播的过程中，所述输入数据所对应的第i层的输入值为x_i，经该层编码后的激活值x_i+1＝f(W_ix_i)，那么第i层的输入值与其估计值之间的重构误差表示为：

L ( W i ) = 1 2 | | x i - W i T x i + 1 | | F 2 ; ]]>

其中，x_i表示所述输入数据经前向传播后在所述深度非线性主成分分析网络中第i层的输入值，W_i表示所述深度非线性主成分分析网络中第i层的权重，f(W_ix_i)表示所述深度非线性主成分分析网络中第i层的激励函数，L(W_i)表示第i层的输入值与其估计值之间的重构误差，i为正整数。