[发明专利]一种基于多重栈式自编码的深度特征表示方法

权利要求书

1.一种基于多重栈式自编码的深度特征表示方法，其特征在于，基于栈式自编码的基本原则；首先，说明一下，一个自编码需要一个输入x＝R^d和第一个潜在表示的输入的映射h∈R^d′，用一个确定性的函数h＝f_θ＝σ(W_x+b)，参数θ＝{W，b}；然后利用这个方式通过反向映射重置输入：y＝f_θ′(h)σ(W′h+b′)，θ′＝{W′，b′}；两个参数通常以W′＝W^T的形式被限制，在编码输入和解码潜在表示y_i时使用相同的权重；参数会通过训练集D_n＝{(x₀，t₀)，...(x_n，t_n)}最小化一个适当的价值函数被最佳化，具体包括：

步骤1，建立多重多层次的自动编码,通过把不同层次的特征组合到一起实现由粗到精的过程；框架结合多个自编码器，它们每个都有不同的结构；拥有越少隐藏层的网络会得到目标低层次的信息，然后把这些特征组合到一起形成最终的表示，这样我们就可以得到由粗到精的目标特征表示；训练原始图片时，我们的框架会从不同的视角去获取它们的表示；通过这种方法，我们依靠新的推理体系确保每一层都会重置输入；这样得到的特征会更加的具有代表性和说服力；

步骤2，进行分层优化深度网络结构(栈式自编码网络结构)；

步骤3，对每个特征分配权重；为了得到一个更具鲁棒性的目标表示特征，对每个特征分配不同的权重；根据深度神经网络结构的特点，隐藏层层次越丰富对应的特征就越有判别力，因此我们对从更深层次的网络所提取的特征相应地设置更高的权重；这个进程通过下式表达：

F=Σi=1Kλifis.t.Σi=1Kλi=1]]>

其中F代表最终的综合特征，f_i代表从i-th自编码器获得的特征，K代表深度自编码器的数量；

步骤4，进行分类；经过不同层次自动编码获得的不同特征会通过权重分配进行预处理；最后把经过处理的特征组合到一起形成最终的表示；之后，通过softmax分类器得到最终的分类结果；softmax分类器我们可以归纳为分类标签超过两个以上的分类问题，其是逻辑回归的一般形式。