[发明专利]一种基于多重栈式自编码的深度特征表示方法

摘要

本发明涉及一种基于多重栈式自编码的深度特征表示方法。通过构建不同结构的栈式自编码网络，用以获取目标对象不同层级结构的特征表达。首先建立浅层（隐藏层数较少）的神经网络结构，采用后向传播的方法训练网络参数，使其达到结构最优，并获取网络倒数第二层的输出，即为特征表达；其次分别建立较深层次的网络结构，按照类似的方式训练网络参数，以此获取相应层的输出（特征表达）；再次根据特征组合及选择的方式，对上述所得到的特征进行融合和选择，以获取表征目标的层级特征表示。而进行相应的视觉任务（图像分类，识别，检测）。

主权项

一种基于多重栈式自编码的深度特征表示方法，其特征在于，基于栈式自编码的基本原则；首先，说明一下，一个自编码需要一个输入x＝Rd和第一个潜在表示的输入的映射h∈Rd′，用一个确定性的函数h＝fθ＝σ(Wx+b)，参数θ＝{W，b}；然后利用这个方式通过反向映射重置输入：y＝fθ′(h)σ(W′h+b′)，θ′＝{W′，b′}；两个参数通常以W′＝WT的形式被限制，在编码输入和解码潜在表示yi时使用相同的权重；参数会通过训练集Dn＝{(x0，t0)，...(xn，tn)}最小化一个适当的价值函数被最佳化，具体包括：步骤1，建立多重多层次的自动编码,通过把不同层次的特征组合到一起实现由粗到精的过程；框架结合多个自编码器，它们每个都有不同的结构；拥有越少隐藏层的网络会得到目标低层次的信息，然后把这些特征组合到一起形成最终的表示，这样我们就可以得到由粗到精的目标特征表示；训练原始图片时，我们的框架会从不同的视角去获取它们的表示；通过这种方法，我们依靠新的推理体系确保每一层都会重置输入；这样得到的特征会更加的具有代表性和说服力；步骤2，进行分层优化深度网络结构(栈式自编码网络结构)；步骤3，对每个特征分配权重；为了得到一个更具鲁棒性的目标表示特征，对每个特征分配不同的权重；根据深度神经网络结构的特点，隐藏层层次越丰富对应的特征就越有判别力，因此我们对从更深层次的网络所提取的特征相应地设置更高的权重；这个进程通过下式表达：F=Σi=1Kλifis.t.Σi=1Kλi=1]]>其中F代表最终的综合特征，fi代表从i‑th自编码器获得的特征，K代表深度自编码器的数量；步骤4，进行分类；经过不同层次自动编码获得的不同特征会通过权重分配进行预处理；最后把经过处理的特征组合到一起形成最终的表示；之后，通过softmax分类器得到最终的分类结果；softmax分类器我们可以归纳为分类标签超过两个以上的分类问题，其是逻辑回归的一般形式。