[发明专利]一种基于字典深度学习的半监督图像分类方法

摘要

本发明公开了一种基于字典深度学习的半监督图像分类方法，该方法步骤如下：根据深度神经网络的Softmax代价函数构建有标签数据的代价函数Ll(Zl,Yl)、无标签数据的代价函数Lu(Zu,P)：根据有标签数据的代价函数Ll(Zl,Yl)、无标签数据的代价函数Lu(Zu,P)构建总体模型函数；使用交替优化算法以训练总体模型，训练优化过程包括：基于字典学习和Softmax网络信息的联合类别估计、神经网络和无标签类别估计的联合学习。本发明用字典学习与深度神经网络的Softmax分类器结合，强化了深度神经网络对无标签数据的探索能力，极大地提升网络特征学习能力和分类器学习能力。本发明适用于计算机视觉或模式识别领域。

主权项

1.一种基于字典深度学习的半监督图像分类方法，其特征在于：该方法步骤如下：S1：构建深度神经网络，根据深度神经网络的Softmax代价函数构建有标签数据的代价函数L^l(Z^l,Y^l)、无标签数据的代价函数L^u(Z^u,P)，所述无标签数据的代价函数L^u(Z^u,P)包括基于字典表示和Softmax网络信息的联合预测联合类别估计p的熵正则项H(p_r)；S2：根据有标签数据的代价函数Ll(Zl,Yl)、无标签数据的代价函数Lu(Zu,P)构建总体模型函数；S3：使用有标签数据的深度特征表示来构建字典，计算字典表示系数和表示残差；S4：根据步骤S3得到的字典表示残差计算根据计算H(p_r)；预设熵阈值λ，若H(p_r)大于预设阈值λ，则p_r会被设为0，其监督信号p_r将被阻挡；若H(p_r)小于等于预设阈值，则其监督信号p_r将被传播到深度神经网络，通过反向传播提升深度神经网络性能；S5：根据上述步骤得到无标签数据的代价函数和有标签数据的代价函数，得到总体模型函数，并通过SGD算法，利用总体模型函数对深度神经网络进行训练；S6：将完成训练的深度神经网络对未知的无标签数据进行分类处理，完成分类；其中：(Z^l,Y^l)＝{(z_1:N,y_1:N)}表示有标签数据的深度特征；Y^l是有标签数据对应的标签；y_ji＝1表示第j个有标签数据z_j属于第i类；N是有标签数据的样本数；C是类别数；Z^u＝{z_N+1:N+M}表示无标签数据的深度特征；P＝{p_1:M}是无标签数据的类别估计；M是无标签数据的样本数；表示无标签数据第r类的深度特征；表示无标签数据的Softmax代价函数层前面的全连接层的输出；α表示无标签数据深度特征在子字典上的编码系数；D_i表示与第i类有关的子字典。