[发明专利]一种提高深度学习图片识别算法鲁棒性的方法

说明书

本发明公开了一种提高深度学习图片识别鲁棒性的方法。首先对深度学习的神经网络进行随机初始化；然后将训练样本集和训练标签集作为输入深度学习神经网络，进行前向传播输出深度学习神经网络认为其所属各个类别的概率；接着将新的样本和其标签进行反向传播，对深度学习神经网络进行调优；利用测试样本集和测试标签集对训练效果进行测试，输出测试样本集的测试准确率；最后在对训练样本集和训练标签集迭代了一定次数后，输入验证样本集，并将深度学习神经网络的输出与验证标签集进行对比，输出深度学习神经网络的验证准确率。本发明可以有效提高深度学习图片识别算法鲁棒性，提高深度学习图片识别在样本标签标注有误的情况下的图片识别准确率。

技术领域

本发明属于计算机图像识别技术领域，涉及提高图片识别鲁棒性的一种方法，尤其是深度学习图片识别算法鲁棒性的方法。

背景技术

图像相比与其他信息源而言，具有易于理解，信息量大，更为直接，是人类最终要的信息源。因此，用计算机对图像进行处理具有重大的研究意义。图像识别是图像处理的重要组成部分。由于大数据时代的来临和计算机处理能力的大幅提高，图像识别开始向高级语义方向发展。图像识别的过程分为预处理，特征提取，识别分类三个步骤。预处理能够降低后续处理难度，提高效率。特征提取是将图片转化为计算机能够识别处理的定量形式，处理的特征主要有颜色特征，纹理特征，形状特征，SIFT(Scale-invarient FeatureTransfrom),HOG(Histogram of Oriented Gradient)等。识别分类是依据特征将图片进行分类。图像识别分类目前采用的算法主要有决策树算法，贝叶斯分类器，支持向量机，人工神经网络等。

深度学习使用层次化的模型以从低层次特征学习高层次特征。经过多层抽象学习层次化特征，深度学习可以通过映射输入和输出的关系来学习复杂的函数。近年来，由于数据集不断增大，深度学习应用领域也不断扩大。因此，深度学习得到了广泛和深入的研究。

深度学习由神经网络发展而来。相对于仅有一个输入层，一个隐层，一个输出层的浅层神经网络而言，深度学习采用的神经网络一般具有多个隐层，因此，有较高的非线性运算组合能力，从而具有较强的表示能力。2006年，Hinton等人提出了用于深度信任网络(Deep Belief Network,DBN)的无监督学习算法。算法采用了贪婪逐层训练算法，解决了因深度增加导致非凸目标函数产生局部最优解的问题。在这篇突破性论文发表后，大量学者对深度学习进行了广泛的研究。Bengio和Ranzat提出了用无监督学习初始化每一层神经网络。受限玻尔兹曼机(RestrictecdBoltzmanmachine,RBM)和自动编码机(Auto-encoder)是深度学习里应用最广的算法。总的来说，深度学习是一种通过找到数据的内部结构，发现变量之间的真正关系的算法。2006年以来，深度学习成功应用于多个领域,尤其是分类领域,如情感分类,心电图信号分类，句子分类，等等。

近年来，深度学习的研究获得了巨大的进步，然而，对深度学习鲁棒性的研究相对较少,尤其是针对标签有误的情况。图像的识别并判断其应被打上何种标签的问题可以转化为图像的分类问题。使用多层卷积神经网络对图片数量较大的情况下进行分类，可以取得了良好的效果。利用降噪自编码神经网络(Denoise auto-encoder，DAE)替代RBM对深度神经网络进行预训练可以取得良好的效果。另外，还提出了周期网络神经元方法，并将其应用与场景标注。但是，这些算法假定训练集的标签不会发生错误。然而，在实际应用中，训练集的标签在很多场合都是人工标注，有可能发生错误。当标签标注错误时，会导致神经网络在被训练时出现误差，而且会随着迭代次数的增加，误差越来越大，最终影响图片分类的效果。

发明内容

为了解决上述现有技术存在的问题，本发明提供一种提高深度学习图片识别鲁棒性的方法，该方法可以在训练前判断样本的标签是否被标注错误，如果判断结果为样本标签标注错误则修改样本的标签，以提高深度学习图片识别的鲁棒性，提高在样本标签标注有错的情况下图片识别的准确率。