[发明专利]一种基于物体内和物体间相似性距离的深层神经网络无监督学习方法

说明书

本发明提出的是一种基于物体内和物体间相似性距离的深层神经网络无监督学习方法，所属领域为人工智能，具体包括两个阶段：无监督特征学习阶段具体包括：搭建三元组网络结构；采用基于对象的三元组采样算法进行样本采样，用于反向传播；采用基于对象的三元组损失进行网络参数的优化。迁移到具体任务阶段具体包括：使用第一阶段获得的网络参数进行特征提取；将提取出的特征用于分类或者聚类等下游任务的训练。通过基于对象的三元组损失以及基于对象的三元组采样算法训练提取到的特征，能够用于分类以及聚类等下游任务。为挖掘大量没有标签的视觉数据的潜能提供了一种新的解决方案。

技术领域

本发明属于人工智能领域，更具体来说是基于深度学习的无监督特征学习。

背景技术

近年来，深度学习在计算机视觉领域取得了惊人的成果。人工智能特别是深度学习的发展，带给我们的影响是巨大的，对整个世界和社会的影响都是可见的。

虽然人工智能发展迅速，但是距离真正的智能还有很远的距离，而其中最有发展潜力的莫过于无监督学习算法。因为我们有难以估计的没有人为标注的视觉数据，以及这些数据仍然以极快的速度增长。对于这些数据来说，是不可能有任何的标签的。原因在于，第一，数据量之巨,标注所需要花费的时间和人力是难以估计；第二，有些数据的标注需要特定领域的专业知识。比如，医学图像的标注；第三，人为标注数据可能存在一定的主观因素存在。因此，对于无监督特征学习的研究是很有意义的。

目前，对于无监督特征学习的研究兴趣在不断的增加。总结过去几年无监督特征学习的算法的研究与发展，可以大致分为生成式概率模型、基于重建的无监督特征学习、基于聚类的无监督特征学习、自监督特征学习、无监督深度度量学习等方法。但是，这些算法大多数采用静态图像数据作为模型学习的来源，但是场景中的动态物体对象对于无监督学习来说可以提供更强烈的监督信息---同一物体对象的视觉图像属于同一类别，这也就意味着它们在特征空间中是聚集在一起的。

发明内容

本发明要解决的问题是通过无监督学习方法提取物体对象的特征表示，进而完成下游任务。与现有方法不同之处在于，在网络训练阶段采用基于对象的三元组采样算法和损失函数，利用大量的、无物体类别标签的、不同物体类别的、不同物体对象的数据训练网络，使网络具备能够准确识别不同物体类别的能力，进而在训练完成之后能够有效的提取物体对象的特征表示。

事实上，人类并不是从静态图像中学习图像特征表示，而是从多年的场景中的动态物体对象中学习，这说明物体对象为人类的学习提供了强大的信息。受到这种信息的启发，本发明利用同一物体对象的图像数据样本属于同种类别这一监督信息，具体表现在同一物体对象的图像样本的特征在特征空间中也更加接近。本发明利用这种监督信息发明了基于对象的三元组采样算法和损失函数，使得以三元组卷积神经网络结构来实现无监督特征学习成为可能。

具体技术方案如下：

包括两个阶段：首先，第一个阶段为无监督特征学习阶段，用于获取能够提取特征的卷积神经网络参数，具体包括，第一步，搭建三元组卷积神经网络(三分支共享权重)；第二步，采用基于对象的三元组采样算法对三元组卷积神经网络的输出进行采样；第三步，采用基于对象的三元组损失函数进行网络参数的优化；其次，第二个阶段为迁移到具体任务阶段，具体包括，第一步，使用第一阶段获得的卷积神经网络模型及其参数进行特征提取；第二步，将提取出的特征用于分类、聚类等下游任务的训练。通过基于对象的三元组损失以及基于对象的三元组采样算法训练提取到的特征，能够用于分类以及聚类等下游任务。

如图1所示为具体的流程图。

第一阶段：

步骤1，搭建三元组卷积神经网络(三分支共享权重)；