[发明专利]一种基于半监督加权迁移判别分析的图像分类方法

说明书

本发明公开了一种基于半监督加权迁移判别分析的图像分类方法，属于机器学习技术领域。该方法在传统特征迁移方法基础上引入样本的差异性权重，构造特征迁移分类模型，来解决图像跨领域分类问题。本发明首先设计一种跨领域均值逼近权重。其次，将跨领域均值逼近权重引入最大均值差异度量MMD，并对联合分布调整JDA进行提升改造。然后，将加入半监督判别分析SDA，充分挖掘标签信息和数据的原始空间结构信息，提高算法的类别可分性。本发明能有效抽取领域间高质量的共享特征，提升知识在领域间的迁移效率，获取更高的分类精度。

技术领域

本发明涉及机器学习技术领域，特别涉及一种基于半监督加权迁移判别分析的图像分类方法。

背景技术

现有技术中采用机器学习方法进行迁移学习获得广泛研究。面对大数据技术快速发展和移动互联网、5G网络和高清摄像头等设备的推广与应用，人类接收高维视觉数据呈现指数增长，如何快速高效地挖掘此类数据的有价值信息成为一项重要挑战。特征提取将高维特征空间通过变换转化为相应的低维表示空间，且在低维空间尽可能地保持原有空间的判别信息，在充分利用数据有用信息的同时又可以避免出现维数灾难，已成为数据挖掘、机器学习、模式识别等领域的研究热点。

当前学者提出了诸多特征提取算法，如主成分分析(Principal ComponentAnalysis，PCA)、线性判别分析(Linear Discriminant Analysis，LDA)、极大边界准则等。上述算法均为全局性算法，无法提取图像中的局部流形结构信息。为此又出现了诸多基于局部流形结构的特征提取算法，如：局部线性嵌入、等距特征映射、拉普拉斯特征映射、局部保持投影(Locality Preserving Projection，LPP)和邻域保持嵌入等。尽管它们可以提取数据集的局部结构信息，但无法解决对于外样本的学习问题。另外，还存在从其它非图论模型获取的特征提取算法，如非负矩阵分解和字典学习稀疏表示等。但是，它们均未将标签信息和几何结构统一到一个目标函数内同时利用。为此，现有技术又设计了半监督判别分析(Semi-supervised Discriminant Analysis，SDA)，它在半监督情形下，同时整合了Fisher判别准则、局部保持正则化及Tikhonov正则化。通过对有标记数据保持类间散度最大化，且对有标记数据和无标记数据的内在空间结构进行保持，来实现特征提取。其他半监督特征提取方法，如半监督最大边界准则和半监督流形保持嵌入等也同样采用未标记样本来提升算法性能。

然而通过分析可知，上述的特征提取算法均无法适用于迁移学习环境中。迁移学习突破传统机器学习训练模型的标记数据集与待测试的未标记数据集遵循相同的分布的限制，利用与目标域数据分布不同但相关的源域中的训练数据来帮助目标域中任务进行学习。为在迁移学习环境中进行有效的特征提取，还提出了迁移主成分分析(TransferComponent Analysis，TCA)算法，它将PCA与最大均值差异(Maximum Mean Discrepancy，MMD)相结合，在一定程度上实现了共享特征空间的抽取和知识的跨领域迁移，在迁移学习领域获得广泛应用。为了进一步提升算法性能，在TCA基础上，借助于源域数据标签和迭代精化机制，在目标域没有标记数据场景下，设计了一种新的特征提取算法：联合分布调整(Joint Distribution Adaptation，JDA)。JDA结合了MMD，在迭代过程中同时调整领域间的边缘分布差异和条件分布差异，并把它融入到主成分分析中来构建一个新的特征子空间，在这个新的特征子空间内源域和目标域间数据的边缘分布差异和条件分布差异被进一步缩小。

基于半监督加权迁移判别分析的图像分类技术，通过将跨领域均值逼近权重加入到最大均值差异度量中，来改造联合分布调整，并结合半监督判别分析，使得算法在标签迭代精化过程中，充分挖掘标记信息和原始结构信息，以提升跨领域图像分类任务的效率。基于半监督加权迁移判别分析的图像分类技术提出跨领域均值逼近权重，并引入特征迁移学习技术中，是实现共享特征在不同领域间进行重复利用的新技术。

发明内容