[发明专利]一种多结构多任务深度神经网络及其训练、分类方法

说明书

本发明公开了一种多结构多任务深度神经网络及其训练、分类方法。本网络包括M个特征提取单元，一个用于识别样本子类类别的分类分支CCB和由K个用于对超类进行分类的超类分类器组成的超类分类分支MSCBs；每一超类分类器分别与一特征提取单元连接，用于基于提取的样本特征识别样本的超类类别；网络的损失函数为其中L_CCB为CCB的损失函数，为第k个超类分类器的损失函数，分别是CCB、第k个超类分类器对样本x预测的子类和超类，c、是第k个分层标记结构H_k中的子类真实值、超类真实值。

技术领域

本发明涉及一种面向图像分层分类的多结构多任务深度神经网络模型，属于计算机软件技术领域。

背景技术

随着标注数据的海量增加，深度学习方法在图像分类任务中取得了显著的效果，是近年来的研究热点。一般地，对样本的类别进行0/1编码后输入网络进行训练，标记之间相互独立。但是在大数据环境下，为了提高数据的存储和检索效率，往往采用分层结构组织数据，因此分层分类任务被提出。传统的分层分类方法将分层分类任务分解成若干个子任务，并为每个超类节点分别训练一个子类分类器。

在分层分类中，分层标记结构对分类结果有很大的影响，因此很多研究人员都在努力尝试构建有效的分层标记结构，大致可以分为基于语义的构建方法和基于计算的构建方法。基于语义的方法根据类别之间的语义关系构建语义结构。基于计算的方法根据类别之间的外观关系构建分层标记结构，通常情况下，首先计算一个类别的混淆矩阵或是相似矩阵，然后根据谱聚类来构建分层标记结构。具体来说，基于混淆矩阵的计算方法，把混淆的类别聚类到同一个超类里面；基于相似矩阵的计算方法，设计不同的准则来度量类别之间的相似性。

背景技术的缺陷

1,传统的扁平分类器：

大数据时代的到来使得不可分的类别大量增长，然而，传统的扁平分类器不能衡量犯错误的严重程度，只要预测结果与真值不一致，就被判定为错误，因此传统的扁平分类器不适用于大规模的图像分类。

2,传统的分层分类方法：

传统的分层分类方法将多层分类任务分解成多个子任务训练多个子分类器，这种分治策略占用了大量的存储空间。此外由于多个分类器相互独立，超类和子类之间的关联关系在训练过程中被忽略。

3,分层分类中单分层标记结构的缺陷：

语义结构(H_Sem)中类别的语义关系可能与外观不一致，从而降低了分类器的性能；基于混淆矩阵的分层标记结构严重依赖于分类器的性能；基于相似矩阵的分层标记结构(H_AM)依赖于特征的表示能力以及相似性度量方法的设计。因此，单一的分层标记结构为子类分类器提供的先验知识有限。

发明内容

本发明的目的在于设计一个多任务多分层标记结构融合的框架，激励子类分类器学习不同方面的特征，比如外观方面、语义方面，以此满足不同分层标记结构下的多重相似性约束，使得来自不同分层标记结构的超类能够指导子类的识别；同时设计多结构条件下的分类性能评价指标，从而更好的评估多种结构约束下的分类性能。

本发明的技术方案为：

一种多结构多任务深度神经网络，其特征在于，包括M个特征提取单元，一个用于识别样本子类类别的分类分支CCB和由K个用于对超类进行分类的超类分类器组成的超类分类分支MSCB；其中，M个特征提取单元依次连接用于提取样本的不同层级特征，第m个特征提取单元提取的样本特征层级低于第m+1个特征提取单元提取的样本特征层级；每一所述超类分类器分别与一对应的特征提取单元连接，用于基于所连接特征提取单元提取的样本特征识别样本的超类类别，不同所述超类分类器负责识别不同分层标记结构定义的超类类别；最后一个特征提取单元，即第M个特征提取单元，与分类分支CCB连接；M大于或等于K；