[发明专利]一种用于图像分类的基于提取高低层特征逻辑的深度学习方法

权利要求书

1.一种用于图像分类的基于提取高低层特征逻辑的深度学习方法，其特征在于，由特征提取网络以及逻辑网络组成，特征提取网络由若干个特征提取单元串联得到，逻辑网络由若干个逻辑提取单元串联得到，特征提取单元为卷积层或残差块，逻辑提取单元为由卷积层和哈达姆积组成的卷积树突模块，各个单元之间的连接关系为，本层特征提取单元的输入是上级特征提取单元的输出，本层逻辑提取单元的输入是上一级逻辑提取单元的输出和本层特征提取单元的输出，特征提取网络是单输入多输出的，作用是提取从低到高各个层次的图像特征，输入为需要分类的图像，输出为各个层次的特征图，逻辑网络是多输入单输出的，作用是构造高底层图像特征之间的逻辑关系并根据逻辑关系分类，输入是各个层次的特征图，输出为分类结果，具体包括如下步骤：

步骤1、将带有图像标签的输入图像送入首层卷积层进行维度变换和初步特征提取得到特征图0；

式中，X_F⁰为特征图0，X_in为输入图像，W_first为首层卷积层的权重矩阵，为卷积；

步骤2、将特征图0送入特征提取单元1经过特征提取后得到特征图1；

式中，X_F¹为特征图1，W_F¹为特征提取单元1的权重矩阵，W_S¹为特征提取单元1中跳跃连接中的线性映射权重矩阵，F(·)为非线性激活函数，为卷积；

步骤3、将特征图0和特征图1同时送到逻辑提取单元1，经过高低层特征逻辑组合后，得到特征逻辑图1，特征逻辑图1包含了特征图0和特征图1之间所有可能的特征逻辑组合；

式中，为特征逻辑图1，X_F⁰为特征图0，X_F¹为特征图1，为逻辑提取单元1的权重，f_ij⁰为特征图0的图像特征，f_ij¹为特征图1的图像特征，与逻辑f_ij⁰·f_ij¹，或逻辑f_ij⁰+f_ij¹、非逻辑-f_ij^*，为逻辑提取单元1的权重，其中i,j为矩阵下标(i＝1,2,…，n；j＝1,2,…，m)，n为图像的长度，m为图像的宽度，*代表任意层，为卷积，为哈达姆积；

步骤4、将特征图1送入特征提取单元2经过特征提取后得到特征图2；

式中，X_F²为特征图2，W_F²为特征提取单元2的权重矩阵，W_S²为特征提取单元2中跳跃连接中的线性映射权重矩阵；

步骤5、将特征逻辑图1和特征图2同时送入逻辑提取单元2，经过高低层特征逻辑组合后，得到特征逻辑图2；

式中，为特征逻辑图2，为逻辑提取单元2的权重矩阵；

步骤6、继续利用下一层特征提取单元提取更高层次的特征以及下一层逻辑提取单元对高低层特征进行逻辑组合，直至得到最高层次的特征逻辑图，特征逻辑图中包含所有高低层特征之间的特征逻辑组合，递推公式表示为：

式中，k为层标记，k＝2,3,…，X_F^k-1为特征图k-1，X_F^k为特征图k，为特征逻辑图k-1，为特征逻辑图k，W_F^k为特征提取单元k的权重矩阵，W_S^k为特征提取单元k中跳跃连接中的线性映射权重矩阵；

步骤7、将最高层的特征逻辑图重整为一维张量并送入分类器，分类器根据最高层次的特征逻辑得到图像的分类结果；

式中，X_out为分类结果，为最高层的特征逻辑图，W_FC为分类器中全连接层的权重矩阵，reshape(·)表示将变量重整为一维张量；

步骤8、将分类结果与图像标签作对比，计算分类误差，利用误差反向传播算法调节首层卷积层、各个特征提取单元以及逻辑提取单元的权重，多次迭代后得到最优的图像分类模型；

E＝L(X_lab,X_out)

式中，X_out为分类结果，X_lab为图像标签，E为分类误差，W_*为模型中的所有权重，W_*’为经过误差反向传播算法调节后模型的所有权重，L(·)为损失函数，η为学习率；

步骤9、使用最优的图像分类模型对不带有图像标签的输入图像进行分类，得到输入图像所属的类别。