[发明专利]基于深度子空间自表达的多标签分类方法

权利要求书

1.基于深度子空间自表达的多标签分类方法，为图像识别提供方法支持，其特征在于，具体按照如下步骤实施：

步骤1，预训练自动编码器神经网络

读取多标签数据并进行预处理，使用深度自动编码器神经网络，以数据重构为目标，以经预处理的多标签数据作为输入数据，对输入数据进行训练获得网络参数的初始值；

步骤2，训练深度子空间自表达神经网络

构建深度子空间自表达神经网络，以步骤1预训练的结果权值作为初始值赋值于深度子空间自表达神经网络，以数据重构误差、线性层的权值稀疏度以及稀疏表示的重构误差最小化为目标进行训练，训练深度子空间自表达神经网络；

步骤3，将经步骤2训练好的深度子空间自表达神经网络中的第三层自表达层参数取出，获得数据间相似关系的实数值表示；

步骤4，构建深层全连接分类网络，利用数据的相似关系与训练数据的二值标签构建数据的实数值预测标签，并以此实数值标签为输入，真实的二值标签为输出，训练深层全连接分类网络，直到达到终止条件；

所述深度子空间自表达神经网络的结构为：前两层为全连接层，第三层为自表达层，第三层中的响应函数为线性函数；第四、五层为全连接层；

深度子空间自表达网络的训练过程为：

所述深度子空间自表达神经网络的第一、二、四、五层的网络参数初始化为步骤1保存的深度自动编码器神经网络的权值，随机赋值给第三层，以如下目标进行训练：

求解上述公式获得通过学习得到的网络参数的最优值，其中，表示通过深度子空间自表达神经网络后的重构数据，表示网络参数，包含编码参数、自表达层参数，表示输入数据，表示输入数据经过神经网络的编码层后的输出数据，表示Frobenius 范数，表示取矩阵的主对角线元素操作，与为平衡参数；

所述步骤3中将训练好的深度子空间自表达神经网络中的第三层自表达层参数取出，获得数据间相似关系的实数值表示具体为：

通过步骤2训练完成的深度子空间自表达神经网络所有参数的值后，读取网络自表达层，即第三层的参数，为矩阵，其中，第三层中结点i与结点j之间连接的权值表示为，即就是矩阵中第i行、第j列的元素值，数据间的相似关系采用矩阵表示，数据i与数据j之间的相似度，即就是数据i与数据j的相似关系的实数值用矩阵的第i行、第j列的元素值表示，矩阵的通过计算获得，即将矩阵中的第i行，第j列的元素值赋值为，其中表示绝对值函数，为第三层中结点j与结点i之间连接的权值。

2.根据权利要求1所述的基于深度子空间自表达的多标签分类方法，其特征在于，所述步骤1中读取多标签数据并进行预处理具体为：

忽视数据标签仅读取数据特征，将缺失特征的数据剔除，然后对多标签数据进行归一化处理，以进行归一化处理的多标签数据作为输入数据，即就是训练数据，用表示经归一化处理的多标签数据的集合，表示由个标签组成的标签空间，表示训练数据集合，其中，为数据特征向量，为数据的标签集合，表示维特征空间。

3.根据权利要求2所述的基于深度子空间自表达的多标签分类方法，其特征在于，所述步骤1中的深度自动编码器神经网络为具有输入结点数、输出结点数与训练数据特征维数相同的网络结构，所述深度自动编码器神经网络具有四个全连接层，目标函数为最小化重构误差，即，其中，表示输入数据，表示输出数据，表示Frobenius 范数。

4.根据权利要求3所述的基于深度子空间自表达的多标签分类方法，其特征在于，所述预训练深度自动编码器神经网络的步骤为：

将训练数据的数据特征输入至未经训练的深度自动编码器神经网络中，然后以最小数据重构误差为目标，在GPU上进行训练，采用随机梯度下降方法进行求解，待训练达到终止条件后，保存深度自动编码器神经网络的权值。

5.根据权利要求1所述的基于深度子空间自表达的多标签分类方法，其特征在于，所述步骤4中利用数据的相似关系与训练数据的二值标签构建数据的实数值预测标签，具体为利用如下公式计算实数值预测标签：

其中，为表示数据i与数据j相似关系的相似度，为训练数据的二值标签，为的实数值预测标签。