[发明专利]基于流形学习和梯度提升模型的图片偏多标签分类方法

权利要求书

1.一种基于流形学习和梯度提升模型的图片偏多标签分类方法，其特征在于：方法包括：

第一阶段，包括步骤1和步骤2：

步骤1：

首先从训练数据集中构建一个加权图其中，V代表图片特征向量的集合，V＝{x_i|1≤i≤n}，x_i表示第i个图片的特征向量，i表示图片的序数，n表示训练数据集中图片的总数；E代表每两个图片之间的连接关系的集合，E＝{(x_i,x_j)|i≠j,x_j∈kNN(x_i)}，kNN(x_i)表示到第i个图片的特征向量x_i距离最近的前k个图片的特征向量的集合，(x_i,x_j)表示第j个图片和第i个图片具有连接关系；W为非负权重矩阵，W＝[w_ij]_n×n，其中w_ij表示第j个图片对第i个图片的权重；

对每个图片的特征向量x_i，被其他图片的特征向量线性重建∑_j≠iw_ijx_j，获得线性重建误差：

其中，β是正则化项的权衡参数，||·||₂表示二范数；

利用约束最小二乘规划方法来最小化线性重建误差ε(W)建立以下第一最小化模型：

其中，w_j是W的第j列向量，G^j表示w_j对应的n行n列的格莱姆矩阵，其中G^j的第a行第b列元素为(x_j-x_a)′(x_j-x_b)，使用v′表示某向量v的转置；

通过求解以上第一最小化模型获得非负权重矩阵W；

步骤2：根据加权图建立以下第二最小化模型，并求解获得重构标签矩阵作为置信度矩阵，再求解以上第二最小化模型获得重构标签矩阵U：

其中，U是重构标签矩阵，U＝[u₁,u₂,…,u_n]＝[u_di]_l×n，d表示标签的序数，l表示标签的总数，u₁,u₂,...,u_n分别表示重构标签矩阵的第1列、第2列、…、第n列，u_di表示重构标签矩阵的第d行第i列的元素，y_d表示第d个标签，Y_i表示第i个图片中多个实物物体对应的标签集合，δ₁和δ₂分别表示下限阈值和上限阈值；

第二阶段，包括步骤3和步骤4：

步骤3：首先根据重构标签矩阵U将训练数据集转换构造为重构数据集再由重构数据集中训练一个二值相关模型f₀；

然后用训练好的二值相关模型f₀对于图片的特征向量矩阵X进行预测处理得到一个标签矩阵f₀(X)，其中，X是特征向量矩阵；

步骤4：

针对特征向量矩阵X建立一个回归器F，由回归器F构建以下损失函数并进行最小化求解：

其中，是Frobenius范数，Ω(F)表示回归器F的正则项，能够控制回归器F的复杂度，F(X)表示回归器F的预测结果矩阵，

为了找到最优解，采用聚合模型作为回归器F，将一组弱回归器添加到二值相关模型形成回归器F；在回归器F的第t次迭代，计算在F(X)＝F_t-1(X)处，损失函数对F(X)的负梯度矩阵R^t：

其中，F_t-1(X)表示回归器F中第t-1次迭代的预测结果矩阵，分别表示第t-1次迭代的预测结果矩阵F_t-1(X)的第1列、第2列、…、第n列，分别表示第t次迭代下负梯度矩阵R^t的第1列、第2列、…、第n列；

接着利用回归器F的第t-1次迭代的预测结果矩阵进一步增强特征向量矩阵X，同时结合负梯度矩阵R^t构造以下第t次迭代的数据集

其中，表示第t次迭代第i个图片增强后的特征向量；

然后利用数据集进行训练学习获得一个弱回归器f_t，通过求和所有的弱回归器，获得最终鲁棒的回归器F：

其中，T是迭代的轮次，Ω′(f_t)表示控制第t次迭代的弱回归器f_t复杂度的正则化项，λ和γ分别是学习率和正则化项超参数，Ω(F)表示控制回归器F复杂度的正则化项；

步骤5：

对于一个预待测图片的特征向量x^*，输入到步骤4获得的回归器F中输出预测获得实数值的标签向量u*，根据标签向量u*判断：若标签向量u*中的第d个元素大于0，则图片中有第d个标签对应的实物物体存在；若标签向量u*中的第d个元素小于等于0，则图片中有第d个标签对应的实物物体不存在。