[发明专利]基于带有噪声和不平衡的类标签的鲁棒学习方法

权利要求书

1.基于带有噪声和不平衡的类标签的鲁棒学习方法，其特征在于，包括以下步骤：

步骤1. 获取带有噪声标签且不平衡分布的数据集D={x_i,}；D代表由图像x_i以及对应的含有一定概率的噪声标签组成的数据集，i∈{1,N}，N表示D中样本总数；

步骤2. 初始化各项参数，包括：

训练次数t=0、预训练参数T_th、噪声筛选参数η、伪标签阈值δ以及温度参数τ；

步骤3. 搭建深度学习模型与损失函数，包括：学生模型S₁、S₂、S₃、教师模型S₀、交叉熵损失函数L_ce、无监督对比损失L_ucl、组内对比损失L_gcl以及蒸馏损失L_dis1和L_dis2；

步骤4. 将数据集D中的图像x_i和对应的噪声标签分别输入到学生模型S₁、S₂、S₃以及教师模型S₀中进行Warm up训练，训练T_th轮；

步骤5. 在检测阶段，使用教师模型S₀对数据集D中的噪声标签进行检测，根据噪声筛选参数η将数据集D划分为伪噪声数据集D_pn和伪干净数据集D_pc；

当j∈{1,ηN}时，D_pn={x_j, }，当j∈{ηN+1, N}时，D_pc={x_j, }；

其中，{x_j, }表示重新排序后的图像和对应的标签；

步骤6. 在训练阶段，将伪干净数据集D_pc的图像x_j输入模型S_v中进行无监督对比学习训练同时得到预测结果q_vj，然后对所有模型的预测结果q_vj进行蒸馏学习；

其中，q_vj表示模型S_v对于图像x_j的预测结果；对于伪干净数据集D_pc，优化交叉熵损失函数L_ce、无监督对比损失L_ucl、蒸馏损失L_dis1和L_dis2以更新模型S_v，v=0,1,2,3；

步骤7. 将伪噪声数据集D_pn的图像x_j输入教师模型S₀中进行类别预测，并将预测类作为D_pn中每个样本的伪标签，得到伪标签集D^*_pn={x_j, }；

其中，表示每个输入图像x_j的伪标签；

在训练阶段，将伪标签集D^*_pn的图像x_j和伪标签输入模型S_v中进行组内对比训练同时得到预测结果t_vj，然后对所有模型的预测结果t_vj进行蒸馏学习，v=0,1,2,3；

对于伪标签集D^*_pn，优化组内对比损失L_gcl和蒸馏损失L_dis1和L_dis2以更新模型S_v；

步骤8. 判断当前迭代次数t是否达到最大迭代次数T；若当前迭代次数t未达到最大迭代次数T，则返回步骤5继续训练，t=t+1；否则，转到步骤9；

步骤9. 模型训练完成后，得到能够在数据集上区分干净标签和噪声标签的教师模型S₀；使用教师模型S₀执行分类预测任务。