[发明专利]用于图像分类任务的深度卷积网络训方法、装置及系统

说明书

本发明提供了用于图像分类任务的深度卷积网络训练方法、装置及系统，方法包括：步骤10，对训练样本进行预处理，获得数据增强的训练样本；步骤20，针对数据增强的训练样本，基于深度卷积神经网络提取图像嵌入/特征向量，得到当前的输出；步骤30，基于当前的输出和修正后的损失函数，进行梯度反传；步骤40，对所述深度卷积神经网络层的参数进行调整更新；步骤50，重复步骤10‑步骤40，将所述深度卷积神经网络层迭代训练至收敛。本发明继承了Mixup和Focal Loss两种优化方法的思想，通过重新设计损失函数，修正了这两种方法简单叠加使用造成的优化目标偏误，缓解了难易样本不均衡的问题，可以获得精度更高的深度卷积网络分类模型。

技术领域

本发明书一个或多个实施例涉及计算机技术领域，涉及一种用于图像分类任务的深度卷积网络训练方法、装置及系统，具体涉及一种图像识别的数据增强方法和损失函数设计。

背景技术

本部分旨在为权利要求书中陈述的本发明的实施方式提供背景或上下文。此处的描述可包括可以探究的概念，但不一定是之前已经想到或者已经探究的概念。因此，除非在此指出，否则在本部分中描述的内容对于本申请的说明书和权利要求书而言不是现有技术，并且并不因为包括在本部分中就承认是现有技术。

近年来，基于深度神经网络模型的人工智能技术，在计算机视觉领域得到广泛应用，，尤其是在目标检测任务当中，一些深度学习算法模型与框架，已经表现出惊人的准确率。对于目标分类或者检测任务而言，通常在确定网络框架以后，模型的准确性在很程度上由数据集和训练模型所用的损失函数所决定。

其中，Mixup是一种非常规的数据增强方法，其以线性插值的方式来构建新的训练样本和标签，最终对标签的处理如下公式所示：

其中，(x_i,y_i)，(x_j,y_j)两个数据对是原始数据集中的训练样本和其对应的标签。其中λ∈[0，1]是一个服从B分布的参数λ～Beta(α，α)，α∈[0，+∞]。当进行二分类任务时其损失函数形式为：

其中，C表示任意一种用于分类任务的损失函数，例如交叉熵等。

损失抑制权值向量优化Focal Loss主要是为了解决正负样本比例严重失衡的问题。该损失函数降低了大量简单负样本在训练中所占的权重，当进行二分类任务时其函数形式为：

其中，γ为常数，y_p为网络输出值，y为样本标签。

该方法也可拓展到多分类的情形。

但存在如下问题：

深度学习网络训练过程中，如果同时使用上述两种优化方法，并且直接将L_f代入C中，则优化目标出现异常改变，导致最终训练效果较差。

简要起见，以二分类任务进行说明，融合后的优化目标为：

y_p表示卷积神经网络的预测输出值；log是以e为底的对数运算。λ是mixup参数，γ是focal loss参数，一般取2。

当y_i＝y_j时，也即(1)(2)式，L_mf＝L_f，此时没有问题；