[发明专利]一种面向皮肤病不平衡数据惩罚得分的网络剪枝方法

说明书

本发明公开了一种面向皮肤病不平衡数据惩罚得分的网络剪枝方法，包括：S1、获取皮肤病不平衡样本数据集并根据每个类别的样本数确定尾类，进行样本权重向量标记；S2、构建卷积神经网络；S3、计算卷积神经网络中每个卷积核的不平衡数据惩罚得分；S4、根据预设剪枝率对卷积神经网络中每个卷积层的卷积核进行修剪；S5、采用皮肤病不平衡样本数据集对修剪后的卷积神经网络进行训练直至收敛，再利用平衡数据集对收敛的卷积神经网络微调，获得最终网络模型。该方法在降低网络参数量和计算量的同时，提高了分类准确率，且便于部署，泛化能力强。

技术领域

本发明属于计算机视觉技术领域，具体涉及一种面向皮肤病不平衡数据惩罚得分的网络剪枝方法。

背景技术

皮肤是人体最大的器官，皮肤病是发生在皮肤和皮肤附属器官疾病的总称，其种类繁多，多种内脏发生的疾病也可以在皮肤上有表现。如黑色素瘤(即:恶黑)是最常见且最致命的皮肤癌症，严重威胁人类的身体健康。它是一种来源于神经嵴黑色素细胞的高度恶性实体皮肤肿瘤，一般是因为分布在皮肤或其他组织的黑色素细胞发生恶化癌变。日光中的紫外线是皮肤癌发生、发展的重要危险因素，所以日晒是皮肤癌的主要发病原因。黑色素瘤的早期病变的表现形式为黑色损害，损害多具有色素不均匀、边缘不规则、不对称、直径≥6mm等特征。与色素痣、日光性角化病、基底细胞癌等皮肤病在形态学上极其相似，不易分辨，容易造成误诊而延误黑色素瘤的最佳治疗时间。因此，借助计算机技术提高皮肤病(如黑色素瘤等)的分类准确率，辅助医生进行诊断具有非常重要的研究价值和意义。

然而，在皮肤病分类任务中主要存在训练数据类别的极其不平衡问题(即：数据的长尾问题)。长尾效应(long-tailed)在深度学习中指某一个或者多个类别的数据占所有数据的绝大部分，剩余的一些分类占整个数据集的少部分。长尾效应最直接的结果就是造成深度学习模型过拟合，具体表现在模型在分类或者预测小类别样本时的表现不理想。ISIC2019就是一个典型的长尾数据集。当直接使用不均衡数据集进行训练时，大多数情况下都无法取得理想的结果。利用不均衡的数据集训练出来的模型泛化能力差并且容易发生过拟合，表现在训练出来的模型倾向于把小类别样本判别为多数类样本。而实际上往往最值得关注的是样本占比较小的类别(如肿瘤图像)，这类数量稀少而重要，且错分类带来的风险非常大。无法从所有样本中正确筛选出这些关键样本，将使模型的价值大打折扣。

针对数据样本不均衡导致的模型过拟合问题，现有技术的解决方案通常为欠采样、损失函数增强、数据增强等。但随着卷积神经网络的层数不断加深，卷积核数量不断增多，卷积神经网络的参数量、计算量不断上升，在移动设备上使用受限。而网络剪枝则可以在保持精确度的同时，有效的降低卷积神经网络的参数量和计算量，使得卷积神经网络在移动设备上轻松部署，但现有的网络剪枝方法通常忽略了网络结构的特异性，因为不同网络的各层结构其对参数的敏感性不同，网络从前到后是一个有层次的学习过程，而在此过程参数的敏感度也在变化。忽视参数的敏感度会对不平衡数据剪枝结果产生较大的影响从而导致不稳定的判别结果，也难以准确挖掘出少样本数据卷积核和网络输出之间的关系，且会导致不平衡数据剪枝过程受到大量无关因素的干扰，不能保证剪枝结果的稳定性和可靠性，泛化能力差。因此，鉴于上述问题，本发明提出一种面向皮肤病不平衡数据惩罚得分的网络剪枝方法。

发明内容

本发明的目的在于针对上述问题，提出一种面向皮肤病不平衡数据惩罚得分的网络剪枝方法，在降低网络参数量和计算量的同时，提高了分类准确率，且便于部署。

为实现上述目的，本发明所采取的技术方案为：

本发明提出的一种面向皮肤病不平衡数据惩罚得分的网络剪枝方法，包括如下步骤：

S1、获取皮肤病不平衡样本数据集并根据每个类别的样本数确定尾类，进行样本权重向量标记；

S2、构建卷积神经网络；

S3、计算卷积神经网络中每个卷积核的不平衡数据惩罚得分，具体如下：