[发明专利]一种基于深度学习的目标检测YOLOv3的模型优化算法

权利要求书

1.一种基于深度学习的目标检测YOLOv3的模型优化算法，其特征在于，包括以下步骤：

S1，采用K-means++聚类算法重新设置合适商品数据集的Anchor box；

S2，进行一般训练：设定YOLOv3的Darknet-53网络结构，载入数据集图片、标签和权重参数，进行前向推理，利用loss值反向求导更新权重参数，迭代一定次数，结束训练，挑选最终模型；

S3，进行稀疏化训练：对YOLOv3进行200个epoch的稀疏训练，其中使用惩罚因子值为0.001，稀疏训练的其余超参数与正常训练相同；

S4，将YOLOv3稀疏化后的最终模型作为基准，叠加使用通道剪枝和层剪枝进行双重剪枝，修剪不重要的特征通道和层；

S5，对剪枝后的模型进行微调，根据mAP曲线图取较好效果的值，对得到的值再次进行评估，如果满足优化要求，则结束优化过程，如果不满足，则需重复步骤S1-S4进一步优化，直到满足要求。

2.根据权利要求1所述的基于深度学习的目标检测YOLOv3的模型优化算法，其特征在于，所述步骤S1中，采用K-means++聚类算法重新设置合适商品数据集的Anchor box，具体包括：

S101，随机选取一个Anchor box的宽高作为第一个聚类中心；

S102，基于第一个聚类中心开始，逐个确定第n个聚类中心，第n个聚类中心选取原则是与当前第n-1个聚类中心IoU越大的框被选取的概率越大；

S103，循环步骤S102直到所有初始聚类中心被确定；

S104，剩下其它Anchor box逐一与聚类中心计算IoU，得到两个框之间的IoU，将Anchorbox划分到与其IoU最大的聚类中心所属的类中；

S105，所有Anchor box都遍历后，计算各类Anchor box宽、高的均值，作为下轮迭代的聚类中心；

S106，重复步骤S104、S105，直到大于阈值，或达到迭代次数。

3.根据权利要求1所述的基于深度学习的目标检测YOLOv3的模型优化算法，其特征在于，所述步骤S4中，将YOLOv3稀疏化后的最终模型作为基准，叠加使用通道剪枝和层剪枝进行双重剪枝，修剪不重要的特征通道和层，具体包括：

将YOLOv3稀疏化后的最终模型作为基准，基于BN层系数进行通道剪枝，达到理想精度后进行稀疏训练，对需要剪枝的层对应的BN的系数进行大幅压缩，然后设定剪枝率，对值进行排序，根据选取的剪枝率剪除不重要的通道剪枝，修剪过程中，忽略上采样层，因为采样层没有卷积通道，忽略快捷链路层；层剪枝是在通道剪枝基础上针对每一个快捷链路前一个带BN的卷积层进行评价，对各层的γ最高值进行排序，取最小的进行层剪枝。

4.根据权利要求3所述的基于深度学习的目标检测YOLOv3的模型优化算法，其特征在于，通过将通道修剪模块的剪枝率PR设置为0.492，0.787，0.885和0.968得到了4个通道剪枝后的模型。

5.根据权利要求3所述的基于深度学习的目标检测YOLOv3的模型优化算法，其特征在于，通过层修剪模块的shortcut剪枝数SC设置为8，12和16得到了3个层剪枝后的模型。

6.根据权利要求1所述的基于深度学习的目标检测YOLOv3的模型优化算法，其特征在于，对剪枝后的模型进行微调，根据mAP曲线图取较好效果的值，具体包括：

剪枝后，mAP下降比较多，对剪枝后的模型进行微调，取PR＝0.885，SC＝8，epoch为50，根据mAP曲线图取较好效果的值。