[发明专利]基于优化通道剪枝的快速目标检测方法及系统

权利要求书

1.一种基于优化通道剪枝的快速目标检测方法，步骤如下：

步骤1：采用基于卷积神经网络(CNN)的单阶段目标检测模型YOLOv3对待检测的目标图像进行稀疏训练，训练尺度因子，得到原始的稀疏检测模型，所述稀疏检测模型中的每个卷积层后面都有一个BN层；

步骤2：根据稀疏训练后的原始的稀疏检测模型的尺度因子分布，设计层级加权通道剪枝阈值；

步骤3：根据设计的层级加权通道剪枝阈值，进行常规剪枝，剪去稀疏剪枝层通道中尺度因子小于层级加权阈值的通道；

或者，步骤4：根据设计的层级加权通道剪枝阈值，进行极限剪枝，并且，对极限剪枝后的精简网络模型进行微调。

2.根据权利要求1所述的基于优化通道剪枝的快速目标检测方法，其特征在于，所述步骤1包括：

使用批处理归一化BN层的尺度因子作为对应卷积层通道的尺度因子，BN层归一化卷积层的特征如式(1)所示。

和σ²是一个批次输入特征的均值和方差，γ_i和β_i是BN层中第i个尺度因子和偏差，x_i和y_i是BN层中第i个输入和归一化后的输出，ε表示一个极小的整数，通常设置为1e-5；

采用L1正则化方法进行通道稀疏训练，稀疏训练的损失函数如式(2)所示

式中(x,y)表示训练输入和对应的真值目标，W为可训练权重，g(γ)＝|γ|表示L1正则化，Γ表示BN层中所有尺度因子，μ表示平衡这两个损失的惩罚因子，第一个和项对应网络的常规训练损失，与基线YOLOv3一致，l为基线YOLOv3的损失函数。

3.根据权利要求1所述的基于优化通道剪枝的快速目标检测方法，其特征在于，所述步骤2的层级加权通道剪枝阈值的设计方法如下：

(2.1)根据各剪枝层局部尺度因子的分布情况，计算各层的剪枝阈值，如公式(3)所示

其中Γ表示每一层的所有尺度因子，θ是一个微不足道的分数，γ_ot是对应于每一层的局部最优阈值，所述局部最优阈值是当某个剪枝层的所有尺度因子升序排列，出现的第一个尺度因子的累积平方和大于或等于θ∑_γ∈Γγ²时，则这个尺度因子被定义为局部最优阈值γ_ot；

(2.2)在不等式(3)的右侧添加一个权重w，权重w由公式(4)计算得到

式中，|γ|为尺度因子γ的绝对值，c为对应层内的通道数，s为所有剪枝层数；

(2.3)通过公式(5)计算通道剪枝的层级加权阈值γ_wt

4.根据权利要求1所述的基于优化通道剪枝的快速目标检测方法，其特征在于，所述步骤3的常规剪枝是指剪枝层不包括网络模型的残差快捷连接卷积层的通道剪枝方法，剪去稀疏剪枝层通道中尺度因子小于层级加权阈值的通道。

5.根据权利要求1所述的基于优化通道剪枝的快速目标检测方法，其特征在于，所述步骤4的极限剪枝是指剪枝层包含网络模型的残差快捷连接卷积层的通道剪枝方法。

6.根据权利要求1所述的基于优化通道剪枝的快速目标检测方法，其特征在于，所述步骤4的微调是用修剪后的模型权重参数初始化该极限剪枝精简网络，并对该极限剪枝精简网络进行常规训练，其他训练超参数与常规训练相同，常规训练的损失函数如式(6)所示。

式中(x,y)表示训练输入和对应的真值目标，W为可训练权重，该常规训练损失与基线模型YOLOv3一致。