[发明专利]一种适用于嵌入式设备的改进目标实时识别网络结构的方法

权利要求书

1.一种适用于嵌入式设备的改进目标实时识别网络结构的方法，其特征在于，包括以下步骤：

步骤一、正常运行未经压缩的目标识别网络模型，计算出各层级的卷积模块的权重参数量在总模型所有卷积层权重参数量之和中的占比；

步骤二、选出占比50％—70％的卷积模块并替换为深度可分离卷积模块，完成模型的初次压缩；迭代运行初次压缩模型，直到损失曲线上的损失值波动小于0.01；

步骤三、针对损失值稳定的压缩模型，将每个通道的影响因子引入到损失函数中，并对损失函数进行稀疏正则化；

首先，针对每层卷积网络内的各个通道，将各通道对应的影响因子的理论值γ与每个通道的输出进行乘积，从而将影响因子引入到损失函数中，并加入稀疏惩罚项进行稀疏正则化；

计算公式如下：

其中，x为卷积网络的输入，y为卷积网络的输出，W是网络的权重矩阵；

∑_(x,y)l(f(x,W),y)是卷积网络的常规Loss计算式；g(·)采用了L1正则项，为损失函数Loss引入了稀疏性惩罚项；λ为稀疏惩罚项在总体损失函数中所占的比例系数；Γ为各通道对应的影响因子γ集合；

然后，将引入γ后的损失函数进行多次逆向传播训练，得到各影响因子γ的真实值；

步骤四、设定裁剪比例阈值，选出稀疏正则化后低于该比例阈值的影响因子，将各影响因子对应的网络通道裁剪掉，重新迭代运行裁剪后的网络模型，直到损失曲线不再发生变化或者损失值的变化波动程度小于0.01为止，完成通道剪枝压缩过程；

步骤五、在神经网络每次读取图片进入训练前，加入图像增强模块随机调整图像的亮度，对比度，饱和度和色相相关属性；

步骤六、针对压缩和剪枝处理后的模型，加入SENet模块进一步提升识别精度；

步骤七、利用图像增强模块调整后的训练图像，输入到加入SENet模块的神经网络中进行训练；

训练过程中，使用学习率动态调整模块设置分界点形成不同的训练阶段，并利用性能优化模块对训练过程中的误差损失函数进行优化；

具体过程为：

首先，根据0.8和0.9两个分界点分别设置三个不同的训练阶段：0—0.8，0.8—0.9和0.9—1，并使得不同阶段的学习率依次下降10倍；

然后，对误差损失函数进行优化的过程为：

采用IOU或GIOU作为损失的计量方式，并加入缩放系数k，计算公式如下：

Loss＝k×Localization loss+Confidence loss+Classification loss

Localization loss为边界框损失误差函数；Confidence loss为置信度损失函数；Classification loss为目标的类别损失函数；

步骤八、利用训练好的目标识别网络模型，对实时采集的图像进行目标识别。

2.如权利要求1所述的一种适用于嵌入式设备的改进目标实时识别网络结构的方法，其特征在于，步骤二中所述的深度可分离卷积模块是将标准卷积分解为深度卷积和点卷积；

深度卷积为输入的每个通道都提供不同的卷积核滤波器，继而输出与输入通道数目相匹配的输出权重矩阵；

点卷积让输出的权重矩阵和一个1×1的卷积核做普通卷积运算，从而得到最终的输出值。

3.如权利要求1所述的一种适用于嵌入式设备的改进目标实时识别网络结构的方法，其特征在于，所述步骤四中裁剪比例的设定为：基于不同的通道裁剪率对识别率的影响图像，找到识别率和通道裁剪率曲线的拐点作为最终的裁剪比例阈值；

根据影响因子γ的真实值，选出低于设定阈值的各影响因子，将对应的网络通道进行修剪和微调，实现通道级别的模型剪枝，并去掉其对应输入和输出的权重参数。

4.如权利要求1所述的一种适用于嵌入式设备的改进目标实时识别网络结构的方法，其特征在于，所述步骤六中加入SE模块的原则是：在浅层卷积网络即第一、二层卷积层前面加入SE注意力机制模块，让浅层神经网络自动识别出不同特征信息通道对结果的影响程度，并有选择性对产生重要影响的通道进行增强或对影响较小的通道进行抑制处理。

5.如权利要求1所述的一种适用于嵌入式设备的改进目标实时识别网络结构的方法，其特征在于，所述步骤七中GIOU计算公式如下：

A损失函数计算式中的真实框，B代表损失函数计算式中的预测框；因而A∩B就代表了真实框和预测框的交集面积，同理A∪B代表了真实框和预测框的并集面积，C代表了A和B的最小闭包面积。