[发明专利]一种细粒度识别模型的压缩方法和设备

权利要求书

1.一种细粒度识别模型的压缩方法，其特征在于，包括：

步骤1、通过样本数据采用弱监督学习方式训练得到用于细粒度识别的深度神经网络模型；

步骤2、对所述深度神经网络模型的缩放因子添加L1正则约束后进行训练；

步骤3、在完成训练后，从所述缩放因子对应的层开始，根据所述缩放因子是否趋近于0以及相邻层之间的参数对应关系对训练完成后的所述深度神经网络模型进行逐层剪枝处理；

步骤4、对完成剪枝的所述深度神经网络模型进行调整以减小剪枝对所述模型带来的精度损失，得到调整后的所述深度神经网络模型；

步骤5、重复执行步骤2-步骤4，直到得到的所述深度神经网络模型符合预设模型剪枝阈值的条件，且将符合所述条件的所述深度神经网络模型作为最终模型；

其中，所述深度神经网络模型包括：数据模块、卷积神经网络结构、注意力分支模块、损失函数计算模块；

所述数据模块用于处理所述深度神经网络模型训练和测试过程中的图像输入的批数据构造和预处理；

所述卷积神经网络结构，用于对所述数据模块的图像进行特征提取；

所述注意力分支模块，用于检测和提取包括特定特征的注意力区域；

所述损失函数计算模块，用于计算所述深度神经网络模型在训练过中的损失函数；

其中，所述样本数据为设置有标签的图像；

一次所述训练所选取的样本数为偶数，所述步骤1包括：对每一次所述训练选的样本数据添加成对的混淆约束；通过添加成对的混淆约束后的每一批所述样本数据训练得到用于细粒度识别的深度神经网络模型。

2.如权利要求1所述的方法，其特征在于，所述深度神经网络模型为Bi-Attention模型；所述深度神经网络模型的骨干网络为ResNet50。

3.如权利要求1所述的方法，其特征在于，

所述预处理包括进行逐通道减均值与除方差，并对所有的输入图像做固定缩放和单次随机裁剪的处理；

所述注意力分支模块包括在SE block的基础上加上一个全连接层形成的注意力提取子网络。

4.如权利要求1所述的方法，其特征在于，所述缩放因子为网络BatchNormalization层中的缩放因子。

5.一种细粒度识别模型的压缩设备，其特征在于，包括：

获取模块， 用于通过样本数据采用弱监督学习方式训练得到用于细粒度识别的深度神经网络模型，其中，所述样本数据为设置有标签的图像；

训练模块，用于对所述深度神经网络模型的缩放因子添加L1正则约束后进行训练；一次所述训练所选取的样本数为偶数，对每一次所述训练选的样本数据添加成对的混淆约束，通过添加成对的混淆约束后的每一批所述样本数据训练得到用于细粒度识别的深度神经网络模型；

剪枝模块，用于在完成训练后，从所述缩放因子对应的层开始，根据所述缩放因子是否趋近于0以及相邻层之间的参数对应关系对训练完成后的所述深度神经网络模型进行逐层剪枝处理；

调整模块，用于对完成剪枝的所述深度神经网络模型进行调整以减小剪枝对所述模型带来的精度损失，得到调整后的所述深度神经网络模型；

迭代模块，用于重复执行依次执行训练模块、剪枝模块、调整模块，直到得到的所述深度神经网络模型符合预设模型剪枝阈值的条件，且将符合所述条件的所述深度神经网络模型作为最终模型；

其中，所述深度神经网络模型包括：数据模块、卷积神经网络结构、注意力分支模块、损失函数计算模块；

所述数据模块用于处理所述深度神经网络模型训练和测试过程中的图像输入的批数据构造和预处理；

所述卷积神经网络结构，用于对所述数据模块的图像进行特征提取；

所述注意力分支模块，用于检测和提取包括特定特征的注意力区域；

所述损失函数计算模块，用于计算所述深度神经网络模型在训练过中的损失函数。

6.如权利要求5所述的设备，其特征在于，所述深度神经网络模型为Bi-Attention模型；所述深度神经网络模型的骨干网络为ResNet50。