[发明专利]一种面向遥感图像的卷积神经网络压缩方法

权利要求书

1.一种面向遥感图像的卷积神经网络压缩方法，其特征在于，包括：

S1、搭建深度神经网络模型，使用自然场景图像数据对网络进行参数训练，得到预训练模型M1；

S2、使用遥感图像数据对所述预训练模型M1进行参数训练，得到模型M2；

S3、对所述模型M2进行通道级重要度计算，按照剪枝比例X和重要度计算结果，对重要度较低的通道进行裁剪得到通道剪枝模型，对所述通道剪枝模型使用所述遥感图像数据进行参数训练，得到通道剪枝后模型M3；

S4、提高剪枝比例X，重复所述步骤S3，直至完成所有设定的剪枝比例和次数n，得到M3-1、M3-2、…M3-n共n个通道剪枝后模型；

S5、针对通道剪枝后模型M3-i，进行卷积核级重要度计算，按照剪枝比例Y和重要度计算结果，对重要度较低的卷积核进行裁剪得到卷积核剪枝模型，对所述卷积核剪枝模型使用所述遥感图像数据进行参数训练，得到卷积核剪枝后模型M4-i；所述i∈[1,n]；

S6、提高剪枝比例Y，重复所述步骤S5，直至完成所有设定的剪枝比例和次数m，对于每个通道剪枝后模型M3-i均得到M4-i-1、M4-i-2、…M4-i-m共m个卷积核剪枝后模型；

S7、将所述自然场景图像数据输入到所述预训练模型M1和经过通道剪枝和卷积核剪枝后的模型M4-i-j，分别得到模型输出结果Z₁和Z₄，基于模型输出结果计算模型损失L1，并基于模型损失L1更新模型M4-i-j的参数，训练完成得到模型M5-i-j；所述j∈[1,m]；

S8、将所述遥感图像数据输入到模型M2和模型M5-i-j，分别得到模型输出结果Z₂和Z₅，基于模型输出结果计算模型损失L2，并基于模型损失L2更新模型M5-i-j的参数，训练完成得到模型M6-i-j；

S9、对上述M6-i-j共n×m个模型分别进行模型精度测试、参数量统计、计算量统计，根据待应用的平台资源和/或性能需求选择满足要求的剪枝模型。

2.如权利要求1所述的面向遥感图像的卷积神经网络压缩方法，其特征在于，所述步骤S3包括：

使用标准F1对所述模型M2的参数进行通道级的重要度计算，得到通道重要度矩阵A1；

使用标准F2对模型M2的参数进行通道级的重要度计算，得到通道重要度矩阵A2；

按照可变剪枝比例X分别求出矩阵A1和A2对应的阈值U1和U2；

将A1中大于U1的值置为1、小于等于U1的值置为0，得到二值矩阵A3；

同理将A2中大于U2和小于等于U2的值分别置为1和0，得到二值矩阵A4；

对矩阵A3和A4进行按位或计算，得到二值矩阵A5；

按照二值矩阵A5中0和1与模型M2中各个通道之间的位置对应关系，对与A5中0所对应的通道进行裁剪，得到通道剪枝模型，对剪枝模型使用所述遥感图像数据进行参数训练，得到所述通道剪枝后模型M3。

3.如权利要求2所述的面向遥感图像的卷积神经网络压缩方法，其特征在于，所述标准F1为：计算模型中每层每个通道所对应的卷积核权重绝对值之和为：S-i-j(第i层的第j个通道)，按照不同的层，对每个S-i-j加上不同的alpha-i以对所述S-i-j进行更新，其中alpha-i由每层的通道数和处于网络中的第几层确定，将更新后的S-i-j作为通道重要度；

所述标准F2为：计算模型中每层每个通道所对应的卷积核权重绝对值之和为：S-i-j，直接将S-i-j作为通道重要度。