[发明专利]基于模型参数和剪枝策略的持续学习图像识别方法及装置

权利要求书

1.基于模型参数和剪枝策略的持续学习图像识别方法，其特征在于，包括下述步骤：

收集新增类别数据及历史类别数据；

构建持续学习图像识别模型；所述持续学习图像识别模型包括多个特征提取器、多个FC层和NME分类器；所述特征提取器用于提取类别数据的特征；所述FC层用于对特征进行筛选过滤；所述NME分类器用于对特征进行分类；

将新增类别数据与Rehearsal策略保存的部分旧类别数据合并，组成训练数据；

将训练数据输入持续学习图像识别模型中，新增特征提取器和FC层；

利用知识蒸馏训练持续学习图像识别模型，并使用剪枝策略去除新增特征提取器中不重要的卷积核；

对新增类别数据及历史类别数据使用Rehearsal策略，保存部分类别数据；

将待测试数据输入持续学习图像识别模型中进行测试，获得图像识别结果。

2.根据权利要求1所述的基于模型参数和剪枝策略的持续学习图像识别方法，其特征在于，所述持续学习图像识别模型中的特征提取器与FC层一一对应，数量一致。

3.根据权利要求2所述的基于模型参数和剪枝策略的持续学习图像识别方法，其特征在于，所述新增特征提取器和FC层，具体指：

当第T轮收集到新增类别数据时，在持续学习图像识别模型中新增第T个特征提取器及对应的第T个FC层。

4.根据权利要求3所述的基于模型参数和剪枝策略的持续学习图像识别方法，其特征在于，所述利用知识蒸馏训练持续学习图像识别模型，具体为：

固定持续学习图像识别模型中前T-1轮特征提取器的模型参数，利用第T-1轮特征提取器的权重初始化第T轮特征提取器；

第T轮特征提取器在新增类别数据上通过交叉熵函数进行训练，并通过知识蒸馏损失函数，将知识从第T-1轮特征提取器中蒸馏至第T轮特征提取器。

5.根据权利要求4所述的基于模型参数和剪枝策略的持续学习图像识别方法，其特征在于，所述使用剪枝策略去除新增特征提取器中不重要的卷积核，具体为：

新增特征提取器中每一层都会使用BN层，其表达式为：

Y＝Ax+B

其中，Y表示BN层的输出，A、B均为可学习参数，维度与卷积核个数一致，x为新增特征提取器中卷积层的输出；

对A施加一个L1正则项，使其取值趋于0，表示新增特征提取器中卷积层提取的特征不重要；

若A取值趋近于0，则将A对应的卷积核从新增特征提取器中去除。

6.根据权利要求5所述的基于模型参数和剪枝策略的持续学习图像识别方法，其特征在于，所述保存部分类别数据，具体为：

使用Rehearsal策略保留部分历史类别数据；

设历史类别数据中共有K张图像和N个类别，则每个类别保存K/N张图像，抛弃每个类别中多于K/N张的图像，得到部分历史类别数据；

将新增类别数据通过herding策略采样；将每个类别的新增类别数据输入到持续学习图像识别模型中，提取特征向量；

计算每个类别特征向量的平均值，作为该类别的类别中心；

从新增类别图像数据中选择K/N张图像与部分历史类别数据进行合并，得到并保存部分类别数据，留待下一次训练。

7.根据权利要求6所述的基于模型参数和剪枝策略的持续学习图像识别方法，其特征在于，所述获得图像识别结果，具体为：

对待测试数据进行预处理操作；

将预处理后的待测试数据输入到T个特征提取器中进行特征提取，输出特征向量；

将输出的T个特征向量输入到T个FC层中，进行特征的筛选过滤；

将T个FC层的输出做平均，得到最终特征向量；

将最终特征向量输入到NME分类器中进行分类，获得图像识别结果。

8.根据权利要求7所述的基于模型参数和剪枝策略的图像识别方法，其特征在于，所述NME分类器是基于特征相似度的分类器，在特征空间中，根据每个类别的类别中心，计算待测试数据的最终特征向量与类别中心之间的相似度，最终将待测试数据分类为相似度最高的类别。