[发明专利]一种CNN模型的微调方法及装置

说明书

技术领域

本发明涉及深度学习技术领域，尤其涉及一种CNN模型的微调方法及装置。

背景技术

卷积神经网络(Convolutional Neural Network，CNN)是当前深度学习领域主流的网络模型之一。一个典型的CNN模型由卷积层与池化层交替组成，如图1所示，输入层101输入图像，卷积层102对输入层的图像的各个局部区域进行图像特征提取，池化层103对卷积层的图像特征进行采样以降低维数，然后再以若干层全连接层104对图像特征进行连接，以最后一层隐藏层105的输出值为最终提取的特征，通过Softmax分类层106对提取的图像特征进行分类，输出所属类别的预测分数。在训练时，利用该预测分数与标签层预先输入的期望分数计算误差，利用误差对CNN模型的参数进行更新，使得该预测分数向期望分数收敛。其中，对输入的图像提取特征的过程为正向传输过程，利用误差对CNN模型的参数进行更新的过程为反向传输过程。经过大量训练集训练后的深层CNN模型具有很强的泛化能力，即使对未经训练过的图像也能很好地提取图像特征。

但是以上CNN模型中以最后一层隐藏层的输出值作为图像特征会忽略Softmax分类层以及分类系数的作用。对训练好的CNN模型进行微调，是一种有效地减小类内距离、增大类间距离的方法。有的方案将同一类别图像特征向该类别的特征均值处聚拢，使同一类别的图像特征聚集到该类别的特征均值处，但是，将类别中错误标签和质量较差的图像向同一点聚类会影响CNN模型的性能。

发明内容

本发明实施例的目的是提供一种CNN模型的微调方法及装置，用于提高CNN模型的收敛性以及减小脏样本的影响。

本发明实施例的目的是通过以下技术方案实现的：

一种CNN模型的微调方法，包括：

基于经过预训练的卷积神经网络CNN模型，对输入的所有样本图像进行图像特征的提取，得到多个类别的图像特征；

针对每个类别的图像特征，采用聚类算法将类内的图像特征进行分簇，得到每个簇的簇心；

利用预设目标函数计算误差；其中，所述目标函数用于将各个簇内的图像特征向簇心处聚拢；

将所述误差在CNN模型中反向传输，对CNN模型的参数进行更新。

较佳地，所述预设目标函数如下：

其中，Obj表示目标函数，min表示对目标函数求最小值，k表示簇的总个数，i表示第i个簇，1≤i≤k，n_i表示簇i内的图像特征的总个数，ft_ij表示簇i内的第j个图像特征，1≤j≤n_i，M_i为簇i的簇心。

较佳地，利用预设目标函数计算误差，包括：

基于所述目标函数对图像特征求偏导，得到所述误差如下：

δ＝ft_ij-M_i

其中，δ为误差。

较佳地，所述CNN模型的参数包括偏置系数和权重系数。

较佳地，所述聚类算法为C均值聚类算法、k-mediods聚类算法、SOM聚类算法或者FCM聚类算法。

一种CNN模型的微调装置，包括：

CNN特征提取模块，用于基于经过预训练的卷积神经网络CNN模型，对输入的所有样本图像进行图像特征的提取，得到多个类别的图像特征；

聚类分簇模块，用于针对每个类别的图像特征，采用聚类算法将类内的图像特征进行分簇，得到每个簇的簇心；

误差计算模块，利用预设目标函数计算误差；其中，所述目标函数用于将各个簇内的图像特征向簇心处聚拢；

CNN模型微调模块，用于将所述误差在CNN模型中反向传输，对CNN模型的参数进行更新。

较佳地，所述预设目标函数如下：

其中，Obj表示目标函数，min表示对目标函数求最小值，k表示簇的总个数，i表示第i个簇，1≤i≤k，n_i表示簇i内的图像特征的总个数，ft_ij表示簇i内的第j个图像特征，1≤j≤n_i，M_i为簇i的簇心。

较佳地，所述误差计算模块，具体用于：基于所述目标函数对图像特征求偏导，得到所述误差如下：

δ＝ft_ij-M_i

其中，δ为误差。

较佳地，所述CNN模型的参数包括偏置系数和权重系数。