[发明专利]一种CNN分析方法、装置、设备及计算机可读存储介质

说明书

本发明公开了一种CNN分析方法，考虑到CNN模型的每一个卷积层在对图像进行处理时实际是利用自身的统计信息对图像进行处理，因此本申请在基于已训练神经网络模型的反向生成算法中添加了基于统计信息构建的特征表达式，得到新的反向生成算法，如此一来，通过新的反向生成算法生成的图像便能够反映出目标卷积层的一些特性，也即可以实现对于CNN模型中各个卷积层的可解释性分析，以便细致了解CNN模型中每一层的具体特征，并对CNN模型进行针对性改进，促进了CNN模型的发展。本发明还公开了一种CNN分析装置、设备及计算机可读存储介质，具有如上CNN分析方法相同的有益效果。

技术领域

本发明涉及卷积神经网络领域，特别是涉及一种CNN分析方法，本发明还涉及一种CNN分析装置、设备及计算机可读存储介质。

背景技术

CNN(Convolutional Neural Network，卷积神经网络)模型已经被广泛应用，但随着模型设计和研究的不断进展，模型的规模和复杂度不断攀升，相应的，CNN模型的可解释性面临越来越大的挑战，目前针对深度神经网络模型可解释性的研究一直是学术前沿的热门话题，现有技术中缺少一种成熟的CNN的可解释性的分析方法，导致无法细致了解CNN模型中每一层的具体特征，也就难以对CNN模型进行改进，限制了CNN模型的发展。

因此，如何提供一种解决上述技术问题的方案是本领域技术人员目前需要解决的问题。

发明内容

本发明的目的是提供一种CNN分析方法，实现了对于CNN模型中各个卷积层的可解释性分析，以便细致了解CNN模型中每一层的具体特征，并对CNN模型进行针对性改进，促进了CNN模型的发展；本发明的另一目的是提供一种CNN分析装置、设备及计算机可读存储介质，实现了对于CNN模型中各个卷积层的可解释性分析，以便细致了解CNN模型中每一层的具体特征，并对CNN模型进行针对性改进，促进了CNN模型的发展。

为解决上述技术问题，本发明提供了一种CNN分析方法，包括：

获取预训练好的目标CNN模型中的目标卷积层对应的统计信息；

将基于所述统计信息构建的特征表达式，作为基于已训练神经网络模型的反向生成算法中的额外正则项，以得到新的反向生成算法；

将所述目标CNN模型对应的各个图像分类类别依次作为所述新的反向生成算法的输入量，生成各个所述图像分类类别对应的图像集；

根据所有的所述图像集对所述目标卷积层进行可解释性分析并得到分析结果。

优选地，所述获取预训练好的目标CNN模型中的目标卷积层对应的统计信息具体为：

从预训练好的目标CNN模型中的目标卷积层对应的批标准化BN层中获取统计信息；

其中，所述统计信息包括所述目标卷积层的特征图均值以及特征图方差。

优选地，基于所述统计信息构建的特征表达式具体为：

则所述新的反向生成算法为：

x*＝arg min L(φ(x),φ₀)+R_prior(x)+R_extra(x)；