[发明专利]卷积神经网络优化方法、系统、设备及介质

说明书

本发明提供一种卷积神经网络优化方法、系统、设备及介质，方法包括：统计卷积神经网络的卷积层中各神经元对不同输入的响应输出值分布，并根据响应输出值分布确定每个神经元对应的激活阈值；根据激活阈值，统计确定每个神经元被通用图像集激活的第一激活次数，以及被特定图像集激活的第二激活次数；根据第一激活次数和第二激活次数，确定每个神经元对应的相关系数和识别系数；根据所有神经元对应的相关系数和识别系数，以及根据识别目标的特定类型，筛选关键神经元；保留关键神经元，且保留对应于关键神经元且满足预设规则的前置神经元，并删除其余神经元；删除卷积层后的所有其它运算层，并按照设定规则构建新识别层。

技术领域

本发明涉及图像识别和深度学习技术领域，尤其涉及一种卷积神经网络优化方法、系统、设备及介质。

背景技术

目前，基于深度学习的卷积神经网络模型是当前用于图像识别的主流方法。为实现更好的性能，用于识别的卷积神经网络一般具有百万甚至千万量级的参数。此外，模型的训练往往是基于多类型目标进行的，对所有训练目标类型均具有较好的识别能力。然而，针对特定类型目标识别问题，尤其是针对一些特征相对简单的目标类型识别，现有的卷积神经网络模型往往过于复杂。

综上，现有的通用的卷积神经网络模型对特定类型目标的识别过于复杂，适用性不高。

发明内容

本发明要解决的技术问题是提供一种卷积神经网络优化方法、系统、设备及介质，针对特定类型目标的识别，对通用的卷积神经网络进行优化与重构，通过提取关键神经元来压缩卷积神经网络中的神经元数量，实现在尽量保持识别率前提下降低计算复杂度。

为解决上述技术问题，本发明提供的技术方案如下：

第一方面，本发明实施例提供了一种卷积神经网络优化方法，方法包括：

统计卷积神经网络的卷积层中各神经元对不同输入的响应输出值分布，并根据响应输出值分布确定每个神经元对应的激活阈值；

根据激活阈值，统计确定每个神经元被通用图像集激活的第一激活次数，以及被特定图像集激活的第二激活次数；

根据第一激活次数和第二激活次数，确定每个神经元对应的相关系数和识别系数；

根据所有神经元对应的相关系数和识别系数，以及根据识别目标的特定类型，筛选关键神经元；

保留关键神经元，且保留对应于关键神经元且满足预设规则的前置神经元，并删除其余神经元；

删除卷积层后的所有其它运算层，并按照设定规则构建新识别层，实现建立针对具体识别目标的新卷积神经网络。

进一步地，统计卷积神经网络的卷积层中各神经元对不同输入的响应输出值分布，并根据响应输出值分布确定每个神经元对应的激活阈值，包括：

将通用图像集和特定图像集中的所有图像依次输入卷积神经网络，并记录每个神经元对应每一个图像的响应输出值；

统计每个神经元的响应输出值分布；

将响应输出值分布里，互补累积分布函数值等于第一阈值的响应输出值确定为对应神经元的激活阈值。

进一步地，根据激活阈值，统计确定每个神经元被通用图像集激活的第一激活次数，以及被特定图像集激活的第二激活次数，包括：

选取通用图像集中的任一图像输入卷积神经网络，并获取卷积层中每个神经元对应输出的特征图，且对于任一神经元，在神经元对应的特征图中有至少一个像素的值大于激活阈值时，神经元的第一激活次数加1；

重复上述步骤，直至通用图像集的所有图像被选取完；