[发明专利]卷积神经网络模型的训练方法、训练系统、计算机设备及存储介质

权利要求书

1.一种卷积神经网络模型的训练方法，其特征在于，所述训练方法包括：

根据待压缩神经网络模型的卷积层的通道数构建激活网络模型；

利用训练数据集对所述激活网络模型进行训练直至满足第一迭代终止条件，将满足第一迭代终止条件时获得的模型参数作为权重系数；

利用所述权重系数对所述待压缩神经网络模型进行更新，获得更新后的待压缩神经网络模型

按照预定的压缩比例对所述更新后的待压缩神经网络模型进行压缩，获得压缩后的神经网络模型；

将本轮训练得到的压缩后的神经网络模型作为下一轮训练的待压缩神经网络模型，循环执行多轮训练，直至满足训练终止条件；

将满足训练终止条件时所得到的压缩后的神经网络模型作为训练好的神经网络模型。

2.根据权利要求1所述的训练方法，其特征在于，所述根据待压缩神经网络模型的卷积层的通道数构建激活网络模型，包括：

根据待压缩神经网络模型的卷积层的通道数构建全连接层；

设定所述全连接层的权重、标准差和偏置；

将所述全连接层与激活函数层级联获得所述激活网络模型。

3.根据权利要求1所述的训练方法，其特征在于，在按照预定的压缩比例对所述更新后的待压缩神经网络模型进行压缩，获得压缩后的神经网络模型之前，所述训练方法还包括：

利用训练数据集对所述更新后的待压缩神经网络模型进行训练直至满足第二迭代终止条件，将满足第二迭代终止条件时获得的模型作为更新后的待压缩神经网络模型。

4.根据权利要求1～3任一项所述的训练方法，其特征在于，所述按照预定的压缩比例对所述更新后的待压缩神经网络模型进行压缩，获得压缩后的神经网络模型，包括：

获取所述更新后的待压缩神经网络模型的卷积层的所有通道的参数；

根据所述更新后的待压缩神经网络模型的卷积层的所有通道的参数的大小以及预定的压缩比例将所述更新后的待压缩神经网络模型的卷积层的部分通道关闭，获得压缩后的神经网络模型。

5.根据权利要求4所述的训练方法，其特征在于，在获得压缩后的神经网络模型之后，所述训练方法还包括：

利用训练数据集对所述压缩后的神经网络模型进行训练直至满足第三迭代终止条件，将满足第三迭代终止条件时的模型作为压缩后的神经网络模型。

6.根据权利要求5所述的训练方法，其特征在于，参数为BN值或BN值的归一化概率值。

7.根据权利要求6所述的训练方法，其特征在于，若参数为BN值的归一化概率值，则所述根据所述更新后的待压缩神经网络模型的卷积层的所有通道的参数的大小以及预定的压缩比例将所述更新后的待压缩神经网络模型的卷积层的部分通道关闭，获得压缩后的神经网络模型，包括：

获取所述更新后的待压缩神经网络模型的卷积层的所有通道的BN值的归一化概率值；

获取0～1之间的一个随机数；

判断所述随机数是否属于第i个通道的归一化概率值的概率空间内，若属于，则将第i个通道作为选取的通道；

将第i个通道取出，对剩下的通道重复上述步骤直至取出的通道的数目满足所述预定的压缩比例需要的通道的数目。

8.一种卷积神经网络模型的训练系统，其特征在于，所述训练系统包括：

网络构建模块，用于根据待压缩神经网络模型的卷积层的通道数构建激活网络模型；

训练模块，用于利用训练数据集对所述激活网络模型进行训练直至满足第一迭代终止条件，将满足第一迭代终止条件时获得的模型参数作为权重系数；

更新模块，用于利用所述权重系数对所述待压缩神经网络模型进行更新，获得更新后的待压缩神经网络模型

压缩模块，用于按照预定的压缩比例对所述更新后的待压缩神经网络模型进行压缩，获得压缩后的神经网络模型并在未满足训练终止条件时将本轮训练得到的压缩后的神经网络模型作为下一轮训练的待压缩神经网络模型输出至网络构建模块，以及在满足训练终止条件时将所得到的压缩后的神经网络模型作为训练好的神经网络模型输出。