[发明专利]一种网络模型训练方法、装置及存储介质

说明书

本申请公开一种网络模型训练方法、装置及存储介质，属于网络模型技术领域。该网络模型训练方法包括：获取携带有标注的样本数据；利用所述样本数据对当前网络模型进行训练；获取训练后的所述当前网络模型中的各个层结构的权重变化量；根据所述各个层结构的权重变化量变更所述当前网络模型的层结构；利用所述样本数据对层结构变更后的所述当前网络模型进行训练。本申请实施例中，在对网络模型进行训练时，通过不断的调整网络模型的网络结构，以及各个层级的参数，以此确定出性能最优的网络模型，让该模型有更优的效果。

技术领域

本申请属于网络模型技术领域，具体涉及一种网络模型训练方法、装置及存储介质。

背景技术

深度学习近年迅速发展，已经广泛应用于图像处理和自然语言处理等领域。基于深度学习的网络模型被广泛应用，如卷积神经网络、分割网络等，在使用这些网络模型时，需要事先利用样本数据对其进行训练，使其能满足需求，这其中就涉及确定模型—训练模型—使用模型等过程。当前的模型训练方法大都是基于大量样本数据对确定的初始网络模型进行多次训练，通过不断的优化初始网络模型的网络参数(也即权重)的方式来实现。该训练方法训练出来的模型整体来说，性能并不是最优的，还存在一定的改进空间，例如，现有的图像语义分割网络，例如，FCN(Fully Convolutional Networks)、CRF-RNN(Conditional Random Fields－Recurrent Neural Networks)等，在分割区域边缘处的训练识别效果比较差，语义分割准确率低。

发明内容

鉴于此，本申请的目的在于提供一种网络模型训练方法、装置及存储介质，以提高网络模型的性能，让该模型有更优的效果。

本申请的实施例是这样实现的：

第一方面，本申请实施例提供了一种网络模型训练方法，包括：获取携带有标注的样本数据；利用所述样本数据对当前网络模型进行训练；获取训练后的所述当前网络模型中的各个层结构的权重变化量；根据所述各个层结构的权重变化量变更所述当前网络模型的层结构；利用所述样本数据对层结构变更后的所述当前网络模型进行训练。

本申请实施例中，在对网络模型进行训练时，先利用样本数据对网络模型进行训练，后获取训练后的网络模型中的各个层结构的权重变化量，并基于获取到的各个层结构的权重变化量变更网络模型的层结构，然后再利用样本数据对层结构变更后的网络模型进行训练，通过调整网络模型的网络结构，以及各个层级的参数，以得到性能更优的网络模型，让该模型有更优的效果。

结合第一方面实施例的一种可能的实施方式，根据所述各个层结构的权重变化量变更所述当前网络模型的层结构，包括：根据所述各个层结构的权重变化量，选出权重变化量大于第一阈值的目标层结构；若所述目标层结构为中间层，在所述目标层结构的前面和/或后面插入预设层结构；若所述目标层结构为第一层，在所述目标层结构的后面插入预设层结构；若所述目标层结构为最后一层，在所述目标层结构的前面插入预设层结构。本申请实施例中，通过在权重变化量大于第一阈值的目标层结构的前面和/或后面插入预设层结构来改变网络模型的结构，由于权重变化量值较大，说明该目标层结构对损失值的影响较大，结构还可以进一步优化，使得性能更优。

结合第一方面实施例的一种可能的实施方式，根据所述各个层结构的权重变化量，选出权重变化量大于第一阈值的目标层结构，包括：根据所述各个层结构的权重变化量，选出权重变化量大于所述第一阈值的层结构；确定选出的层结构中权重变化量值最大的层结构为所述目标层结构。本申请实施例中，只在权重变化量最大，且大于第一阈值目标层结构的前面和/或后面插入预设层结构来改变网络模型的结构，以此来较少层结构的数量，进而减少计算量，提高优化效率。