[发明专利]神经网络生成方法、装置、电子设备及存储介质

说明书

本公开提供了一种神经网络生成方法、装置、智能行驶方法、设备、电子设备及计算机可读存储介质，其中，本公开将神经网络中各个网络层的通道分别进行分组，并基于网络规模限制信息和通道组的重要程度信息，剔除不重要的通道组，得到的目标神经网络通道数满足对应移动终端对通道数的特定要求，不需要后续对通道数进行增加或减少，能够直接部署到移动终端上。利用通道组获取最终的目标神经网络的方式，速度快，效率高；同时不会损失剪裁得到的目标神经网络的精度。

技术领域

本公开涉及模型压缩技术领域，具体而言，涉及一种神经网络生成方法、智能行驶方法、设备、电子设备及计算机可读存储介质。

背景技术

神经网络在自动驾驶等越来越多的领域中被应用。在将神经网络部署在车载设备等移动终端时，由于移动终端计算能力有限，需要对大规模的神经网络进行剪裁。移动终端对部署到其上面的神经网络各层的通道数有要求，例如，移动终端要求部署到其上面的神经网络中各层的通道数为8的倍数，直接剪裁得到的神经网络很难满足上述要求，无法直接部署到移动终端上。

目前，一般是通过简单地对对剪裁得到的神经网络中通道进行增加或减少来满足上述要求。但是，简单的对通道进行增加或减少，很可能剪裁掉一些重要的通道，造成神经网络精度降低，或者出现增加的通道使神经网络超过移动终端的负载能力的情况。

发明内容

本公开实施例至少提供一种神经网络生成方法、装置、智能行驶方法、设备、电子设备及计算机可读存储介质。

第一方面，本公开实施例提供了一种神经网络生成方法，包括：

将待训练神经网络中各个网络层包括的通道分别进行分组，得到至少一个通道组；

确定各个通道组对应的重要程度信息；

基于网络规模限制信息和各个通道组的重要程度信息，剔除所述待训练神经网络中的至少一个通道组，得到目标神经网络。

该方面，将神经网络中各个网络层的通道进行分组，并基于网络规模限制信息和通道组的重要程度信息，剔除不重要的通道组，得到的目标神经网络中个网络层的通道数满足移动终端对各层通道数的特定要求，不需要后续对通道数进行增加或减少等调整，能够直接部署到移动终端上。该方面利用通道组确定最终的目标神经网络的方式，速度快，效率高；同时不会损失剪裁得到的目标神经网络的精度。

在一种可能的实施方式中，所述确定各个通道组对应的重要程度信息，包括：

利用各个通道组中的通道对应的伽马值构造所述待训练神经网络的损失函数；所述伽马值用于表征对应的通道的重要程度；

利用样本图像对所述待训练神经网络进行训练，直至满足训练截至条件；

根据训练完成时的神经网络的损失函数的值，确定各个述通道对应的伽马值的优化值；

基于各个通道对应的伽马值的优化值，确定各个通道组对应的重要程度信息。

该实施方式，利用各个通道组中的通道对应的伽马值构造损失函数，之后，通过训练得到各个通道对应的伽马值的优化值，利用得到的优化值能够较为准确地确定各个通道组的重要程度。

在一种可能的实施方式中，所述基于各个通道对应的伽马值的优化值，确定各个通道组对应的重要程度信息，包括：

针对一个通道组，计算该通道组所包括的通道对应的伽马值的优化值的均值；

将计算得到的均值作为该通道组的重要程度信息。

该实施方式，通道组中的各个通道对应的伽马值的优化值的均值能够较为准确的反应对应的通道组的重要程度。

在一种可能的实施方式中，所述利用各个通道组中的通道对应的伽马值构造所述待训练神经网络的损失函数，包括：