[发明专利]神经网络模型的处理方法和设备

权利要求书

1.一种神经网络模型的处理方法，其特征在于，所述方法包括：

确定需要压缩处理的至少一类网络层；

接收待处理的目标神经网络模型；

确定所述目标神经网络模型中属于所述至少一类网络层的至少一个待压缩网络层；

对所述至少一个待压缩网络层进行压缩处理；

在对所述至少一个待压缩网络层进行压缩处理之前，显示所述目标神经网络模型的结构图；

在所述结构图中标注所述至少一个待压缩网络层；

在对所述至少一个待压缩网络层进行压缩处理时，在所述结构图中标注所述待压缩网络层中被压缩处理掉的通道。

2.根据权利要求1所述的方法，其特征在于，所述至少一类网络层包括：全连接层、卷积层以及与所述卷积层连接的批归一化BN层。

3.根据权利要求1或2所述的方法，其特征在于，所述方法还包括：

确定禁止压缩处理的至少一类算子；

确定所述目标神经网络模型中属于所述至少一类算子的目标算子；

对所述至少一个待压缩网络层进行压缩处理，包括：

对所述至少一个待压缩网络层中除所述目标算子之外的算子进行压缩处理。

4.根据权利要求1或2所述的方法，其特征在于，所述方法还包括：

确定所述至少一个待压缩网络层中的第一网络层和第二网络层，所述第一网络层与所述第二网络层采用相加或相乘的算子连接；

对所述至少一个待压缩网络层进行压缩处理，包括：

采用相同的压缩比例，对所述第一网络层和所述第二网络层进行压缩处理。

5.根据权利要求1或2所述的方法，其特征在于，所述方法还包括：

在对所述至少一个待压缩网络层进行压缩处理的过程中，显示所述目标神经网络模型的信息。

6.根据权利要求1或2所述的方法，其特征在于，所述方法还包括：

在对所述至少一个待压缩网络层进行压缩处理之后，显示所述压缩处理得到的至少一个神经网络模型的信息；

接收针对所述至少一个神经网络模型中任一神经网络模型的选择指令；

根据所述选择指令，输出所述任一神经网络模型。

7.根据权利要求1或2所述的方法，其特征在于，在对所述至少一个待压缩网络层进行压缩处理之前，所述方法还包括：

确定用于压缩处理的多个算法；

在所述多个算法中筛选目标算法；

对所述至少一个待压缩网络层进行压缩处理，包括：

采用所述目标算法对所述至少一个待压缩网络层进行压缩处理。

8.根据权利要求7所述的方法，其特征在于，所述多个算法为：基于增强学习或强化学习的算法。

9.根据权利要求7所述的方法，其特征在于，

接收处理信息，所述处理信息包括：所述目标神经网络模型用于执行的目标任务和压缩处理指标中的至少一种；其中，所述压缩处理指标包括：压缩处理的时长，压缩处理得到的神经网络模型的时延，压缩处理得到的神经网络模型的数据量，以及压缩处理得到的神经网络模型的个数中的至少一种；

在所述多个算法中筛选目标算法，包括：

根据所述处理信息和所述目标神经网络模型中的至少一种，在所述多个算法中筛选所述目标算法。

10.根据权利要求7所述的方法，其特征在于，在采用所述目标算法对所述至少一个待压缩网络层进行压缩处理之前，所述方法还包括：

接收所述目标神经网络模型用于处理的目标数据集；

根据所述目标数据集和所述目标神经网络模型，确定所述目标算法的超参数；

所述采用所述目标算法对所述至少一个待压缩网络层进行压缩处理，包括：

根据所述目标算法的超参数，采用所述目标算法对所述至少一个待压缩网络层进行压缩处理。