[发明专利]神经网络模型的处理方法和设备

说明书

本申请提供了一种神经网络模型的处理方法和设备，属于神经网络技术领域。本申请提供的方案中，模型处理设备可以确定接收到的神经网络模型中的待压缩网络层，并对该待压缩网络层进行压缩处理，实现了对神经网络模型的压缩处理。压缩处理后的神经网络模型规模较小，可以适用于更多的应用场景。本申请用于神经网络模型的压缩处理。

技术领域

本申请涉及神经网络技术领域，特别涉及一种神经网络模型的处理方法和设备。

背景技术

人工神经网络(artificial neural network，ANN)模型，简称神经网络(neuralnetwork， NN)模型，是一种模仿生物神经网络的结构和功能的数学模型或计算模型。

相关技术中，神经网络模型已经被广泛应用于语音识别(如语音信号的特征提取)、计算机视觉(如图像分类)、医学医疗(如医学影像的分析)以及智能博弈(如人机对战)等领域，均取得了优异的成果。

但是，随着待处理的数据规模和复杂度的增加，神经网络模型的规模与计算量都在成倍增长，对运行神经网络模型的设备的性能要求相应提高，使得神经网络模型的使用场景受限。

发明内容

本申请提供了一种神经网络模型的处理方法和设备，可以解决相关技术中神经网络模型的使用场景受限的问题。

第一方面，提供了一种神经网络模型的处理方法，预先确定好需要压缩处理的至少一类网络层，然后接收待处理的目标神经网络模型，之后根据预先确定好的至少一类网络层在目标神经网络模型中确定出属于至少一类网络层的至少一个待压缩网络层，最后对确定出的至少一个待压缩网络层进行压缩处理。

模型处理设备可以确定接收到的神经网络模型中的待压缩网络层，并对该待压缩网络层进行压缩处理，实现了对神经网络模型的压缩。压缩后的神经网络模型规模较小，可以适用于更多的应用场景。

可选地，至少一类网络层可以包括：全连接(fully convolution，FC)层、卷积(convolution) 层以及与卷积层连接的批归一化(batch normalization，BN)层。

全连接层和卷积层包括神经网络模型中的大部分参数，需要对全连接层和卷积层进行压缩才能实现神经网络模型的压缩，批归一化层受卷积层压缩的影响也需要进行压缩。

可选地，该方法还可以包括预先确定好禁止压缩处理的至少一类算子，然后在接收到的目标神经网络模型中确定出属于至少一类算子的目标算子，之后在对至少一个待压缩网络层进行压缩处理时，对至少一个待压缩网络层中除目标算子之外的算子进行压缩处理。

目标算子在神经网络模型中执行核心的运算，禁止压缩处理神经网络模型中的目标算子，可以确保压缩后的神经网络模型的可靠性。

可选地，该方法还可以包括：确定至少一个待压缩网络层中的第一网络层和第二网络层，该第一网络层与第二网络层采用相加或相乘的算子连接。在对至少一个待压缩网络层进行压缩处理时，采用相同的压缩比例，对该第一网络层和第二网络层进行压缩处理。

相加或相乘的算子要求采用相加或相乘的算子连接的两个网络层结构大小一致，确定至少一个待压缩网络层中的第一网络层和第二网络层并采用相同的压缩比例压缩，可以确保压缩后的第一网络层和第二网络层结构大小依然一致。

可选地，该方法还可以包括：在对至少一个待压缩网络层进行压缩处理之前，显示目标神经网络模型的结构图，并且在结构图中标注至少一个待压缩网络层。此外，在对至少一个待压缩网络层进行压缩处理时，也可以在结构图中标注待压缩网络层中被压缩处理掉的通道。

采用可视化显示神经网络模型的结构图，并显示被压缩处理掉的通道，使得用户可以实时了解神经网络模型的压缩过程。

可选地，该方法还可以包括：在对至少一个待压缩网络层进行压缩处理的过程中，显示目标神经网络模型的信息。