[发明专利]一种网络参数处理方法及装置

说明书

本公开是关于一种网络参数处理方法及装置。所述方法包括：获取神经网络不同网络层的网络参数；分别对所述不同网络层的网络参数进行量化。利用本公开各个实施例提出的技术方案，通过对神经网络中不同网络层的网络参数分别量化，可以根据不同网络层对应的数据分布特征，确定与所述网络层相适配的量化位宽，这样，不仅可以使得各个网络层的位宽收敛到最小值，从整体上也压缩了存储和计算所述网络参数所需的位宽。

技术领域

本公开涉及人工智能技术领域，尤其涉及一种网络参数处理方法及装置。

背景技术

目前，神经网络算法在图像处理、语音识别等多个技术领域中具有广泛的应用。随着各个技术领域所要解决问题的复杂化以及对神经网络性能要求的提高，神经网络的规模也越来越大。而神经网络的规模越大，对应的网络层数和网络参数也越多。这些网络参数的存储和传输也逐渐成为一个不能忽视的问题，尤其例如在边缘计算中，神经网络设置于终端中，因此，需要将网络参数存储于终端中。继而导致在相关技术中，网络参数的存储和读取所占用的总线带宽对终端处理器(如芯片或者其他硬件/软件形式)的计算成本和功耗影响较大。

神经网络的参数量化是减小神经网络规模的重要方式之一，参数量化可以利用更少的数据位宽表示网络参数，其优势在于节省存储空间，并可以更快地访存和计算。但是，相关技术中的参数量化往往可能导致计算精度的损失。

因此，相关技术中亟需一种能够在不损失计算精度的情况下对神经网络进行参数量化的方式。

发明内容

为克服相关技术中存在的问题，本公开提供一种网络参数处理方法及装置。

根据本公开实施例的第一方面，提供一种网络参数处理方法，所述方法包括：

获取神经网络不同网络层的网络参数；

分别对所述不同网络层的网络参数进行量化。

本公开的实施例提供的技术方案可以包括以下有益效果：本公开提供的网络参数处理方法，通过对神经网络中不同网络层的网络参数分别量化，可以根据不同网络层对应的数据分布特征，确定与所述网络层相适配的量化位宽，这样，不仅可以使得各个网络层的位宽收敛到最小值，从整体上也压缩了存储和计算所述网络参数所需的位宽。本公开通过的技术方案可以应用于图像处理、语音识别等技术领域，在一定程度上可以大大压缩神经网络的规模，减少存储空间，提升存取速度，对于神经网络模块嵌入和移动端具有十分重要的意义。

可选的，在本公开的一个实施例中，所述分别对所述不同网络层的网络参数进行量化包括：

遍历所述网络层，在确定所述网络层中具有多个卷积核的情况下，分别对所述多个卷积核进行量化。

本公开的实施例提供的技术方案可以包括以下有益效果：对网络层中的多个卷积核进行分别量化，可以压缩了存储和计算所述卷积核所需的位宽。

可选的，在本公开的一个实施例中，所述分别对所述不同网络层的网络参数进行量化包括：

在确定所述网络层中具有多个卷积核的情况下，分别确定所述多个卷积核的数据分布范围；

根据所述多个卷积核的数据分布范围，将所述多个卷积核划分成至少一个分组；

分别对所述至少一个分组内的卷积核进行统一量化。

本公开的实施例提供的技术方案可以包括以下有益效果：在实际应用环境中，一些卷积核可能大小、分布范围比较相似，因此，可以对卷积核进行分组量化，使得同一分组内的卷积核进行统一量化，可以提升量化效率以及降低存储卷积核所占用的位宽。

可选的，在本公开的一个实施例中，所述根据所述多个卷积核的数据分布范围，将所述多个卷积核划分成至少一个分组，包括：

确定所述多个卷积核的数据分布范围之间的相似度；