[发明专利]人工神经网络的量化方法及装置

说明书

人工神经网络的量化方法及装置，所述量化方法包括：根据图像集中的部分图像，来计算理想分布p；根据理想分布p，来从图像集中筛选出用于对该人工神经网络进行量化的量化图集；采用所述量化图集来对该人工神经网络进行量化。本发明提高了人工神经网络的量化精度，降低因网络压缩而造成的性能损失，实现筛选量化图片的自动化，在原始数据集较大时可极大地提升图像选择的效率，同时也大量节省人的时间与精力。

技术领域

本发明涉及人工智能技术领域，特别是涉及一种人工神经网络的量化方法及装置。

背景技术

为了让计算机系统能够自主地从数据中学习经验，人工神经网络（ArtificialNeural Network，ANN）成为当下人工智能领域的一项重点研究内容。

自2014年的ILSVRC（ImageNet Large Scale Visual Recognition Competition）大赛以来，越来越多的ANN框架相继被提出，它们在计算机视觉等领域中取得了众多优异的成绩。特别地，随着轻量型人工神经网络以及量化（Quantization）、剪枝（Pruning）与压缩（Compression）等技术的出现，人工神经网络得以在移动端上部署。

然而，由于量化图像的选择、模型数据的压缩等因素存在，人工神经网络的量化移植往往会伴随着一定程度的精度损失。因此，如何提高ANN的量化精度既是学术界一个亟待解决的难题，也是工业界的一个紧迫需求。

发明内容

本发明解决的技术问题是：如何提高人工神经网络的量化精度和量化效率。

为了解决上述技术问题，本发明实施例提供一种人工神经网络的量化方法，包括：

从图像集中选择若干与待量化的人工神经网络相关的图像，作为用于对该人工神经网络进行量化的量化图集；

采用所述量化图集来对该人工神经网络进行量化；

其中，所述从图像集中选择若干与待量化的人工神经网络相关的图像，作为用于对该人工神经网络进行量化的量化图集包括：

根据图像集中的部分图像，来计算理想分布p；

根据理想分布p，来从图像集中筛选出用于对该人工神经网络进行量化的量化图集。

可选的，所述从图像集中选择若干与待量化的人工神经网络相关的图像，作为用于对该人工神经网络进行量化的量化图集还包括：对初始量化图像的数量N、相似度指标c以及散度指标d进行初始化。

可选的，所述根据图像集中的部分图像，来计算理想分布p包括：

从图像集中抽取N张图像作为初始量化图像；

根据N张所述初始量化图像，分别对该人工神经网络进行量化，产生N个量化方案；

根据N个所述量化方案，分别计算各个量化方案中该人工神经网络输出层的余弦相似度，得到N个余弦相似度；

根据各个量化方案中该人工神经网络输出层的余弦相似度，从N张图像中筛选出图像所对应的余弦相似度符合预定要求的图像；

对图像所对应的余弦相似度符合预定要求的各张图像分别进行深度特征提取；

对提取的深度特征进行统计，生成理想分布p。

可选的，所述从图像集中抽取N张图像作为初始量化图像包括：随机从图像集中不放回地抽取N张图像作为初始量化图像。

可选的，在所述根据N张所述初始量化图像，分别对该人工神经网络进行量化，产生N个量化方案的过程中，由各张图像量化产生的定点数据各不相同。