[发明专利]基于硬件环境的数据量化方法、装置及可读存储介质

权利要求书

1.一种基于硬件环境的数据量化方法，其特征在于，包括：

根据当前深度学习框架下的模型文件解析得到与硬件环境无关的中间计算图数据和权重数据；

基于所述中间计算图数据和所述权重数据，对输入数据集中的图像数据经中间计算图流程计算得到特征图数据；

分别按照预先设置的线性量化方法对所述权重数据和每层特征图数据进行均匀量化，并计算得到权重量化因子和特征图量化因子；

将所述权重量化因子和所述特征图量化因子进行合并，得到量化参数，所述量化参数为使硬件使用移位代替除法的参数；

按照硬件需求将所述量化参数和量化后的权重数据写入至bin文件，生成量化后文件数据；

其中，所述将所述权重量化因子和所述特征图量化因子进行合并为：

根据量化因子合并计算关系式将所述权重量化因子和所述特征图量化因子进行合并，所述量化因子合并计算关系式为：

；

式中，y_w为所述权重量化因子，y_f为所述特征图量化因子，n为所述量化参数；

所述分别按照预先设置的线性量化方法对所述权重数据和每层特征图数据进行均匀量化，并计算得到权重量化因子和特征图量化因子包括：

计算每层特征图数据的平均值，以作为每层特征图平均数据；

统计所述权重数据和每层特征图平均数据的数据分布，并计算相应的限定值；

将所述权重数据和每层特征图平均数据限定在相应限定范围内，所述限定范围根据相应限定值确定；

将限定后的数据平均量化至int8数据精度的-127 ~ +127之间，计算得到权重量化因子和特征图量化因子；

所述计算相应的限定值包括：

所述权重数据的权重限定值根据权重限定值计算关系式计算得到，所述权重限定值计算关系式为x_w=max(|w|)，x_w为所述权重限定值，w为所述权重数据；相应的，所述权重数据的限定范围为(-x_w，+x_w)；

所述每层特征图平均数据的特征图限定值根据特征图限定值计算关系式计算得到，所述特征图限定值计算关系式为x_f=max(|F|)，x_f为所述特征图限定值，F为每层特征图平均数据；相应的，每层特征图平均数据的限定范围为 (-x_f，+x_f )。

2.根据权利要求1所述的基于硬件环境的数据量化方法，其特征在于，所述按照硬件需求将所述量化参数和量化后的权重数据写入至bin文件之前，还包括：

对所述量化参数和量化后的权重数据进行重排序，以使所述量化参数和量化后的权重数据的数据格式为64通道并行格式。

3.根据权利要求2所述的基于硬件环境的数据量化方法，其特征在于，所述解析得到当前深度学习框架的中间计算图数据和权重数据包括：

利用NNVM编译器中的NNVM组件解析所述模型文件得到所述中间计算图数据；

利用所述NNVM编译器中的TVM组件执行中间计算图的操作运算符并计算得到张量形式的权重数据。