[发明专利]一种模型的量化方法以及相关设备

权利要求书

1.一种模型的量化方法，其特征在于，所述方法应用于利用机器学习模型进行数据处理的过程中，所述模型的量化方法包括对所述机器学习模型中的至少一个激活层生成的激活值进行量化，所述至少一个激活层包括第一激活层；其中，对所述第一激活层生成的第一激活值进行量化包括：

采用第一量化步长对所述第一激活值中的第一子激活值进行量化；

采用第二量化步长对所述第一激活值中的第二子激活值进行量化，其中，所述机器学习模型包括多个通道，所述多个通道包括第一通道和第二通道，所述第一子激活值与所述第一通道对应，所述第二子激活值与所述第二通道对应，所述第一量化步长和所述第二量化步长不同。

2.根据权利要求1所述的方法，其特征在于，所述第一子激活值的分布和所述第二子激活值的分布不同。

3.根据权利要求1或2所述的方法，其特征在于，所述机器学习模型为Transformer模型。

4.根据权利要求1至3任一项所述的方法，其特征在于，在利用所述机器学习模型对输入数据进行数据处理的过程中能够得到所述输入数据的多个特征信息，所述多个特征信息包括第一特征信息，所述模型的量化方法还包括对所述第一特征信息进行量化；其中，所述对所述第一特征信息进行量化包括：

将所述第一特征信息分为至少两个子特征信息，所述至少两个子特征信息包括第一子特征信息和第二子特征信息；

采用第一量化参数对所述第一子特征信息进行量化；

采用第二量化参数对所述第二子特征信息进行量化，所述第一量化参数和所述第二量化参数不同。

5.根据权利要求4所述的方法，其特征在于，所述输入数据为图像，所述机器学习模型的任务为对所述图像进行目标检测。

6.根据权利要求1至5任一项所述的方法，其特征在于，在利用所述机器学习模型对输入数据进行数据处理的过程中能够得到所述输入数据的多个特征信息，所述多个特征信息包括第二特征信息，所述第二特征信息包括不同尺度的特征图，所述模型的量化方法还包括对所述第二特征信息进行量化；其中，所述对所述第二特征信息进行量化包括：

将所述第二特征信息分为多个组，所述多个组中每个组包括至少一个特征图，所述多个组中不同的组包括的特征图的尺度不同；

对所述不同的组采用不同的量化参数进行量化。

7.根据权利要求6所述的方法，其特征在于，所述输入数据为图像，所述机器学习模型的任务为如下任一项：对所述图像进行目标检测、对所述图像进行语义分割或者对所述图像进行超分处理。

8.根据权利要求1至7任一项所述的方法，其特征在于，

所述利用机器学习模型进行数据处理的过程在所述机器学习模型的推理阶段中，或者，所述利用机器学习模型进行数据处理的过程在所述机器学习模型的训练阶段中。

9.一种模型的量化方法，其特征在于，所述方法应用于利用机器学习模型进行数据处理的过程中，在利用所述机器学习模型对输入数据进行数据处理的过程中能够得到所述输入数据的多个特征信息，所述多个特征信息包括第一特征信息，所述模型的量化方法包括对所述第一特征信息进行量化；其中，所述对所述第一特征信息进行量化包括：

将所述第一特征信息分为至少两个子特征信息，所述至少两个子特征信息包括第一子特征信息和第二子特征信息；

采用第一量化参数对所述第一子特征信息进行量化；

采用第二量化参数对所述第一子特征信息进行量化，所述第一量化参数和所述第二量化参数不同。