[发明专利]一种数据处理方法、装置及存储介质

权利要求书

1.一种数据处理方法，其特征在于，所述方法包括：

获取深度学习模型中的待处理数据组；所述待处理数据组包括深度学习模型在对图像进行识别过程中处理的输入数据或中间数据；

确定与所述待处理数据组中各待处理数据相匹配的模拟方式，所述模拟方式用于基于不同于待处理数据的数据类型的其他数据类型，表示待处理数据的数据类型；

根据所述各待处理数据相匹配的模拟方式对所述各待处理数据进行处理，生成所述各待处理数据对应的模拟数据，所述模拟数据通过所述其他数据类型表示；

对所述各待处理数据对应的模拟数据进行处理，得到数据处理结果，所述数据处理结果包括深度学习模型对图像进行识别的最终结果或中间结果。

2.根据权利要求1所述的方法，其特征在于，所述各待处理数据的数据类型为FP32，所述模拟方式包括：FP32-F、FP32-B、FP32-T中的一个或多个，其中，所述FP32-F表示基于FP16类型数据模拟FP32类型数据的方式，所述FP32-B表示基于BF16类型数据模拟FP32类型数据的方式，所述FP32-T表示基于TF32类型数据模拟FP32类型数据的方式。

3.根据权利要求1或2所述的方法，其特征在于，所述各待处理数据的数据类型为FP32，所述各待处理数据相匹配的模拟方式包括FP32-F；所述各待处理数据对应的模拟数据包括FP16类型的第一数据及第二数据；

所述根据所述各待处理数据相匹配的模拟方式对所述各待处理数据进行处理，生成所述各待处理数据对应的模拟数据，包括：

将所述各待处理数据进行FP32类型到FP16类型的变换，得到所述各待处理数据对应的第一数据；

将所述第一数据进行FP16类型到FP32类型的变换，并计算各待处理数据与变换结果的第一差值；

对所述第一差值与第一预设系数的乘积，进行FP32类型到FP16类型的变换，得到所述各待处理数据对应的第二数据。

4.根据权利要求1或2所述的方法，其特征在于，所述各待处理数据的数据类型为FP32，所述各待处理数据相匹配的模拟方式包括FP32-T；所述各待处理数据对应的模拟数据包括TF32类型的第三数据及第四数据；

所述根据所述各待处理数据相匹配的模拟方式对所述各待处理数据进行处理，生成所述各待处理数据对应的模拟数据，包括：

将所述各待处理数据进行FP32类型到TF32类型的变换，得到所述各待处理数据对应的第三数据；

将所述各待处理数据与所述第三数据的差值，进行FP32类型到TF32类型的变换，得到所述各待处理数据对应的第四数据。

5.根据权利要求4所述的方法，其特征在于，所述将所述各待处理数据与所述第三数据的差值，进行FP32类型到TF32类型的变换，得到所述各待处理数据对应的第四数据，包括：

计算所述各待处理数据与所述第三数据的第二差值，并计算所述第二差值与第一预设系数的乘积；

对乘积结果进行FP32类型到FP16类型的变换，得到所述各待处理数据对应的第四数据。

6.根据权利要求1或2所述的方法，其特征在于，所述待处理数据的数据类型为FP32，所述各待处理数据相匹配的模拟方式包括FP32-B；所述各待处理数据对应的模拟数据包括BF16类型的第五数据、第六数据及第七数据；

所述根据所述各待处理数据相匹配的模拟方式对所述各待处理数据进行处理，生成所述各待处理数据对应的模拟数据，包括：

将所述各待处理数据进行FP32类型到BF16类型的变换，得到所述各待处理数据对应的第五数据；

将所述各待处理数据与所述第五数据的第三差值，进行FP32类型到BF16类型的变换，得到所述各待处理数据对应的第六数据；

对所述第三差值与所述第六数据的差值，进行FP32类型到BF16类型的变换，得到所述各待处理数据对应的第七数据。