[发明专利]一种数据处理方法、装置及存储介质

说明书

本公开涉及一种数据处理方法、装置及存储介质，其中，该方法可以包括获取深度学习模型中的待处理数据组；确定与待处理数据组中各待处理数据相匹配的模拟方式，模拟方式用于基于不同于待处理数据的数据类型的其他数据类型，表示待处理数据的数据类型；根据各待处理数据相匹配的模拟方式对各待处理数据进行处理，生成各待处理数据对应的模拟数据，模拟数据通过所述其他数据类型表示；对各待处理数据对应的模拟数据进行处理，得到数据处理结果。通过本公开，在保证数据处理精度的情况下，进行数据加速处理，提供了高效计算能力，有效提升了加速器的性能；同时，扩展了加速器的使用场景，有效降低了对加速器的硬件要求。

技术领域

本公开涉及数据处理技术领域，尤其涉及一种数据处理方法、装置及存储介质。

背景技术

随着硬件的迅速发展，加速器成为了目前计算领域的重要突破点。各硬件厂商都针对热门应用推出了各自的加速器设计。例如，谷歌公司的张量处理单元(TensorProcessing Unit，TPU)、英伟达Nvidia公司的张量核心(Tensor Core)、华为公司的昇腾910芯片都是面向深度学习设计的加速器；这些加速器有效的提高了领域应用的执行效率。

然而，领域特定加速器的设计面向特定程序，这导致这类硬件的应用场景存在严格限制。这类硬件通常只支持有限的原生数据类型，例如，在Nvidia特斯拉Tesla V100加速卡中，Tensor Core支持FP16类型的矩阵乘法，而科学计算领域广泛使用的FP32类型和FP64类型没有很好的支持。

现有技术中，采样混合精度的计算模式或者使用低精度类型模拟高精度类型的方式等，以使加速器支持更多类型的计算，然而，这些方式对加速器的性能提升仍不理想。例如，在对图像进行识别的场景中，采用这些方式，可以使面向深度学习设计的加速器支持更多数据类型的计算，但图像识别的精度和速度仍有待提高。

发明内容

有鉴于此，本公开提出了一种数据处理方法、装置及存储介质。

根据本公开的一方面，提供了一种数据处理方法，所述方法包括：获取深度学习模型中的待处理数据组；所述待处理数据组包括深度学习模型在对图像进行识别过程中处理的输入数据或中间数据；确定与所述待处理数据组中各待处理数据相匹配的模拟方式，所述模拟方式用于基于不同于待处理数据的数据类型的其他数据类型，表示待处理数据的数据类型；根据所述各待处理数据相匹配的模拟方式对所述各待处理数据进行处理，生成所述各待处理数据对应的模拟数据，所述模拟数据通过所述其他数据类型表示；对所述各待处理数据对应的模拟数据进行处理，得到数据处理结果，所述数据处理结果包括深度学习模型对图像进行识别的最终结果或中间结果。

在一种可能的实现方式中，所述各待处理数据的数据类型为FP32，所述模拟方式包括：FP32-F、FP32-B、FP32-T中的一个或多个，其中，所述FP32-F表示基于FP16类型数据模拟FP32类型数据的方式，所述FP32-B表示基于BF16类型数据模拟FP32类型数据的方式，所述FP32-T表示基于TF32类型数据模拟FP32类型数据的方式。

在一种可能的实现方式中，所述各待处理数据的数据类型为FP32，所述各待处理数据相匹配的模拟方式包括FP32-F；所述各待处理数据对应的模拟数据包括FP16类型的第一数据及第二数据；所述根据所述各待处理数据相匹配的模拟方式对所述各待处理数据进行处理，生成所述各待处理数据对应的模拟数据，包括：将所述各待处理数据进行FP32类型到FP16类型的变换，得到所述各待处理数据对应的第一数据；将所述第一数据进行FP16类型到FP32类型的变换，并计算各待处理数据与变换结果的第一差值；对所述第一差值与第一预设系数的乘积，进行FP32类型到FP16类型的变换，得到所述各待处理数据对应的第二数据。