[发明专利]数据处理方法、装置、电子设备以及介质

说明书

本申请公开了一种数据处理方法、装置、电子设备以及介质，通过在执行到神经网络模型的运算层时，先按照预先存储的缓存分配关系，分别设置输入数据对应的第一缓存的第一循环寻址地址范围以及输出结果对应的第二缓存的第二循环寻址地址范围，然后，就可以基于第一循环寻址地址范围在第一缓存中进行循环寻址，读取该运算层的输入数据，并基于第二循环寻址地址范围在第二缓存中进行循环寻址，将该运算层的输出结果写入第二缓存，可以有效地提升缓存利用效率，进而提升对模型运算的效率。

技术领域

本申请涉及数据存储技术领域，且更为具体地，涉及一种数据处理方法、装置、电子设备以及介质。

背景技术

随着科技的发展，人工智能(Artificial Intelligence，AI)的使用越来越广泛。从机器学习到深度学习例如神经网络模型，所涉及的数据量以及运算量都大幅度提升，这就对处理器等硬件带来了较大的考验。AI处理器消耗在存取(包括读取和写入)数据上的时间，是影响运算效率的重要因素。为了提高数据存取效率，在AI处理器中，一般采用SRAM(Static Random-Access Memory，静态随机存取存储器)缓存的机制来缓存AI模型涉及的特征数据或权重数据。然而，高速缓存的容量通常是有限的，因此，如何高效的利用有限容量的缓存来存储数据是一个非常重要的问题，会直接影响整个处理器的执行效率。

发明内容

为了解决上述技术问题，提出了本申请。本申请的实施例提供了一种数据处理方法、装置、电子设备以及介质，其通过灵活设置神经网络模型的运算层所涉及特征数据的循环寻址范围，有效地提升了缓存的利用效率，进而提升对模型运算的效率。

根据本申请的第一方面，提供了一种数据处理方法，所述方法包括：当执行到神经网络模型的运算层时，基于预先存储的缓存分配关系，设置第一缓存的第一循环寻址地址范围，以及第二缓存的第二循环寻址地址范围，其中，所述第一缓存为所述运算层的输入数据对应的缓存，所述第二缓存为所述运算层的输出结果对应的缓存，所述缓存分配关系包括：所述运算层的特征数据对应的缓存以及在该缓存中对应的循环寻址范围，所述特征数据包括输入数据和输出结果；基于所述第一循环寻址地址范围在所述第一缓存中进行循环寻址，读取所述运算层的输入数据；执行所述运算层对应的操作指令，对所读取的输入数据进行处理，得到输出结果；基于所述第二循环寻址地址范围在所述第二缓存中进行循环寻址，将所述输出结果写入所述第二缓存。

根据本申请的第二方面，提供了一种数据处理装置，所述装置包括：循环寻址设置模块，用于当执行到神经网络模型的运算层时，基于预先存储的缓存分配关系，设置第一缓存的第一循环寻址地址范围，以及第二缓存的第二循环寻址地址范围，其中，所述第一缓存为所述运算层的输入数据对应的缓存，所述第二缓存为所述运算层的输出结果对应的缓存，所述缓存分配关系包括：所述运算层的特征数据对应的缓存以及在该缓存中对应的循环寻址范围，所述特征数据包括输入数据和输出结果；读取模块，用于基于所述第一循环寻址地址范围在所述第一缓存中进行循环寻址，读取所述运算层的输入数据；处理模块，用于执行所述运算层对应的操作指令，对所读取的输入数据进行处理，得到输出结果；写入模块，用于基于所述第二循环寻址地址范围在所述第二缓存中进行循环寻址。

根据本申请的第三方面，提供了一种处理器，包括运算单元以及一个或多个缓存，所述一个或多个缓存均与所述运算单元连接，所述运算单元用于执行上述第一方面提供的数据处理方法。

根据本申请的第四方面，提供了一种电子设备，包括：处理器，所述处理器包括运算单元以及一个或多个缓存；以及存储器，在所述存储器中存储有计算机程序指令，所述计算机程序指令在被所述运算单元运行时使得所述运算单元执行上述第一方面提供的数据处理方法。

根据本申请的第五方面，提供了一种计算机可读存储介质，所述存储介质存储有计算机程序，所述计算机程序用于执行上述第一方面提供的数据处理方法。