[发明专利]数据处理方法、装置以及电子设备

说明书

本申请实施例公开了一种数据处理方法、装置以及电子设备。方法包括：获取进行矩阵乘法的待计算矩阵；将待计算矩阵所在内存块进行分块，得到多个子分块，子分块的尺寸小于内存块的尺寸；获取矩阵对应的内存排布方式；基于内存排布方式，将待计算矩阵的元素对应于多个子分块进行重新排列，得到重新排序后的待计算矩阵，其中，进行分块后，基于内存排布方式，从内存中读取重新排序后的待计算矩阵的元素时进行元素读取的次数，小于读取重新排序前的待计算矩阵的元素时进行元素读取的次数；基于重新排序后的待计算矩阵执行矩阵乘法。从而进而可以减小从内存中读取待计算矩阵的元素时进行元素读取的次数，以提升矩阵乘法的运算效率。

技术领域

本申请涉及计算机技术领域，更具体地，涉及一种数据处理方法、装置以及电子设备。

背景技术

深度学习的飞速发展伴随着移动端神经网络计算引擎的快速迭代，深度学习的算法一般都是具有大计算量的特点，尤其是矩阵乘法这类超大计算量的算子往往占据着深度学习算法算力需求的一大半。但是，在相关的矩阵乘法实施方式中，还存在矩阵乘法的运算效率有待提升的问题。

发明内容

鉴于上述问题，本申请提出了一种数据处理方法、装置以及电子设备，以改善上述问题。

第一方面，本申请提供了一种数据处理方法，应用于电子设备，所述方法包括：获取进行矩阵乘法的待计算矩阵；将所述待计算矩阵所在内存块进行分块，得到多个子分块，所述子分块的尺寸小于所述内存块的尺寸；获取矩阵对应的内存排布方式；基于所述内存排布方式，将所述待计算矩阵的元素对应于所述多个子分块进行重新排列，得到重新排序后的待计算矩阵，其中，进行所述分块后，基于所述内存排布方式，从内存中读取所述重新排序后的待计算矩阵的元素时进行元素读取的次数，小于读取重新排序前的所述待计算矩阵的元素时进行元素读取的次数；

基于所述重新排序后的待计算矩阵执行所述矩阵乘法。

第二方面，本申请提供了一种数据处理装置，运行于电子设备，所述装置包括：矩阵获取单元，用于获取进行矩阵乘法的待计算矩阵；内存分块单元，用于将所述待计算矩阵所在内存块进行分块，得到多个子分块，所述子分块的尺寸小于所述内存块的尺寸；排布方式获取单元，用于获取矩阵对应的内存排布方式；内存重排单元，用于基于所述内存排布方式，将所述待计算矩阵的元素对应于所述多个子分块进行重新排列，得到重新排序后的待计算矩阵，其中，进行所述分块后，基于所述内存排布方式，从内存中读取所述重新排序后的待计算矩阵的元素时进行元素读取的次数，小于读取重新排序前的所述待计算矩阵的元素时进行元素读取的次数；数据处理单元，用于基于所述重新排序后的待计算矩阵执行所述矩阵乘法。

第三方面，本申请提供了一种电子设备，所述电子设备至少包括处理器、以及存储器；一个或多个程序被存储在所述存储器中并被配置为由所述处理器执行以实现上述方法。

第四方面，本申请提供了一种计算机可读存储介质，所述计算机可读存储介质中存储有程序代码，其中，在所述程序代码被处理器运行时执行上述的方法。

本申请提供的一种数据处理方法、装置以及电子设备，会在接收到矩阵乘法计算指令时，获取进行矩阵乘法的待计算矩阵，并对该计算矩阵所在的内存块进行分块，以得到多个子分块。并且，在获取到矩阵对应的内存排布方式以后，先基于所述内存排布方式，将所述待计算矩阵的元素对应于所述多个子分块进行重新排列，得到重新排序后的待计算矩阵，然后再基于所述重新排序后的待计算矩阵执行所述矩阵乘法。从而通过对待计算矩阵的元素在内存中的存储序列进行重新排列的方式，使得在对待矩阵原本的内存块进行分块以后，可以减少在进行分块后，在读取待计算矩阵的元素时，减少因为矩阵对应的内存排布方式所造成的较多的跨子分块进行元素读取的次数，进而可以减小从内存中读取所述待计算矩阵的元素时进行元素读取的次数，以提升矩阵乘法的运算效率。

附图说明