[发明专利]人工智能处理器处理二维数据矩阵的方法和设备

说明书

本公开记载了一种人工智能处理器处理二维数据矩阵的方法、电子设备和计算装置，其中计算装置可以包括在组合处理装置中，该组合处理装置还可以包括通用互联接口和其他处理装置。所述计算装置与其他处理装置进行交互，共同完成用户指定的计算操作。组合处理装置还可以包括存储装置，该存储装置分别与计算装置和其他处理装置连接，用于计算装置和其他处理装置的数据。

技术领域

本发明涉及数据处理领域，更具体地，涉及人工智能处理器上的矩阵运算领域。

背景技术

在计算机视觉中，视频是由一帧一帧图像组成，图像又是由一个一个信号组成；所以对信号的处理，对图像的处理以及对视频的处理越来越频繁，越来越重要。实际上，每一张图像即是一个二维数据矩阵，对图像进行处理，实际上是对一个较大的二维数据矩阵进行处理。矩阵的转置是矩阵处理中很重要的一个基础操作。所以在信号处理、图像处理和视频解析等领域，会出现大量的矩阵转置运算需求，对转置性能有较大的的要求；

除了深度学习领域中会使用较小尺寸的图片，在信号处理、图像处理和视频解析等领域，一般图像都很大，最常见的有720p，1080p，4k甚至 8k的图像，这里会出现大量对大尺度矩阵转置的运算需求。但是，参与计算的处理器的片上(或片内RAM)资源一般有限，不足以缓存这样的大规模的矩阵数据。同时，虽然片外存储器的容量远大于片内存储器，但由于在片外存储进行运算的速度远低于在片内存储，并且对片外存储访问需要进行大量的操作，会影响算法的性能，因此，如果将图像的处理在片外存储器进行，那么会导致整个算法的效率很低。

发明内容

本发明的目的是克服现有技术中大型二维数据矩阵进行转置过程中存取次数多，运算速度较低的缺陷。

根据本公开的第一方面，提供一种人工智能处理器处理二维数据矩阵的方法，包括：根据人工智能处理器上的片上存储单元的容量以及所述二维数据矩阵的尺寸，将所述二维数据矩阵拆分为至少两个子矩阵，每个子矩阵的所有元素均能够存放在所述片上存储单元中；将所述子矩阵加载至所述人工智能处理器的片上存储单元中；所述人工智能处理器对所述子矩阵进行矩阵转置运算，以得到运算结果；以及所述人工智能处理器将所述运算结果传送至所述片外存储单元以进行存储。

根据本公开的第二方面，提供一种电子设备，包括：一个或多个处理器；以及存储器，所述存储器中存储有计算机可执行指令，当所述计算机可执行指令由所述一个或多个处理器运行时，使得所述电子设备执行如上所述的方法。

根据本公开的第三方面，提供一种计算机可读存储介质，包括计算机可执行指令，当所述计算机可执行指令由一个或多个处理器运行时，执行如上所述的方法。

本公开的技术方案所带来的至少一个有益效果包括，可以充分利用处理器的片上资源，解决由了于处理器片上资源有限以不能处理大型数据的缺陷。

附图说明

通过参考附图阅读下文的详细描述，本公开示例性实施方式的上述以及其他目的、特征和优点将变得易于理解。在附图中，以示例性而非限制性的方式示出了本公开的若干实施方式，并且相同或对应的标号表示相同或对应的部分其中：

图1a示出了本公开的方法可以应用的一个处理器组的内部结构示意图；

图1b示出了本公开的方法可以应用的人工智能处理器的结构示意图；

图2示出了根据本公开的一个实施方式的对片外存储单元中的二维数据矩阵进行矩阵转置运算的方法；

图3示出了根据本公开一个实施方式的动态地调整所述子矩阵的尺寸的方法流程图；

图4a示出了根据本公开的一个实施方式的对二维矩阵进行扩展的示意图；

图4b示出了根据本公开的另一个实施方式的对二维矩阵进行扩展的示意图；