[发明专利]向量处理器的低位宽数据矩阵向量化列裁剪方法及系统

说明书

本发明公开了一种向量处理器的低位宽数据矩阵向量化列裁剪方法及系统，方法包括：将低位宽数据矩阵存储在双倍速率同步动态随机存储器中；调用直接存储器访问操作，将低位宽数据矩阵从双倍速率同步动态随机存储器加载到片上阵列存储器AM空间；在AM空间中，对加载到片上AM空间后的矩阵进行列裁剪处理，得到列裁剪后的矩阵。本发明能够高效的实现低位宽数据矩阵的列裁剪操作。

技术领域

本发明涉及向量处理器技术领域，尤其涉及一种向量处理器的低位宽数据矩阵向量化列裁剪方法及系统。

背景技术

向量处理器是一种新型的体系结构，如图1所示，包含进行标量运算的标量处理单元(SPU)和进行向量运算的向量处理单元(VPU)，以及负责数据传输的直接存储器访问(Direct Memory Access，DMA)部件等。SPU由标量处理部件SPE和标量存储器SM构成。VPU由L个向量处理部件VPE和阵列存储器AM构成，L个向量处理部件VPE以单指令多数据(SIMD)的方式协作运行，支持指定VPE部件的关闭与开启，但不支持多个VPE之间的数据交互。单个VPE一次可以处理1个8字节数据(如FP64、Int64)，也可以处理2个4字节数据(如FP32，Int32)。DMA部件负责SM与DDR(双倍速率同步动态随机存储器)、AM与DDR之间的数据传输，其操作的最小粒度也是8字节。

对于单个元素位宽为8字节的矩阵来说，只需通过DMA操作将数据在向量处理器的AM空间与片外DDR之间进行搬移，便可高效完成整个矩阵运算的很多操作。如上述所述，DMA操作的最小粒度是8字节。而对于低位宽矩阵乘[M×K]×[K×N]时，当N是奇数时，如果仅仅通过DMA操作，无法快速有效的传输。

因此，如何高效实现低位宽数据矩阵的列裁剪操作，是一项亟待解决的问题。

发明内容

有鉴于此，本发明提供了一种向量处理器的低位宽数据矩阵向量化列裁剪方法，能够高效的实现低位宽数据矩阵的列裁剪操作。

本发明提供了一种向量处理器的低位宽数据矩阵向量化列裁剪方法，包括：

将低位宽数据矩阵存储在双倍速率同步动态随机存储器中；

调用直接存储器访问操作，将所述低位宽数据矩阵从所述双倍速率同步动态随机存储器加载到片上阵列存储器AM空间；

在AM空间中，对加载到所述片上AM空间后的矩阵进行列裁剪处理，得到列裁剪后的矩阵。

优选地，所述低位宽数据矩阵A_ddr的维度为M×N。

优选地，所述调用直接存储器访问操作，将低位宽数据矩阵从所述双倍速率同步动态随机存储器加载到片上AM空间，包括：

调用直接存储器访问操作，将所述低位宽数据矩阵A_ddr的子矩阵[2×N]分批次加载到片上AM空间中，其中，批次数量由AM空间大小决定。

优选地，在所述AM空间中，对加载到所述片上AM空间后的矩阵进行列裁剪处理，得到列裁剪后的矩阵，包括：

步骤1、令offset0＝2，offset1＝0，令AM₀为AM上半空间起始地址，AM₁为AM下半空间起始地址，AM₂与AM₃为AM₀偏移0个低位宽数据后的地址，矩阵A的子矩阵为A’，矩阵B的子矩阵为B’；

步骤2、判断N是否超过预设阈值，其中，所述预设阈值需小于空间大小，如果超过，则跳转至步骤17，否则，跳转到步骤3；

步骤3、基于直接存储器访问，将子矩阵A’中的前N-2个数据传输到子矩阵B’；