[发明专利]用于矩阵计算的方法及装置

说明书

本公开的实施例涉及用于矩阵计算的方法及装置，涉及集成电路领域。该方法包括：经由包括至少两行至少两列计算单元的阵列中每一行的至少两个计算单元，按行顺序获取第一矩阵中对应行的至少两个第一子矩阵，计算单元用于执行矩阵乘法运算，阵列中横向相邻和纵向相邻的计算单元之间配置有数据通道；经由横向的数据通道传输对应行的至少两个第一子矩阵；经由阵列中每一列的至少两个计算单元，按列顺序获取第二矩阵中对应列的至少两个第二子矩阵；以及经由纵向的数据通道传输对应列的至少两个第二子矩阵，以用于第一矩阵和第二矩阵之间的矩阵乘法运算。由此，能够灵活实现不同尺寸的矩阵乘法运算。

技术领域

本公开的实施例总体涉及集成电路领域，具体涉及用于矩阵计算的方法及装置。

背景技术

传统方案中只能实现固定结果尺寸和形状的矩阵乘法单元。比如128x128xk，其中左矩阵为128xk，右矩阵为kx128，结果为128x128。如果小于该尺寸，则无法完全利用算力，或者需要通过数据重排进行数据整型，以变成128x128xk的形式来进行运算，但是这种方法需要额外的指令或者硬件单元来完成，效率低下。

发明内容

提供了一种用于矩阵计算的方法及装置，能够灵活实现不同尺寸的矩阵乘法运算。

根据本公开的第一方面，提供了一种用于矩阵计算的方法。该方法包括：经由包括至少两行至少两列计算单元的阵列中每一行的至少两个计算单元，按行顺序获取第一矩阵中对应行的至少两个第一子矩阵，计算单元用于执行矩阵乘法运算，阵列中横向相邻和纵向相邻的计算单元之间配置有数据通道；经由横向的数据通道传输对应行的至少两个第一子矩阵；经由阵列中每一列的至少两个计算单元，按列顺序获取第二矩阵中对应列的至少两个第二子矩阵；以及经由纵向的数据通道传输对应列的至少两个第二子矩阵，以用于第一矩阵和第二矩阵之间的矩阵乘法运算，第二子矩阵中元素的行数与第一子矩阵中元素的列数相同。

根据本公开的第二方面，提供了一种用于矩阵计算的方法，包括：经由包括至少两行至少两列计算单元的阵列中每一行的至少两个计算单元，按行逆序获取第一矩阵中对应行的至少两个第一子矩阵的转置，计算单元用于执行矩阵乘法运算，阵列中横向相邻、纵向相邻和预定对角相邻的计算单元之间配置有数据通道；经由横向和预定对角方向的数据通道传输对应行的至少两个第一子矩阵的转置；经由阵列中每一列的至少两个计算单元，按列顺序获取第二矩阵中对应列的至少两个第二子矩阵；以及经由纵向的数据通道传输对应列的至少两个第二子矩阵，以用于第一矩阵的转置和第二矩阵之间的矩阵乘法运算，第二子矩阵中元素的行数与第一子矩阵的转置中元素的列数相同。

根据本公开的第三方面，提供了一种用于矩阵计算的方法，包括：经由包括至少两行至少两列计算单元的阵列中每一行的至少两个计算单元，按列逆序获取第二矩阵中对应列的至少两个第二子矩阵的转置，计算单元用于执行矩阵乘法运算，阵列中横向相邻、纵向相邻和预定对角相邻的计算单元之间配置有数据通道；经由纵向和预定对角方向的数据通道传输对应列的至少两个第二子矩阵的转置；按行顺序获取第一矩阵中对应行的至少两个第一子矩阵；以及经由横向的数据通道传输对应行的至少两个第一子矩阵，以用于第一矩阵和第二矩阵的转置之间的矩阵乘法运算，第二子矩阵的转置中元素的行数与第一子矩阵中元素的列数相同

根据本公开的第四方面，提供了一种用于矩阵计算的装置。该装置包括：多个计算单元，用于执行矩阵乘法运算，所述多个计算单元被布置成至少两行至少两列的第一阵列，所述第一阵列中横向相邻和纵向相邻的计算单元之间配置有数据通道，所述第一阵列被配置成响应于第一模式，执行根据本公开的第一方面所述的方法。

应当理解，本部分所描述的内容并非旨在标识本公开的实施例的关键或重要特征，也不用于限制本公开的范围。本公开的其它特征将通过以下的说明书而变得容易理解。

附图说明

结合附图并参考以下详细说明，本公开各实施例的上述和其他特征、优点及方面将变得更加明显。在附图中，相同或相似的附图标注表示相同或相似的元素。