[发明专利]用于执行矩阵计算的方法、计算设备和计算机存储介质有效
申请号: | 202111035783.3 | 申请日: | 2021-09-06 |
公开(公告)号: | CN113496008B | 公开(公告)日: | 2021-12-03 |
发明(设计)人: | 不公告发明人 | 申请(专利权)人: | 北京壁仞科技开发有限公司;上海壁仞智能科技有限公司 |
主分类号: | G06F17/16 | 分类号: | G06F17/16;G06N3/04;G06N3/08 |
代理公司: | 北京市金杜律师事务所 11256 | 代理人: | 王茂华 |
地址: | 100085 北京市海淀区*** | 国省代码: | 北京;11 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 用于 执行 矩阵 计算 方法 设备 计算机 存储 介质 | ||
本公开的实施例涉及用于执行矩阵计算的方法、计算设备和计算机存储介质。根据该方法,获取目标矩阵,目标矩阵包括具有第一尺寸的多个子矩阵,目标矩阵被划分为具有第二尺寸的多个块,第二尺寸与第一尺寸不同;对于多个块中的每个当前块,生成当前块中的左子矩阵边界相对于当前块中的预定列的第一偏移量、当前块中的右子矩阵边界相对于当前块中的预定列的第二偏移量、当前块中的上子矩阵边界相对于当前块中的预定行的第三偏移量和当前块中的下子矩阵边界相对于当前块中的预定行的第四偏移量;以及基于第一偏移量、第二偏移量、第三偏移量和第四偏移量,对当前块进行填充。由此,能够减少用于表示块内的样本边界的比特数量。
技术领域
本公开的实施例总体涉及信息处理领域,具体涉及用于执行矩阵计算的方法、计算设备和计算机存储介质。
背景技术
用于卷积运算的矩阵通常称为样本。多个小的样本可以组成更大的样本作为卷积的输入,以提高计算效率。所组成的更大样本可以划分为多个块(也可以称为片,tile)。卷积或矩阵乘加等运算例如可以逐块进行。进行卷积或矩阵乘加等运算时,会对一些块进行填充。由于块内部存在样本边界,因此需要识别块内部的样本边界,以用于卷积或矩阵乘加等运算所需的填充。
传统方案通过为每个块生成块大小的掩码来指示块内部的样本边界。例如,对于8x8的块而言,生成64比特的掩码,掩码中的样本边界比特被设置为1,并且掩码中的非样本边界比特被设置为0,或者反之亦然。
发明内容
提供了一种用于执行矩阵计算的方法、计算设备以及计算机存储介质,能够减少用于表示块内的样本边界的比特数量,从而降低总线传输数据量和存储空间。
根据本公开的第一方面,提供了一种用于执行矩阵计算的方法。该方法包括:在计算设备处,获取目标矩阵,目标矩阵包括具有第一尺寸的多个子矩阵,目标矩阵被划分为具有第二尺寸的多个块,第二尺寸与第一尺寸不同;对于多个块中的每个当前块,执行以下步骤:生成当前块中的左子矩阵边界相对于当前块中的预定列的第一偏移量、当前块中的右子矩阵边界相对于当前块中的预定列的第二偏移量、当前块中的上子矩阵边界相对于当前块中的预定行的第三偏移量和当前块中的下子矩阵边界相对于当前块中的预定行的第四偏移量;以及基于第一偏移量、第二偏移量、第三偏移量和第四偏移量,对当前块进行填充。
根据本公开的第二方面,提供了一种计算设备。该计算设备包括:存储器;处理器,与存储器相耦合,被配置成:获取目标矩阵,目标矩阵包括具有第一尺寸的多个子矩阵,目标矩阵被划分为具有第二尺寸的多个块,第二尺寸与第一尺寸不同;对于多个块中的每个当前块,生成当前块中的左子矩阵边界相对于当前块中的预定列的第一偏移量、当前块中的右子矩阵边界相对于当前块中的预定列的第二偏移量、当前块中的上子矩阵边界相对于当前块中的预定行的第三偏移量和当前块中的下子矩阵边界相对于当前块中的预定行的第四偏移量;以及矩阵计算单元,与存储器和处理器相耦合,被配置成:对于多个块中的每个当前块,基于第一偏移量、第二偏移量、第三偏移量和第四偏移量,对当前块进行填充。
在本公开的第三方面中,提供了一种计算机可读存储介质,其上存储有计算机程序,该程序被处理器执行时实现根据本公开的第一方面的方法。
应当理解,本部分所描述的内容并非旨在标识本公开的实施例的关键或重要特征,也不用于限制本公开的范围。本公开的其它特征将通过以下的说明书而变得容易理解。
附图说明
结合附图并参考以下详细说明,本公开各实施例的上述和其他特征、优点及方面将变得更加明显。在附图中,相同或相似的附图标注表示相同或相似的元素。
图1是根据本公开的实施例的计算设备100的示意图。
图2是根据本公开的实施例的用于执行矩阵计算的方法200的示意图。
图3是根据本公开的实施例的目标矩阵300的示意图。
图4是根据本公开的实施例的块的填充结果400的示意图。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于北京壁仞科技开发有限公司;上海壁仞智能科技有限公司,未经北京壁仞科技开发有限公司;上海壁仞智能科技有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202111035783.3/2.html,转载请声明来源钻瓜专利网。