[发明专利]计算装置以及用于数据重用的方法

说明书

本公开的实施例涉及计算装置和用于数据重用的方法，涉及计算机领域。计算装置包括通用寄存器；以及运算单元，与所述通用寄存器耦接，所述运算单元包括：数据重用单元，所述数据重用单元与多个点积数据单元耦接，所述数据重用单元被配置为从所述通用寄存器读取并暂存用于多次卷积运算的数据集，以及从所述数据集确定多个数据子集以用于分别输入所述多个点积数据单元，用于输入相邻点积数据单元的两个数据子集包括部分相同数据；以及多个点积数据单元，所述多个点积数据单元中的每个点积数据单元被配置为对输入的数据子集进行点积运算，以生成点积运算结果。由此，能够提高卷积运算效率。

技术领域

本公开的实施例总体涉及计算机领域，具体涉及计算装置以及用于数据重用的方法。

背景技术

卷积神经网络是一类包含卷积计算且具有深度结构的前馈神经网络，是深度学习的代表算法之一。通常情况下，卷积神经网络由若干个卷积层、池化层和全连通层组成。其中，卷积层、池化层占据了绝大部分的计算、存储及带宽资源。因此，卷积层和池化层的执行效率很大程度上决定了整个卷积神经网络的效率。

参照图1，其示出了根据现有技术的流处理器100的示意框图。如图1所示，流处理器100包括通用寄存器110和运算单元120。通用寄存器110用于存储计算过程中所使用的数据和运算结果。运算单元120用于进行数学运算。

运算单元120包括多个结构相同的数据通路121-1到121-n。每个数据通路的输入数据、数学运算以及结果输出相互独立。此外，运算单元120控制所有数据通路的数据读取、数学运算以及结果写回。

参照图2，其示出了根据现有技术的流处理器运算单元进行卷积运算的流程图。根据卷积核尺寸MxN，流处理器运算单元会执行MxN次循环操作，并且在所有循环操作执行完毕后，会输出最终的计算结果，其中每个数据通路处理一个像素。每次循环操作包含以下步骤：数据准备202、数据计算204和数据累积206。其中每个步骤至少会包含多个指令。

数据准备202用于准备当前循环操作所需的输入数据。运算单元120通过执行对应指令完成数据拼接、移位等操作，以及在通用寄存器110中写入输入数据。

数据计算204用于卷积、池化等数学计算。运算单元120通过执行对应指令从通用寄存器110读出输入数据，完成数学计算，并输出中间结果到通用寄存器110。

数据累积206用于对中间结果进行累积。运算单元通过执行对应指令从通用寄存器110中读出中间结果，完成累积运算，输出中间结果或最终结果到通用寄存器110。

数据累积206之后的步骤208用于确定循环是否结束，如果当前累积操作是循环操作的最后一次(也就是循环结束)，则运算单元120输出的结果为最终运算结果，否则运算单元120输出的结果为中间结果，流程回到数据准备202。

每条指令在流处理器运算单元中的执行流程包括三个步骤：1)数据读取；2)数学运算；3)数据写回。

但是，现有技术存在以下几个问题：1)每次循环操作只能完成单像素点数学运算，导致一次卷积、池化运算需要的循环次数较多，执行效率低；2)每次循环操作中，包含多个步骤，每个步骤需要多条指令，执行效率低；3)循环操作之间，数据没有共享、重用，需要大量存储器读写操作，功耗大。

发明内容

提供了一种计算装置和用于数据重用的方法，能够提高卷积运算效率。

根据本公开的第一方面，提供了一种计算装置。该计算装置包括：通用寄存器；以及运算单元，与通用寄存器耦接，运算单元包括：数据重用单元，数据重用单元与多个点积数据单元耦接，数据重用单元被配置为从通用寄存器读取并暂存用于多次卷积运算的数据集，以及从数据集确定多个数据子集以用于分别输入多个点积数据单元，用于输入相邻点积数据单元的两个数据子集包括部分相同数据；以及多个点积数据单元，多个点积数据单元中的每个点积数据单元被配置为对输入的数据子集进行点积运算，以生成点积运算结果。