[发明专利]一种减小神经网络加速器计算带宽的方法和设备

权利要求书

1.一种减小神经网络加速器计算带宽的方法，其特征在于，应用于包括多个输出点与多个特征数据的特征图中，所述输出点分布在特征图中不同的列中，每一列中输出点的位置按照Height方向从上至下依次排列；各所述输出点均对应有所述特征数据，且所述特征数据的位置分布于对应的输出点的位置分布一致；该方法包括：

针对每一列中的输出点，将计算第一个输出点所需的特征数据，按照一维扁平化，从外存搬运到神经网络加速器的快速内存中进行计算，得到对应所述第一个输出点的输出数据；

将复用特征数据搬运到所述快速内存的头部，并将剩余特征数据，按照一维扁平化，从所述外存搬运到所述快速内存中的后部进行计算，得到对应当前输出点的输出数据，直至得到所述列中最后一个输出点的输出数据；

其中，所述复用特征数据为计算完成的最后一个输出点与当前输出点两者对应的特征数据中的相同部分，且两者互为相邻的输出点；所述复用特征数据与所述剩余特征数据组成计算当前输出点所需的特征数据。

2.如权利要求1所述的一种减小神经网络加速器计算带宽的方法，其特征在于，在“将计算第一个输出点所需的第一特征数据，按照一维扁平化，从外存搬运到神经网络加速器的快速内存中进行计算”之前，还包括：

将所述神经网络系统的卷积核，按照一维扁平化，从外存搬运到神经网络加速器的快速内存中。

3.如权利要求2所述的一种减小神经网络加速器计算带宽的方法，其特征在于，各所述输出点对应的特征数据的大小与所述卷积核的大小一致。

4.如权利要求2所述的一种减小神经网络加速器计算带宽的方法，其特征在于，所述输出数据是基于所述特征数据与所述卷积核来计算得到。

5.如权利要求1所述的一种减小神经网络加速器计算带宽的方法，其特征在于，

每一列中相邻的输出点对应的特征数据在所述特征图的位置差距预设步长；

所述预设步长的位置对应的特征数据为所述剩余特征数据。

6.一种减小神经网络加速器计算带宽的设备，其特征在于，应用于包括多个输出点与多个特征数据的特征图中，所述输出点分布在特征图中不同的列中，每一列中输出点的位置按照Height方向从上至下依次排列；各所述输出点均对应有所述特征数据，且所述特征数据的位置分布于对应的输出点的位置分布一致；该设备包括：

第一处理模块，用于针对每一列中的输出点，将计算第一个输出点所需的特征数据，按照一维扁平化，从外存搬运到神经网络加速器的快速内存中进行计算，得到对应所述第一个输出点的输出数据；

第二处理模块，用于将复用特征数据搬运到所述快速内存的头部，并将剩余特征数据，按照一维扁平化，从所述外存搬运到所述快速内存中的后部进行计算，得到对应当前输出点的输出数据，直至得到所述列中最后一个输出点的输出数据；

其中，所述复用特征数据为计算完成的最后一个输出点与当前输出点两者对应的特征数据中的相同部分，且两者互为相邻的输出点；所述复用特征数据与所述剩余特征数据组成计算当前输出点所需的特征数据。

7.如权利要求6所述的一种减小神经网络加速器计算带宽的设备，其特征在于，还包括：

卷积核模块，用于将所述神经网络系统的卷积核，按照一维扁平化，从外存搬运到神经网络加速器的快速内存中。

8.如权利要求7所述的一种减小神经网络加速器计算带宽的设备，其特征在于，各所述输出点对应的特征数据的大小与所述卷积核的大小一致。

9.如权利要求7所述的一种减小神经网络加速器计算带宽的方法，其特征在于，所述输出数据是基于所述特征数据与所述卷积核来计算得到。

10.如权利要求6所述的一种减小神经网络加速器计算带宽的设备，其特征在于，

每一列中相邻的输出点对应的特征数据在所述特征图的位置差距预设步长；

所述预设步长的位置对应的特征数据为所述剩余特征数据。