[发明专利]处理方法及加速装置

权利要求书

1.一种处理装置，其特征在于，包括：

粗粒度剪枝单元，用于对神经网络的权值进行粗粒度剪枝，以得到剪枝后的权值；

运算单元，用于根据剪枝后的权值对所述神经网络进行训练；

其中，所述粗粒度剪枝单元具体用于：

通过滑动窗口从神经网络的权值中选取出M个权值，所述M为大于1的整数；

当所述M个权值满足预设条件时，将所述M个权值的全部或者部分置为零；

所述粗粒度剪枝单元和所述运算单元均采用硬件的形式实现且均为集成电路；

所述神经网络包括全连接层、卷积层和/或长短期记忆LSTM层，其中，所述全连接层的权值是一个二维矩阵(Nin,Nout)，其中Nin是输入神经元的个数，Nout是输出神经元的个数，所述全连接层有Nin*Nout个权值；所述卷积层的权值是一个四维矩阵(Nfin,Nfout,Kx,Ky)，其中Nfin是输入特征图像的个数，Nfout是输出特征图像的个数，(Kx,Ky)是卷积核的大小，所述卷积层有Nfin*Nfout*Kx*Ky个权值；所述LSTM层的权值有m个全连接层的权值组成，所述m为大于0的整数，第i个全连接层权值为(Nin_i，Nout_i)，其中i是大于0且小于或等于m的整数，Nin_i表示第i个全连接层权值输入神经元个数，Nout_i表示第i个全连接层权值输出神经元个数；所述粗粒度剪枝单元具体用于：

当对所述全连接层的权值进行粗粒度剪枝操作时，所述滑动窗口的大小为Bin*Bout的滑动窗口，其中所述Bin为大于0且小于或等于Nin整数，所述Bout为大于0且小于或等于Nout的整数；

使所述滑动窗口能够沿着Bin的方向按照步长Sin进行滑动，或者沿着Bout的方向按照步长Sout进行滑动，其中Sin为大于0且小于或等于Bin的正整数，Sout为大于0且小于或等于Bout的正整数；

通过所述滑动窗口从所述Nin*Nout个权值中选取M个取值，当所述M个权值满足所述预设条件时，将所述M个权值全部或者部分置为零，其中，所述M＝Bin*Bout；

当对所述卷积层的权值进行粗粒度剪枝操作时，所述滑动窗口为大小为Bfin*Bfout*Bx*By的四维滑动窗口，其中Bfin为大于0且小于或等于Nfin的整数，Bfout为大于0且小于或等于Nfout的整数，Bx为大于0且小于或等于Kx的整数，By为大于0且小于或等于Ky的整数；

使所述滑动窗口沿着Bfin的方向按照步长Sfin进行滑动，或者沿着Bfout的方向按照步长Sfout进行滑动，或者沿着Bx的方向按照步长S进行滑动，或沿着By的方向按照步长Sy进行滑动，其中Sfin为大于0且小于或等于Bfin的整数，Sfout为大于0且小于或等于Bfout的整数，Sx为大于0且小于或等于Bx的整数，Sy为大于0且小于或等于By的整数；

通过所述滑动窗口从所述Nfin*Nfout*Kx*Ky个权值中选取M个权值，当所述M个权值满足所述预设条件时，将所述M个权值全部或者部分置为零，其中，所述M＝Bfin*Bfout*Bx*By；

当对所述LSTM层的权值进行粗粒度剪枝操作时，所述滑动窗口的大小为Bin_i*Bout_i，其中Bin_i为大于0且小于或等于Nin_i的整数，Bout_i为大于0且小于或等于Nout_i的整数；

使所述滑动窗口沿着Bin_i的方向按照步长Sin_i进行滑动，或沿着Bout_i的方向按照步长Sout_i进行滑动，其中Sin_i为大于0且小于或等于Bin_i的正整数，Sout_i为大于0且小于或等于Bout_i的正整数；

通过所述滑动窗口从所述Bin_i*Bout_i个权值中选取M个权值，当所述M个权值满足所述预设条件时，将所述M个权值全部或者部分置为零，其中，所述M＝Bin_i*Bout_i。

2.根据权利要求1所述的装置，其特征在于，所述预设条件为：

所述M个权值的信息量小于第一预设阈值。