[发明专利]一种端到端CNN加速器及剪枝模型压缩方法

权利要求书

1.一种基于偏差驱动的剪枝模型压缩方法，基于EEG评估持续注意力水平，其特征在于，包括：

对CNN模型依次进行组卷积、全局平均池、近零剪枝、偏差驱动剪枝、权重聚类和量化步骤，得到压缩后的CNN模型；其中，

所述CNN模型由四个卷积块、一个全局平均池化层和一个线性层组成，每个卷积块包括一维卷积层、一维批量归一化层和校正线性单元层。

2.根据权利要求1所述的一种基于偏差驱动的剪枝模型压缩方法，其特征在于，

每个卷积层的内核大小为16。

3.根据权利要求2所述的一种基于偏差驱动的剪枝模型压缩方法，其特征在于，

所述组卷积如等式(1)所示，

分组卷积中的边界点s和e由公式(2)和(3)计算，其中g是组号；

Cout和Cin分别表示输出映射和输入映射的通道号，g为常数。

4.根据权利要求3所述的一种基于偏差驱动的剪枝模型压缩方法，其特征在于，

所述近零剪枝包括：去除预设数量个绝对值较小的权重。

5.根据权利要求4所述的一种基于偏差驱动的剪枝模型压缩方法，其特征在于，

所述偏差驱动剪枝包括：在所述CNN模型中，为前三个批量归一化层设置三个不同的阈值，对于批量归一化层输出的每个通道，当BN偏差小于阈值时，该通道的卷积权重被修剪。

6.根据权利要求1-5任一项所述的一种基于偏差驱动的剪枝模型压缩方法，其特征在于，

所述权重聚类包括：对每个卷积层的权值进行K均值聚类。

7.根据权利要求6所述的一种基于偏差驱动的剪枝模型压缩方法，其特征在于，

所述批量归一化层的表达式如下：

其中，γ和β是两个可学习的参数，E[χ]_BN和Var[χ]_BN表示小批量中每个通道的平均值和方差。

8.一种实现权利要求1-7任一项所述方法的端到端CNN加速器，其特征在于，所述加速器由FPGA实现，具体包括：

两两互相连接的控制器、片上块随机存取存储器、处理引擎阵列。

9.根据权利要求8所述的端到端CNN加速器，其特征在于，

所述CNN网络的权重和前三个卷积块的输出存储在片上块随机存取存储器中，最后一个卷积块的输出映射直接用于全局平均池化层输出；四个卷积块的推断分别需要5016、5076、5016和5024的处理引擎周期，线性层的推断只需要一个处理引擎周期。

10.根据权利要求8或9所述的端到端CNN加速器，其特征在于，

所述处理引擎阵列包括16个处理引擎，每个处理引擎占用128个乘法器、64个加法器和128个寄存器。