[发明专利]面向嵌入式低功耗卷积神经网络方法

权利要求书

1.一种面向嵌入式低功耗卷积神经网络方法，其特征在于，方法步骤如下：

(1).对于conv层和conv+concat层相邻的两个层，采用GoogLeNet中inception的思想，将1×1以及3×3的卷积核并行排列，并分别采集不同尺度上的feature，再将两种卷积核计算得到的feature map进行拼接；

(2).对于conv+concat层，采用ResNet的思想，本网络在conv+concat层的拼接结果之间做了捷径连接的逐元素相加操作；

(3).分别对每一层进行预剪枝，剪掉的神经元占总数的50％，测试每一层对整体精度的影响。

2.根据权利要求1所述的面向嵌入式低功耗卷积神经网络方法，其特征在于，所述卷积神经网络的每一层的卷积尺寸较小，卷积核的数量也很少并且网络具有一定的稀疏性，因此每一层需要的乘法数量非常少，在具体计算时，可以将其转换为具有CSR存储格式的稀疏矩阵与稠密矩阵的乘积。

3.根据权利要求1所述的面向嵌入式低功耗卷积神经网络方法，其特征在于，步骤(3)所述的剪枝操作，其卷积核为3×3的卷积层对于剪枝的敏感程度变化不大，因此，本网络仅对3×3的卷积层进行剪枝操作。

4.根据权利要求3所述的的面向嵌入式低功耗卷积神经网络方法，其特征在于，所述3×3的卷积层，分别测试剪枝的数量对于精度的影响，本网络分别测试了剪枝比率为40％，50％，60％，70％和80％五种情况，结果显示60％是一个较好的选择，充分去除了冗余，又不会丢失太多的精度。

5.根据权利要求1所述的面向嵌入式低功耗卷积神经网络方法，其特征在于，步骤(3)所述的剪枝操作过程中定义了一个剪枝索引数组，若某个神经元被去除，则对应的索引为0，否则为1，对于反向传播，只需要根据剪枝索引，将对应位置为0的强行置0。