[发明专利]卷积神经网络全连接层稀疏的权值矩阵的压缩方法及系统

权利要求书

1.一种卷积神经网络全连接层稀疏的权值矩阵的压缩方法，其特征在于，包括以下步骤：

步骤1，获取待优化卷积神经网络的全连接层稀疏的权值矩阵A，并将其分解成位置矩阵B以及非零值数组C；

其中，位置矩阵B与稀疏的权值矩阵A的尺寸大小一致；在位置矩阵B中，稀疏的权值矩阵A中有非零值的对应位置的数值为1，其他位置的数值为0；

步骤2，将步骤1获得的位置矩阵B作为二值矩阵，进行满足预设图像压缩标准的无损压缩；

步骤2具体包括以下步骤：

步骤2.1，将步骤1获得的位置矩阵B进行8-邻域或24-邻域的有损压缩，获得有损压缩后的位置矩阵；在有损压缩过程中，将满足预设阈值的剔除点补回；

步骤2.2，将步骤2.1获得的有损压缩后的位置矩阵进行满足预设图像压缩标准的无损压缩。

2.根据权利要求1所述的一种卷积神经网络全连接层稀疏的权值矩阵的压缩方法，其特征在于，步骤1具体包括：对待优化卷积神经网络的全连接层进行非结构化剪枝、再训练后获得稀疏的权值矩阵A。

3.根据权利要求1所述的一种卷积神经网络全连接层稀疏的权值矩阵的压缩方法，其特征在于，预设图像压缩标准包括：JBIG标准或JPEG2000标准。

4.根据权利要求1所述的一种卷积神经网络全连接层稀疏的权值矩阵的压缩方法，其特征在于，步骤2.1中，8-邻域或24-邻域孤立点剔除具体包括：

将步骤1获得的位置矩阵B中每一个数值为1的点当做目标点，做8-邻域或24-邻域剔除孤立点实验；

8-邻域剔除孤立点包括：以目标点为中心的3*3矩阵中，其他8个点若全为0值，则目标点为孤立点，需剔除掉，否则保留目标点；

24-邻域剔除孤立点包括：以目标点为中心的5*5矩阵中，其他24个点若全为0值，则目标点为孤立点，需剔除掉，否则保留目标点。

5.根据权利要求4所述的一种卷积神经网络全连接层稀疏的权值矩阵的压缩方法，其特征在于，在剔除孤立点的过程中，孤立点的稀疏的权值矩阵A对应位置处的值的绝对值大于等于预设阈值时，将其保留。

6.根据权利要求4所述的一种卷积神经网络全连接层稀疏的权值矩阵的压缩方法，其特征在于，阈值的确定过程具体包括：

将孤立点的稀疏的权值矩阵A对应位置处的值的绝对值进行排序，最小值为min，最大值为max，差值a＝max-min，则阈值S＝min+a(1-nΔt)；

其中，Δt为每次调整的变量，n为调整的次数。

7.一种卷积神经网络全连接层稀疏的权值矩阵的压缩系统，其特征在于，包括：

位置矩阵获取模块，用于获取待优化卷积神经网络的全连接层稀疏的权值矩阵A，并将其分解成位置矩阵B以及非零值数组C；其中，位置矩阵B与稀疏的权值矩阵A的尺寸大小一致；位置矩阵B中，在稀疏的权值矩阵A中有非零值的对应位置的数值为1，其他位置的数值为0；

有损压缩模块，用于将位置矩阵获取模块获得的位置矩阵B进行8-邻域或24-邻域并设置阈值的有损压缩，获得有损压缩后的位置矩阵；

无损压缩模块，用于将有损压缩模块获得的有损压缩后的位置矩阵进行满足预设图像压缩标准的无损压缩。