[发明专利]基于中间层特征图压缩的卷积方法、模型及计算机设备

权利要求书

1.基于中间层特征图压缩的卷积方法，其特征在于，包括：

S101，获取输入图像；

S102，对所述输入图像进行预处理，所述预处理为高斯滤波处理；

S103，将预处理后的输入图像作为第一个硬件融合算子的输入，进行推理运算，获得第一个硬件融合算子的中间层特征图，所述硬件融合算子至少包括卷积层、池化层、BN层或Relu层中的任意一层，且若硬件融合算子包括卷积层，则所述卷积层处于第一层；

S104，判断中间层特征图的数据量是否大于预设的阈值，若中间层特征图的数据量小于或等于预设的阈值，则直接存储所述中间层特征图；若中间层特征图的数据量大于预设的阈值，则对中间层特征图进行量化及稀疏矩阵压缩，并存储经过量化及稀疏矩阵压缩后的中间层特征图；

S105，提取S104中存储的中间层特征图或量化及稀疏矩阵压缩后的中间层特征图，并作为下一个硬件融合算子的推理运算的输入，获得下一个硬件融合算子的中间层特征图；

S106，重复S104至S105，直至所有硬件融合算子完成推理运算，获得最终的输出结果。

2.根据权利要求1所述的基于中间层特征图压缩的卷积方法,其特征在于，在对中间层特征图进行量化及稀疏矩阵压缩的步骤之前，还包括：

对所述中间层特征图进行DCT变换，获得DCT变换后的中间层特征图。

3.根据权利要求2所述的基于中间层特征图压缩的卷积方法,其特征在于，在所述提取所述中间层特征图或量化及稀疏矩阵压缩后的中间层特征图的步骤之后，还包括：

若提取的中间中间层特征图经过量化及稀疏矩阵压缩，则对量化及稀疏矩阵压缩后的中间层特征图进行解压缩恢复量化和IDCT变换。

4.基于中间层特征图压缩的卷积方法，其特征在于，包括：

获取输入图像；

对所述输入图像进行预处理，所述预处理为高斯滤波处理；

将预处理后的输入图像作为多个硬件融合算子中第一个硬件融合算子的输入，依次进行多个硬件融合算子的推理运算，获得多个中间层特征图以及最终的输出结果；所述硬件融合算子至少包括卷积层、池化层、BN层或Relu层中的任意一层，且若硬件融合算子包括卷积层，则所述卷积层处于第一层；

其中，所述硬件融合算子包括第一类硬件融合算子和第二类硬件融合算子，所述第一类硬件融合算子的中间层特征图，在存储前均经过量化及稀疏矩阵压缩，所述第二类硬件融合算子的中间层特征图采用直接存储方式进行存储。

5.基于中间层特征图压缩的卷积模型,其特征在于，所述卷积模型用于执行权利要求1-3所述的一种基于中间层特征图压缩的卷积方法，所述一种基于中间层特征图压缩的卷积模型包括：

输入端，用于获取输入图像；

预处理模块；用于对输入图像进行高斯滤波处理；

多个硬件融合算子，用于获得多个中间层特征图以及最终输出矩阵，所述硬件融合算子至少包括卷积层、池化层、BN层或Relu层中的任意一层，且若硬件融合算子包括卷积层，则所述卷积层处于第一层；

数据量判断模块，用于判断中间层特征图的数据量是否大于预设的阈值；

量化及稀疏矩阵模块，用于对中间层特征图进行量化及稀疏矩阵压缩；

存储模块，用于存储中间层特征图或经过量化及稀疏矩阵压缩后的中间层特征图；

输出端，用于输出最终的输出结果。

6.根据权利要求5所述的基于中间层特征图压缩的卷积模型,其特征在于，包括：

DCT变换模块，用于对所述中间层特征图进行DCT变换。

7.根据权利要求6所述的基于中间层特征图压缩的卷积模型,其特征在于，包括：

IDCT变换模块，用于对所述中间层特征图进行IDCT变换；

解压缩及恢复量化模块，用于对量化及稀疏矩阵压缩后的中间层特征图进行解压缩及恢复量化。