[发明专利]一种深度学习模型的压缩方法和装置

说明书

本申请涉及一种深度学习模型的压缩方法和装置，其中，该方法包括：获取待压缩的初始深度学习模型的每一层网络对应的初始压缩信息；确定初始深度学习模型对应的目标压缩信息，其中，目标压缩信息包括每个多支路网络对应的第一压缩信息和每个单支路网络对应的第二压缩信息，第一压缩信息是将多支路网络的每个支路对应的初始压缩信息融合得到的，第一压缩信息中所包括的通道数与多支路网络的每个支路的通道数一致，第二压缩信息是单支路网络对应的初始压缩信息；根据目标压缩信息对初始深度学习模型进行压缩，得到目标深度学习模型。本申请解决了对深度学习模型进行压缩后得到的模型复杂度较高的技术问题。

技术领域

本申请涉及计算机领域，尤其涉及一种深度学习模型的压缩方法和装置。

背景技术

目前，深度学习模型需要大量算力、内存，解决这一问题的方法之一是提高推断效率。而模型剪枝正是提高推断效率的方法之一。模型剪枝算法是一种模型优化加速方法，应用包括图像检测/分割、识别，语音、NLP等多种任务类型。模型剪枝是对网络进行通道剪除，使网络更加简化进而达到加速的目的。但诸如resnet、inception等这些近几年提出的网络均采用多支路卷积构成复杂结构，在剪枝时需要对多支路进行特殊处理来保证通道数量的一致。目前使用的模型剪枝方法有的直接放弃对多个支路剪枝，只对部分层进行剪枝，处理效果不好。有的可以对全部的层进行剪枝，但需要在支路相关层之前增加采样层等额外的网络层进行隔离，使得模型的复杂度提高，影响处理效率。

针对上述的问题，目前尚未提出有效的解决方案。

发明内容

本申请提供了一种深度学习模型的压缩方法和装置，以至少解决相关技术中对深度学习模型进行压缩后得到的模型复杂度较高的技术问题。

根据本申请实施例的一个方面，提供了一种深度学习模型的压缩方法，包括：

获取待压缩的初始深度学习模型的每一层网络对应的初始压缩信息，其中，所述初始深度学习模型包括一层或者多层多支路网络，和，一层或者多层单支路网络，所述初始压缩信息用于指示所述每一层网络中的保留通道和剪除通道；

根据所述初始压缩信息确定所述初始深度学习模型对应的目标压缩信息，其中，所述目标压缩信息包括每个多支路网络对应的第一压缩信息和每个单支路网络对应的第二压缩信息，所述第一压缩信息是将多支路网络的每个支路对应的初始压缩信息融合得到的，所述第一压缩信息中所包括的通道数与多支路网络的每个支路的通道数一致，所述第二压缩信息是单支路网络对应的初始压缩信息；

根据所述目标压缩信息对所述初始深度学习模型进行压缩，得到目标深度学习模型。

可选地，获取待压缩的初始深度学习模型的每一层网络对应的初始压缩信息包括：

确定所述每一层网络的通道索引，其中，所述通道索引包括所述保留通道的第一索引和所述剪除通道的第二索引；

使用所述通道索引构建所述每一层网络中每个支路对应的初始掩膜向量得到所述初始压缩信息，其中，所述初始掩膜向量用于按照所述每一层网络的通道顺序记录所述保留通道和所述剪除通道，所述初始掩膜向量中所述第一索引对应的位置记录为第一标识，所述初始掩膜向量中所述第二索引对应的位置记录为第二标识。

可选地，根据所述初始压缩信息确定所述初始深度学习模型对应的目标压缩信息包括：

在所述每一层网络为多支路网络的情况下，计算所述多支路网络中每个支路对应的初始掩膜向量之间的并集，得到所述多支路网络对应的目标掩膜向量作为所述第一压缩信息；

在所述每一层网络为单支路网络的情况下，将所述单支路网络对应的初始掩膜向量确定为所述单支路网络对应的目标掩膜向量作为所述第二压缩信息。

可选地，计算所述多支路网络中每个支路对应的掩膜向量之间的并集，得到所述多支路网络对应的第一压缩信息包括：