[发明专利]深度学习网络加速方法、装置、设备及存储介质

权利要求书

1.一种深度学习网络加速方法，其特征在于，包括：

获取已存储的训练集；其中，所述训练集中包括多个训练数据；

根据所述训练集对待训练基础模型进行训练，得到基础模型，并得到与所述基础模型对应的模型参数集；

获取已存储的校验集，通过所述校验集对所述基础模型进行模型校验，若所述基础模型通过模型校验，保存所述基础模型及对应的所述模型参数集；

获取已存储的测试集，将所述测试集输入至所述基础模型进行运算直至得到测试结果，并得到CPU测试参数集；

若确定所述CPU测试参数集中的测试总耗时超出预设的测试时长阈值，将所述基础模型对应的模型参数集及模型结构根据预设的模型调整策略进行调整，得到调整后基础模型，以调整后基础模型更新作为待训练基础模型，返回执行所述根据所述训练集对待训练基础模型进行模型训练，得到基础模型，并得到与所述基础模型对应的模型参数集的步骤；以及

若确定所述CPU测试参数集中的测试总耗时未超出预设的测试时长阈值，将所述基础模型发送至目的端进行部署。

2.根据权利要求1所述的深度学习网络加速方法，其特征在于，所述根据所述训练集对待训练基础模型进行训练，得到基础模型，并得到与所述基础模型对应的模型参数集，包括：

根据所述训练集对待训练神经网络模型进行训练得到神经网络，将神经网络中的分类器进行移除得到基础模型。

3.根据权利要求1所述的深度学习网络加速方法，其特征在于，所述获取已存储的校验集，通过所述校验集对所述基础模型进行模型校验，若所述基础模型通过模型校验，保存所述基础模型及对应的所述模型参数集，包括：

获取所述基础模型对应的神经网络；

将所述校验集中每一校验数据的输入数据部分输入至所述神经网络进行运算，得到与每一校验数据对应的预测输出结果；

将每一校验数据的输入数据部分与对应校验数据的预测输出结果进行比较，统计获取校验数据中具有相同输入数据部分和预测输出结果的目标校验数据，组成目标校验数据集；

获取目标校验数据集中目标校验数据对应的第一校验数据总条数，并获取所述校验集中校验数据对应的第二校验数据总条数，由所述第一校验数据总条数除以所述第二校验数据总条数得到验证通过率；

若确定所述验证通过率超出预设的正确率阈值，将所述基础模型增加验证通过的标识。

4.根据权利要求1所述的深度学习网络加速方法，其特征在于，所述模型调整策略为参数修剪和共享优化策略；所述将所述基础模型对应的模型参数集及模型结构根据预设的模型调整策略进行调整，得到调整后基础模型，包括：

将所述基础模型对应的模型结构中神经元贡献值为0的因子删除，得到调整后基础模型。

5.根据权利要求1所述的深度学习网络加速方法，其特征在于，所述模型调整策略为低秩因子分解优化策略；所述将所述基础模型对应的模型参数集及模型结构根据预设的模型调整策略进行调整，得到调整后基础模型，包括：

将所述基础模型对应的模型结构中卷积层中K*K的卷积核由2个K*1的卷积核进行替换，得到调整后基础模型。

6.根据权利要求1所述的深度学习网络加速方法，其特征在于，所述模型调整策略为转移/紧凑卷积滤波器策略；所述将所述基础模型对应的模型参数集及模型结构根据预设的模型调整策略进行调整，得到调整后基础模型，包括：

将所述基础模型对应的模型结构中卷积层之后增加卷积滤波器，得到调整后基础模型。

7.根据权利要求1所述的深度学习网络加速方法，其特征在于，所述模型调整策略为知识蒸馏优化策略；所述将所述基础模型对应的模型参数集及模型结构根据预设的模型调整策略进行调整，得到调整后基础模型，包括：

获取所述基础模型作为教师模型；

获取知识蒸馏的温度参数；

将所述教师模型根据所述温度参数高温蒸馏至学生模型；

获取所述学生模型的模型参数集及模型结构，并以学生模型作为调整后基础模型。