[发明专利]模型自动优化的方法及装置、设备、存储介质

说明书

本申请实施例公开了一种模型自动优化的方法，包括：根据所述模型的目标需求，确定所述模型的优化指标；根据所述模型的优化指标，确定对应的目标约束条件；根据所述模型的模型特征，生成所述模型的剪枝策略；根据所述剪枝策略和所述目标约束条件，对所述模型进行裁剪，得到目标模型，以实现所述模型的自动优化。本申请实施例还同时提供了一种模型自动优化的装置、设备及存储介质。

技术领域

本申请涉及人工智能领域，涉及但不限定于模型自动优化的方法及装置、设备、存储介质。

背景技术

面向大量的已经在云端、高智能设备上应用的深度学习业务模型，模型通道剪枝(Model Channel Pruning)是一种非常有效的模型轻量化或者模型稀疏化方法。现有很多深度神经网络(Deep Neural Networks，DNN)模型预测准确度已经超过人类，然而模型庞大、结构复杂，存在大量冗余信息和结构，降低了模型的预测性能，占用了大量计算存储资源。通过对模型各层中冗余通道的特征分析和卷积核裁剪，可以尝试在保持模型精度的同时快速降低模型网络复杂度，提升模型运行效能。

目前基于通道剪枝的方法存在以下问题：1)考虑指标不全面。比如大部分方法仅考虑模型性能提升和复杂度降低，没有考虑因为剪枝造成的模型质量(准确度)下降；2)剪枝判定标准众多。主要方法比如基于卷积核权重、基于激活函数特性、基于反向梯度等，算法效果和性能各有利弊；3)自动化程度偏低。大部分方法中间需要人工参与决策、调参；4)剪枝计算量庞大。如ThiNet、区分感知通道剪枝(Discrimination-aware channelpruning，DCP)等依赖训练的方法，整个剪枝过程对模型的算力(Flops)要求较高，剪枝效率偏低。

发明内容

有鉴于此，本申请实施例为解决现有技术中存在的至少一个问题而提供一种模型自动优化的方法及装置、设备、存储介质，其中，本申请实施例提供的一种模型自动优化的方法，解决了在基于通道剪枝使模型轻量化的过程中，仅考虑模型的性能提升和复杂度降低，没有考虑因为剪枝造成的模型质量(准确度)过低而不可用的问题。

本申请实施例的技术方案是这样实现的：

第一方面，本申请实施例提供一种模型自动优化的方法，所述方法包括：

根据所述模型的目标需求，确定所述模型的优化指标；

根据所述模型的优化指标，确定对应的目标约束条件；

根据所述模型的模型特征，生成所述模型的剪枝策略；

根据所述剪枝策略和所述目标约束条件，对所述模型进行裁剪，得到目标模型，以实现所述模型的自动优化。

第二方面，本申请实施例提供一种模型自动优化的装置，所述装置包括第一确定模块、第二确定模块、生成模块和裁剪模块，其中：

所述第一确定模块，用于根据所述模型的应用需求，确定所述模型的优化指标；

所述第二确定模块，用于根据所述模型的优化指标，确定对应的目标约束条件；

所述生成模块，用于根据所述模型的模型特征，生成所述模型的剪枝策略；

所述裁剪模块，用于根据所述剪枝策略和所述目标约束条件，对所述模型进行裁剪，得到目标模型，以实现所述模型的自动优化。

第三方面，本申请实施例提供一种模型自动优化的设备，包括存储器和处理器，所述存储器存储有可在处理器上运行的计算机程序，所述处理器执行所述程序时实现上述模型自动优化的方法中的步骤。

第四方面，本申请实施例提供一种计算机可读存储介质，其上存储有计算机程序，该计算机程序被处理器执行时实现上述模型自动优化的方法中的步骤。

本发明实施例提供的技术方案带来的有益效果至少包括：