[发明专利]一种离线量化工具的精度调优方法

说明书

本发明提供一种离线量化工具的精度调优方法，涉及深度学习领域，包括：步骤S1，判断深度学习模型是否适合第一权重调优方案：若否，转向步骤S2；若是，根据第一权重调优方案对卷积层的权重和偏置进行调优，以重新赋值得到第一调优模型；步骤S2，用第二权重调优方案及第一训练数据对第一调优模型的各卷积层权重调优得到量化因子集；步骤S3，将第二训练数据输入第一调优模型，根据量化因子集计算得到权重最大值和权重最小值，对各卷积层的权重进行截断，并对第一调优模型中的权重赋值得到第二调优模型；步骤S4，用离线量化工具对第二调优模型量化得到量化模型。本技术方案联用多种权值调优方案对网络模型进行量化调优，提升了深度学习模型的精度。

技术领域

本发明涉及深度学习领域，尤其涉及一种离线量化工具的精度调优方法。

背景技术

随着AI技术的不断发展，目前基于深度学习算法的模型已经在端侧部署端进行了大量的应用。为了考虑到受限于端侧设备的成本，功耗，性能等问题，越来越多的研发人员投入到如何在不损失原模型精度的情况下，进行模型的压缩，量化使其能高精度，高性能的在端侧设备运行，更好的符合落地场景的要求。

目前，现有的量化工具只支持一种或者两种量化调优算法来对模型进行精度调优提升，例如KLD，EasyQuant，DFQ以及MinMax等。并且在市场的端侧设备影响下，主要集中于从FP32模型到INT8模型的量化调优。若只使用单一量化算法，当遇到存有离散型权重分布较广的卷积层模型时，量化结果并不理想。

市场上的模型量化工具针对检测网络量化部分支持有限，无法做到普适性。因此，如何对现有的离线量化工具进行优化调优是需要解决的问题。

目前常见的模型量化调优策略一般分为三种：方法一，针对模型的输入输出进行量化产生量化系数；方法二，无需外部数据，针对模型卷积层中的权重与斜偏量进行权重调优；方法三，结合调优数据集，通过前向推理来针对模型的的权重进行调优截断；通过以上三种方法可以对模型进行初步的量化调优。方法一是从训练数据集中抽取少量并合理的图片数据集进行模型前向推理，并通过此策略来统计出每一层的量化转换因子与零点。方法二则是无需外部数据集，通过模型中相邻卷积的权重关系来对权重进行调优。方法三是模型结合前向推理过程中的推理的输入数据与权重关系来进行权重调优。

但是，单独使用上述的方法一、方法二或方法三其中的一种，仅能实现对模型的初步量化调优，而无法保证卷积层模型的精度，量化结果并不十分理想。

发明内容

针对现有技术中存在的问题，本发明提供一种离线量化工具的精度调优方法，应用于一深度学习模型，所述深度学习模型包括多个卷积层；

所述精度调优方法包括：

步骤S1，根据所述深度学习模型的网络结构判断所述深度学习模型是否适合预先配置的一第一权重调优方案：

若否，则转向步骤S2；

若是，则根据所述第一权重调优方案对各所述卷积层的权重和偏置进行权重调优，并根据权重调优结果对所述深度学习模型的所述权重和所述偏置进行重新赋值得到一第一调优模型，随后转向步骤S2；

步骤S2，采用预先配置的一第二权重调优方案并根据预先获取的一第一训练数据对所述第一调优模型的各所述卷积层的所述权重进行调优得到所述权重的量化因子集；

步骤S3，将预先获取的一第二训练数据输入所述第一调优模型，并在进行推理之前，根据所述量化因子集计算得到各所述卷积层对应的一权重最大值和一权重最小值，以根据所述权重最大值和所述权重最小值对各所述卷积层的所述权重进行截断，并根据截断得到的所述权重对所述第一调优模型中的所述权重进行重新赋值得到一第二调优模型；

步骤S4，将预先获取的一第三训练数据输入所述第二调优模型，并采用预先配置的一离线量化工具对所述第二调优模型进行模型量化得到量化模型。