[发明专利]一种离线量化工具的精度调优方法

权利要求书

1.一种离线量化工具的精度调优方法，其特征在于，应用于一深度学习模型，所述深度学习模型包括多个卷积层；

所述精度调优方法包括：

步骤S1，根据所述深度学习模型的网络结构判断所述深度学习模型是否适合预先配置的一第一权重调优方案：

若否，则转向步骤S2；

若是，则根据所述第一权重调优方案对各所述卷积层的权重和偏置进行权重调优，并根据权重调优结果对所述深度学习模型的所述权重和所述偏置进行重新赋值得到一第一调优模型，随后转向步骤S2；

步骤S2，采用预先配置的一第二权重调优方案并根据预先获取的一第一训练数据对所述第一调优模型的各所述卷积层的所述权重进行调优得到所述权重的量化因子集；

步骤S3，将预先获取的一第二训练数据输入所述第一调优模型，并在进行推理之前，根据所述量化因子集计算得到各所述卷积层对应的一权重最大值和一权重最小值，以根据所述权重最大值和所述权重最小值对各所述卷积层的所述权重进行截断，并根据截断得到的所述权重对所述第一调优模型中的所述权重进行重新赋值得到一第二调优模型；

步骤S4，将预先获取的一第三训练数据输入所述第二调优模型，并采用预先配置的一离线量化工具对所述第二调优模型进行模型量化得到量化模型。

2.根据权利要求1所述的精度调优方法，其特征在于，执行所述步骤S4之后，还包括将所述量化模型部署至一端侧设备进行精度测试，并在精度测试结果小于一预设精度时，调整所述第一权重调优方案的使用次数，或调整所述第一训练数据，或调整所述第三训练数据进行精度优化，直至所述精度测试结果不小于所述预设精度。

3.根据权利要求1所述的精度调优方法，其特征在于，所述步骤S1中，在所述深度学习模型中存在至少两个所述卷积层相连接的所述网络结构时，则表示所述深度学习模型适合所述第一权重调优方案。

4.根据权利要求3所述的精度调优方法，其特征在于，采用所述第一权重调优方案对各所述卷积层的权重和偏置进行权重调优时，若所述深度学习模型的所述网络结构中存在卷积分支，则对所述卷积分支内外相连接的所述卷积层的所述权重和所述偏置进行重新赋值，得到所述第一调优模型；

若所述深度学习模型的所述网络结构中不存在所述卷积分支，则对连接的所述卷积层的所述权重和所述偏置进行重新赋值，得到所述第一调优模型。

5.根据权利要求1所述的精度调优方法，其特征在于，所述步骤S2包括：

步骤S21，根据所述第二权重调优方案将所述第一训练数据输入所述第一调优模型中的各所述卷积层；

步骤S22，各所述卷积层根据所述第一训练数据处理得到一第一处理数据；

步骤S23，根据各所述第一处理数据对所述第一调优模型的各所述卷积层的所述权重进行调优得到所述权重的量化因子，并根据多个所述量化因子形成所述量化因子集。

6.根据权利要求5所述的精度调优方法，其特征在于，所述步骤S3包括：

步骤S31，根据所述量化因子集中所述量化因子的最大值处理得到各所述卷积层中对应的所述权重最大值，以及根据所述量化因子的的最小值处理得到各所述卷积层中对应的所述权重最小值；

步骤S32，根据所述权重最大值和所述权重最小值对各所述卷积层的所述权重进行截断，得到截断后的所述权重；

步骤S33，根据截断得到的所述权重对所述第一调优模型中的所述权重进行重新赋值，得到所述第二调优模型。

7.根据权利要求6所述的精度调优方法，其特征在于，采用下述公式实现对各所述卷积层中的所述权重进行截断：

其中，f(x)用于表示截断后的所述权重；

W用于表示每个所述卷积层中的所述权重；

Min用于表示所述权重最小值；

Max用于表示所述权重最大值。