[发明专利]模型量化方法、装置、电子设备和计算机可读存储介质

权利要求书

1.一种模型量化方法，其特征在于，包括：

将图像输入深度学习模型中，获取所述深度学习模型对所述图像的分辨率进行处理所需的时延和功耗；

根据所述时延、所述功耗、所述深度学习模型的原始网络参数和预设的强化学习算法训练所述深度学习模型，得到所述深度学习模型的各网络层的目标量化位宽；

根据各所述网络层的目标量化位宽，对所述目标量化位宽对应的深度学习模型各网络层的权重和激活值进行量化，得到分辨率模型。

2.根据权利要求1所述的方法，其特征在于，所述根据所述时延、所述功耗、所述深度学习模型的原始网络参数和预设的强化学习算法训练所述深度学习模型，得到所述深度学习模型的各网络层的目标量化位宽，包括：

将所述时延、所述功耗和所述原始网络参数输入所述强化学习算法中，得到各所述网络层的初始量化位宽，根据所述初始量化位宽、预设的精度调整策略对所述深度学习模型进行迭代训练，得到所述深度学习模型的各网络层的目标量化位宽；所述精度调整策略用于对所述初始量化位宽的精度进行调整。

3.根据权利要求2所述的方法，其特征在于，所述根据所述初始量化位宽、预设的精度调整策略对所述深度学习模型进行迭代训练，得到所述深度学习模型的各网络层的目标量化位宽，包括：

根据所述精度调整策略对所述初始量化位宽进行调整，得到各所述网络层的调整后的量化位宽，执行迭代操作，直到满足预设的迭代终止条件，得到各所述网络层的目标量化位宽；

其中，所述迭代操作包括：

根据各所述网络层的调整后的量化位宽，对各所述网络层的权重和激活值进行量化，得到中间量化模型，将所述图像输入所述中间量化模型，获取所述中间量化模型处理所述图像所需的中间时延和中间功耗，将所述中间时延、所述中间功耗和所述中间量化模型的各网络层的网络参数输入所述强化学习算法中，得到所述中间量化模型各网络层的量化位宽，根据所述精度调整策略对所述中间量化模型各网络层的量化位宽进行调整，并返回执行所述迭代操作。

4.根据权利要求2或3所述的方法，其特征在于，所述精度调整策略包括：

获取所述深度学习模型各网络层的权重和激活值的标准差；

若所述标准差大于第一量化阈值，则根据预设的调整量，增大各所述网络层的初始量化位宽；

若所述标准差小于第二量化阈值，则根据所述预设的调整量，减小各所述网络层的初始量化位宽。

5.根据权利要求4，其特征在于，所述方法还包括：

获取所述深度学习模型各网络层的权重和激活值的标准差，以及所述深度学习模型各网络层的权重和激活值的均值；

根据所述标准差和所述均值，得到所述第一量化阈值和所述第二量化阈值。

6.根据权利要求3所述的方法，其特征在于，所述根据所述标准差和所述均值，得到所述第一量化阈值和所述第二量化阈值，包括：

根据所述标准差、所述均值和预设的第一映射关系，得到所述第一量化阈值；

根据所述标准差、所述均值和预设的第二映射关系，得到所述第二量化阈值；其中，所述第一量化阈值越大，所述第二量化阈值越小。

7.根据权利要求3所述的方法，其特征在于，所述预设的迭代终止条件包括：执行所述迭代操作的次数达到预设的迭代次数，和/或，训练得到的深度学习模型输出的第一图像的分辨率与所述深度学习模型输出的第二图像的分辨率的比值大于预设阈值。

8.根据权利要求1所述的方法，其特征在于，所述方法还包括：

对所述深度学习模型各网络层的原始网络参数进行量化，得到深度学习模型的参数向量；

对所述参数向量进行归一化，得到归一化后的参数向量；

所述根据所述时延、所述功耗、所述原始网络参数和强化学习算法训练所述深度学习模型，得到所述深度学习模型的各网络层的目标量化位宽，包括：

根据所述时延、所述功耗、所述归一化后的参数向量和强化学习算法训练所述深度学习模型，得到所述深度学习模型的各网络层的目标量化位宽。