[发明专利]一种数据格式调整方法、装置、计算机设备和存储介质

权利要求书

1.一种数据格式调整方法，其特征在于，包括：

获取多个预设的尾数位宽值、多个预设的指数位宽值以及目标神经网络的标准检测精度；

针对所述目标神经网络中至少部分网络层中的每个网络层，基于所述标准检测精度，从所述多个预设的尾数位宽值中选取该网络层中数据的目标尾数位宽值，以及从多个指数位宽值中选取该网络层中数据的目标指数位宽值；

基于至少部分网络层中的每个网络层中数据的目标尾数位宽值和目标指数位宽值，分别确定每个网络层的数据的存储格式。

2.根据权利要求1所述的方法，其特征在于，所述尾数位宽值包括所述目标神经网络中权重对应的第一尾数位宽值；

基于所述标准检测精度，从所述多个预设的尾数位宽值中选取所述网络层中数据的目标尾数位宽值，包括：

将所述网络层中权重的指数位宽值设置为第一预设值，并将所述第一预设值依次与多个所述第一尾数位宽值中的每个第一尾数位宽值进行组合，得到多个第一位宽值组合；

针对每个第一位宽值组合，分别确定所述网络层中的权重以该第一位宽值组合的存储格式进行存储的情况下，所述目标神经网络的第一检测精度；

基于所述标准检测精度和所述第一检测精度，从所述多个第一尾数位宽值中选取所述网络层中权重的目标尾数位宽值。

3.根据权利要求2所述的方法，其特征在于，所述基于所述标准数据预测精度和所述第一检测精度，从所述多个第一尾数位宽值中选取所述网络层中权重的目标尾数位宽值，包括：

基于所述标准检测精度，从所述多个第一位宽值组合中，选取第一检测精度大于或等于所述标准检测精度的第一位宽值组合；

将选取的第一位宽值组合中，最小的第一尾数位宽值作为所述网络层中权重的目标尾数位宽值。

4.根据权利要求1至3任一项所述的方法，其特征在于，所述指数位宽值包括所述目标神经网络中权重对应的第一指数位宽值；

基于所述标准检测精度，从多个指数位宽值中选取所述网络层中数据的目标指数位宽值，包括：

将所述网络层的目标尾数位宽值依次与多个所述第一指数位宽值中的每个第一指数位宽值进行组合，得到多个第二位宽值组合；

针对每个第二位宽值组合，分别确定所述网络层中的权重以该第二位宽值组合的存储格式进行存储的情况下，所述目标神经网络的第二检测精度；

基于所述标准检测精度和所述第二检测精度，从所述多个第一指数位宽值中选取所述网络层中权重的目标指数位宽值。

5.根据权利要求4所述的方法，其特征在于，所述基于所述标准检测精度和所述第二检测精度，从所述多个第一指数位宽值中选取所述网络层中权重的目标指数位宽值，包括：

基于所述标准检测精度，从所述多个第二位宽值组合中，选取第二检测精度大于或等于所述标准检测精度的第二位宽值组合；

将选取的第二位宽值组合中，最小的第一指数位宽值作为所述网络层中权重的目标指数位宽值。

6.根据权利要求2或3所述的方法，其特征在于，所述第一预设值包括多个预设的指数位宽值中的最大指数位宽值或所述目标神经网络中权重的初始指数位宽值。

7.根据权利要求1至6任一项所述的方法，其特征在于，所述尾数位宽值包括所述目标神经网络中特征图对应的第二尾数位宽值；

基于所述标准检测精度，从所述多个预设的尾数位宽值中选取所述网络层中数据的目标尾数位宽值，包括：

将所述网络层中特征图的指数位宽值设置为第二预设值，并将所述第二预设值依次与多个所述第二尾数位宽值中的每个第二尾数位宽值进行组合，得到多个第三位宽值组合；

针对每个第三位宽值组合，分别确定所述网络层中的特征图以该第三位宽值组合的存储格式进行存储的情况下，所述目标神经网络的第三检测精度；

基于所述标准检测精度和所述第三检测精度，从所述多个第二尾数位宽值中选取所述网络层中特征图的目标尾数位宽值。