[发明专利]定点位数的确认方法、存储介质和装置

权利要求书

1.一种定点位数的确定方法，其特征在于，所述方法应用于定点化深度学习算法中，所述定点化深度学习算法包括N个卷积层，所述方法用于为卷积层n的卷积层参数确定定点化处理的预设进制位数FP_n，n＝1,2…N，包括：

步骤11：设置FP_n为初始值；

步骤12：按照当前FP_n，将卷积层参数进行定点化处理，以构建当前定点化深度学习算法；卷积层参数至少包括输入矩阵数据、输出矩阵数据、卷积层权值、偏差中的任一参数；

将L个样本数据对中的样本输入值逐个输入所述当前定点化深度学习算法，其中，一样本数据对包括样本输入值X_l、以及所述X_l的标准输出Y_l，记录所述当前定点化深度学习算法的输出Y’_l，l＝1,2…L，；

步骤13：通过比较Y_l与Y’_l，判断所述Y’_l是否符合预设要求，如果是，则记录当前FP_n为定点化深度学习算法的定点位数最终值，结束本流程，否则执行步骤14；

步骤14：将L个样本数据对中的样本输入值逐个输入未定点化深度学习算法，记录数据集A_n＝{S_ni|l＝1,2…L,i≥1}，其中，所述S_ni为任一卷积层参数，n＝1,2…N；

步骤15：计算N个卷积层每一层的离散化指数D_n，所述D_n用于指示数据集A_n的离散程度，取前预设个数最大D_n所对应的卷积层为短板层；

步骤16：调整所述短板层的FP_n数值，执行步骤17；

步骤17：按照当前FP_n，将卷积层参数进行定点化处理，以构建当前定点化深度学习算法；

将L个样本数据对中的样本输入值逐个输入所述当前定点化深度学习算法，记录所述当前定点化深度学习算法的输出Y’_l，l＝1,2…L；

步骤18：通过比较Y_l与Y’_l，判断所述Y’_l是否符合预设要求，如果是，则记录当前FP_n为定点化深度学习算法的定点位数最终值，结束本流程，否则返回步骤16。

2.根据权利要求1所述的方法，其特征在于，D_n＝log2(max_n)-log2(mena_n)或D_n＝log2(max_n)-log2(median_n)，

其中，max_n＝max(A_n)，mean_n＝mean(A_n)，median_n＝median(A_n)，n＝1,2…N。

3.根据权利要求1所述的方法，其特征在于，4≤初始值≤16。

4.根据权利要求1所述的方法，其特征在于，1≤预设个数≤8。

5.一种非瞬时计算机可读存储介质，所述非瞬时计算机可读存储介质存储指令，其特征在于，所述指令在由处理器执行时使得所述处理器执行如权利要求1至4中任一所述的定点位数的确认方法中的步骤。

6.一种定点位数的确认装置，其特征在于，包括处理器和如权利要求5所述的非瞬时计算机可读存储介质。