[发明专利]一种卷积神经网络计算加速方法及装置、设备、介质

权利要求书

1.一种卷积神经网络计算加速方法，其特征在于，包括：

利用第一函数，对原始的输入张量和卷积核进行量化处理，得到定点数形式的输入张量和卷积核；

利用第二函数，计算所述定点数形式的输入张量和卷积核分别的量化偏移，所述第一函数和所述第二函数包含相应的量化缩放系数，以及浮点数转定点数的转换逻辑；

根据所述量化偏移，计算所述定点数形式的输入张量和卷积核的第一卷积结果；

根据所述量化缩放系数和所述第一卷积结果，计算所述原始的输入张量和卷积核的第二卷积结果。

2.如权利要求1所述的方法，其特征在于，所述量化缩放系数包括用于输入张量的第一量化系数，以及用于卷积核的第二量化系数；

所述第一量化系数根据指定的量化值域的最值和所述原始的输入张量的最值计算得到，和/或

所述第二量化系数根据指定的量化值域的最值和所述原始的卷积核的最值计算得到。

3.如权利要求2所述的方法，其特征在于，量化值域的最值根据指定的量化位数计算得到。

4.如权利要求3所述的方法，其特征在于，所述指定的量化位数为指定的N进制数的量化位数w，按照如下公式计算所述量化值域的最值：

Q_low＝-N^w-1；

Q_high＝N^w-1-1；

其中，Q_low表示所述量化值域的最小值，Q_high表示所述量化值域的最大值。

5.如权利要求2所述的方法，其特征在于，所述第一量化系数按照公式计算得到，和/或

所述第二量化系数按照公式计算得到；

其中，S_X表示所述第一量化系数，S_W表示所述第二量化系数，Q_low表示所述量化值域的最小值，Q_high表示所述量化值域的最大值，X_min表示所述原始的输入张量的最小值，X_max表示所述原始的输入张量的最大值，W_min表示所述原始的卷积核的最小值，W_max表示所述原始的卷积核的最大值。

6.如权利要求2所述的方法，其特征在于，在所述量化缩放系数以外，所述第一函数和/或所述第二函数还包含所述量化值域的最小值，以及所进行量化处理的对象的最小值；

其中，所述对象为所述原始的输入张量或者卷积核。

7.如权利要求6所述的方法，其特征在于，所述第一函数表示为：

其中，α表示所述对象，表示量化处理后的α，α_min表示α的最小值，S_α表示用于α的量化缩放系数，Q_low表示所述量化值域的最小值，round表示将浮点数四舍五入为定点数的函数。

8.如权利要求6所述的方法，其特征在于，所述第二函数表示为：

B_α＝round[-S_α·α_min]+Q_low；

其中，B_α表示为进行量化处理后的α计算的量化偏移，α_min表示α的最小值，S_α表示用于α的量化缩放系数，Q_low表示所述量化值域的最小值，round表示将浮点数四舍五入为定点数的函数。