[发明专利]用于执行人工神经网络正向运算的装置和方法

权利要求书

1.一种用于执行人工神经网络正向运算的装置，其特征在于，所述装置包括：

浮点数据转换单元，用于根据指数位偏移量offset及指数位的长度EL来实现长位数浮点数据类型向短位数浮点数据类型的转换；其中，所述神经网络中同一层、同一类型的数据均对应一组所述指数位偏移量offset及指数位的长度EL；

浮点数据运算模块，用于在所述浮点数据转换单元将所有所述人工神经网络正向运算中所需的输入、权值和/或偏置数据均采用短位数浮点数据类型表示之后，对所述短位数浮点数据进行人工神经网络正向运算；所述装置还包括：

浮点数据统计模块，用于对所述人工神经网络正向运算所需的各个类型的数据进行统计分析，得到所述指数位偏移量offset及指数位的长度EL；所述浮点数据统计模块包括：

数据提取单元，用于提取基于长位数浮点数据的正向运算中各不同类型的数据；

统计单元，用于统计同一类型数据的数据范围及各数据段的数据分布情况；

分析单元，用于根据所述统计单元统计的结果，得出用短位数浮点数据表示各个类型数据时设定的指数位长度EL及指数位偏移offset。

2.如权利要求1所述的用于执行人工神经网络正向运算的装置，其特征在于，所述用于执行人工神经网络正向运算的装置还包括：

舍入单元，用于在运算结束后，对超出短位数浮点精度范围的数据进行舍入操作。

3.如权利要求2所述的用于执行人工神经网络正向运算的装置，其特征在于，所述舍入单元为随机舍入单元、四舍五入单元、向上舍入单元、向下舍入单元和截断舍入单元中的任一种；

其中，所述随机舍入单元执行如下操作：

其中，y表示随机舍入后的短位数浮点数据，x表示随机舍入前的长位数浮点数据，ε为当前短位数浮点数据类型所能表示的最小正整数，即2^{offset-(X-1-EL)}，X表示浮点数据的位数；表示对所述x直接截得短位数浮点数据所得的数，w.p.表示概率，即随机舍入获得的数据y为的概率为为的概率为

所述四舍五入单元执行如下操作：

其中，y表示四舍五入后的短位数浮点数据，x表示四舍五入前的长位数浮点数据，ε为当前短位数浮点数据类型所能表示的最小正整数，即2^{offset-(X-1-EL)}，X表示浮点数据的位数；为ε的整数倍，其值为小于或等于x的最大数；

所述向上舍入单元执行如下操作：

其中，y表示向上舍入后的短位数浮点数据，x表示向上舍入前的长位数浮点数据，为ε的整数倍，其值为大于或等于x的最小数，ε为当前短位数浮点数据类型所能表示的最小正整数，即2^{offset-(X-1-EL)}；X表示浮点数据的位数；

所述向下舍入单元执行如下操作：

其中，y表示向下舍入后的短位数浮点数据，x表示向下舍入前的长位数浮点数据，为ε的整数倍，其值为小于或等于x的最大数，ε为当前短位数浮点数据类型所能表示的最小正整数，即2^{offset-(X-1-EL)}；X表示浮点数据的位数；

所述截断舍入单元执行如下操作：

y＝[x]；

其中，y表示截断舍入后的短位数浮点数据，x表示截断舍入前的长位数浮点数据，[x]表示对原数据x直接截得短位数浮点数据所得的数。

4.如权利要求3所述的用于执行人工神经网络正向运算的装置，其特征在于，所述浮点数据转换单元先通过所述舍入单元对待处理的数据进行舍入操作，再根据所述浮点数据统计模块得到的指数位偏移量offset及指数位的长度EL来实现长位数浮点数据类型向短位数浮点数据类型的转换。

5.如权利要求2或3所述的用于执行人工神经网络正向运算的装置，其特征在于，所述装置还包括：

运算缓存单元，用于采用长位数浮点数据类型存储正向运算中加法运算和乘法运算产生的中间运算结果。