[发明专利]神经网络装置、操作神经网络装置的方法和应用处理器

权利要求书

1.一种神经网络装置，包括：

浮点运算电路，被配置为执行点积运算和累加运算；和

缓冲器，被配置为存储由浮点运算电路生成的第一累积数据，

其中，浮点运算电路还被配置为通过以下操作执行点积运算和累加运算：

从第一累积数据的阶码值和通过分别将多个浮点数据对的阶码相加而获得的多个阶码加法结果识别最大值；

基于最大值，执行第一累积数据的尾数部分和通过分别将所述多个浮点数据对的尾数相乘而获得的多个尾数乘法结果的对齐移位；和

执行多个对齐的尾数乘法结果与第一累积数据的对齐的尾数部分的求和。

2.根据权利要求1所述的神经网络装置，其中，浮点运算电路还被配置为通过以下操作生成第二累积数据：

并行地执行对从所述求和生成的加法结果数据的第一数量的较高位的第一前导1检测和对加法结果数据的第二数量的较低位的第二前导1检测，所述较高位包括加法结果数据的最高有效位，所述较低位包括加法结果数据的最低有效位；

基于第一前导1检测的结果和第二前导1检测的结果来移位加法结果数据；和

对移位加法结果数据的结果执行归一化和取整。

3.根据权利要求2所述的神经网络装置，其中，第一数量小于第二数量。

4.根据权利要求2所述的神经网络装置，其中，浮点运算电路还被配置为将第二累积数据存储在缓冲器中。

5.根据权利要求1所述的神经网络装置，其中，浮点运算电路还被配置为：接收所述多个浮点数据对和第一累积数据，以执行点积运算和累加运算。

6.根据权利要求1所述的神经网络装置，其中，包括在所述多个浮点数据对中的多条数据具有与第一累积数据不同的类型的格式。

7.根据权利要求1所述的神经网络装置，其中，包括在所述多个浮点数据对中的多条数据具有浮点16类型格式或脑浮点16类型格式。

8.根据权利要求7所述的神经网络装置，其中，第一累积数据具有浮点32类型格式。

9.根据权利要求7所述的神经网络装置，其中，浮点运算电路还被配置为：对所述多条数据之中的第一数据的阶码位字段和所述多条数据之中的第二数据的尾数位字段进行扩展，第一数据具有浮点16类型格式，第二数据具有脑浮点16类型格式。

10.根据权利要求1至权利要求9中的任意一项所述的神经网络装置，其中，浮点运算电路包括：

第一加法器电路，被配置为将所述多个对齐的尾数乘法结果的较高位与第一累积数据的对齐的尾数部分的较高位相加；和

第二加法器电路，被配置为将所述多个对齐的尾数乘法结果的较低位与第一累积数据的对齐的尾数部分的较低位相加。

11.根据权利要求10所述的神经网络装置，其中，第一加法器电路和第二加法器电路中的一个被配置为被包括在所述神经网络装置中的整数乘法器共用，整数乘法器被配置为执行整数乘法运算。

12.根据权利要求10所述的神经网络装置，其中，浮点运算电路还被配置为：

通过将从第一加法器电路输出的第一加法结果数据与从第二加法器电路输出的第二加法结果数据相加并且对第一加法结果数据与第二加法结果数据相加的结果执行归一化和取整，来生成第二累积数据；和

将第二累积数据存储在缓冲器中。

13.根据权利要求1至权利要求9中的任意一项所述的神经网络装置，其中，浮点运算电路包括对齐移位器，对齐移位器被配置为：

沿与所述多个阶码加法结果中的每个与最大值之间的第一差对应的方向按与第一差对应的位数执行所述多个尾数乘法结果中的每个的对齐移位；和

沿与第一累积数据的阶码值与最大值之间的第二差对应的方向按与第二差对应的位数执行第一累积数据的尾数部分的对齐移位。