[发明专利]用于执行人工神经网络正向运算的装置和方法

权利要求书

1.一种用于执行人工神经网络正向运算的装置，包括H树模块、主运算模块、多个从运算模块、以及幂次转换模块；其中：

H树模块，用于在每层神经网络正向运算开始计算的阶段，主运算模块通过H树模块向所有的从运算模块传输本层的输入神经元向量，在从计算模块的计算过程完成后，H树模块逐级将各从计算模块的输出神经元值拼成中间结果向量；

主运算模块，用于利用所述中间结果向量完成后续计算；所述主运算模块包括：第一运算单元，用于接收来自H树模块的中间结果向量，完成主运算模块的各种运算功能；该第一运算单元包括：向量加法单元及激活单元；其中，向量加法单元用于实现人工神经网络正向运算中的加偏置操作，所述向量加法单元的输入为从外部地址空间读取出来的偏置向量，以及通过所述H树模块从所述从运算模块传送回来的中间结果，输出为偏置向量与中间结果相加后的偏置结果；激活单元用于实现人工神经网络激活函数导函数乘法操作，所述激活单元的输入为通过所述H树模块从所述从运算模块传送回来的中间结果，或向量加法单元输出的偏置结果，输出为所述中间结果或偏置结果与激活函数导函数相乘后的输出数据；

多个从运算模块，用于利用相同的输入神经元向量和各自不同的权值向量，并行地计算出各自的输出神经元值；

幂次转换模块，其包括第一幂次转换单元和/或第二幂次转换单元；所述第一幂次转换单元用于选择性的将所述主运算模块和/或从运算模块的输入数据、中间数据或输出数据中的格式数据转换为幂次数据；所述第二幂次转换单元用于选择性的将所述主运算模块和/或从运算模块的输入数据、中间数据或输出数据中的幂次数据转换为格式数据。

2.根据权利要求1所述的装置，其中，所述格式数据为浮点数据和/或定点数据。

3.根据权利要求1所述的装置，其中，所述主运算模块还包括：第一数据依赖关系判断单元和第一存储单元；其中，所述第一存储单元为神经元缓存单元，用于缓存所述主运算模块在计算过程中用到的输入数据和输出数据；

所述第一数据依赖关系判断单元为所述第一运算单元读写所述第一存储单元的端口，用于保证对第一存储单元中数据读写不存在一致性冲突，并且负责从第一存储单元读取输入神经元向量通过H树模块发送给从运算模块。

4.根据权利要求1或3所述的装置，其中，所述幂次转换模块，包括第一幂次转换单元，用于将所述主运算模块的输出数据转换成幂次数据，各所述从运算模块通过H树模块接收经所述第一幂次转换单元传输的幂次数据并进行计算。

5.根据权利要求1所述的装置，其中，每个所述从运算模块包括第二运算单元，用于接收控制器单元发出的微指令并进行算数逻辑运算；所述第二运算单元包括：向量加法单元及累加单元；该累加单元用于实现所述向量加法单元的输出数据的累加；其中，所述幂次转换模块包括：

第一幂次转换单元，用于将向量加法单元的输入数据转换成幂次数据，以及

第二幂次转换单元，用于将向量加法单元的输出数据、即累加单元的输入数据转换成格式数据。

6.根据权利要求1所述的装置，每个所述从运算模块包括第二运算单元，用于接收控制器单元发出的微指令并进行算数逻辑运算；所述第二运算单元包括：向量加法单元及累加单元；该累加单元用于实现所述向量加法单元的输出数据的累加；其中，所述幂次转换模块包括：

一第一幂次转换单元，用于将主运算模块的输出数据转换为幂次数据，并发送至各从运算模块；以及

多个第二幂次转换单元，每个所述第二幂次转换单元用于将一从运算模块的向量加法单元的输出数据转换为格式数据，并发送至该一从运算模块的累加单元。