[发明专利]一种用于执行神经网络运算的装置及方法

权利要求书

1.一种用于执行神经网络运算的装置，其特征在于，包括片上互联单元和与该片上互联单元通信连接的多个神经网络处理模块，其中：

所述神经网络处理模块能够通过所述片上互联单元从其它神经网络处理模块中读写数据；

所述神经网络处理模块，用于执行神经网络运算，所述神经网络处理模块包括：寄存器单元、互联模块、运算单元、控制单元、数据访问单元；其中，

寄存器单元，用于存储运算指令、数据块在存储介质的地址、运算指令对应的计算拓扑结构，该计算拓扑结构为至少二种计算器组成的计算拓扑结构；

控制单元，用于从寄存器单元内提取运算指令，该运算指令对应的操作域以及该运算指令对应的计算拓扑结构，将该运算指令译码成执行指令，该执行指令用于控制运算单元执行运算操作，将该操作域传输至数据访问单元；

数据访问单元，用于提取该操作域对应的数据块，并将该数据块传输至互联模块；

互联模块，用于接收数据块，将该数据块发送至运算单元；

运算单元，用于该执行指令调用运算单元的计算器对该数据块执行运算操作得到运算结果；

所述运算单元包括：一个主运算单元和多个从运算单元，所述互联模块连接所述主运算单元和多个从运算单元；所述互联模块为：树状结构、环状结构、网格状结构、分级互连或总线结构；

所述装置还包括：外部存储模块；所述外部存储模块与所述片上互联单元通信连接，所述神经网络处理模块通过所述片上互联单元从所述外部存储模块中读写数据。

2.根据权利要求1所述的用于执行神经网络运算的装置，其特征在于，

所述外部存储模块为高速存储单元。

3.根据权利要求1所述的用于执行神经网络运算的装置，其特征在于，

所述运算指令为卷积计算指令，所述卷积计算指令包括：卷积神经网络sigmoid指令，根据该指令，装置分别从存储器的指定地址取出指定大小的输入数据和卷积核，在卷积运算部件中做卷积操作，然后将输出结果做sigmoid激活；

卷积神经网络TanH指令，根据该指令，装置分别从存储器的指定地址取出指定大小的输入数据和卷积核，在卷积运算部件中做卷积操作，然后将输出结果做TanH激活；

卷积神经网络ReLU指令，根据该指令，装置分别从存储器的指定地址取出指定大小的输入数据和卷积核，在卷积运算部件中做卷积操作，然后将输出结果做ReLU激活；以及

卷积神经网络group指令，根据该指令，装置分别从存储器的指定地址取出指定大小的输入数据和卷积核，划分group之后，在卷积运算部件中做卷积操作，然后将输出结果做激活。

4.根据权利要求3所述的用于执行神经网络运算的装置，其特征在于，所述运算指令还包括：

IO指令实现从外部存储空间读入计算需要的输入数据以及在计算完成后将数据存回至外部空间；

NOP指令负责清空当前装置内部所有控制信号缓存队列中的控制信号，保证NOP指令之前的所有指令全部指令完毕；

JUMP指令负责控制将要从指令存储单元读取的下一条指令地址的跳转，用来实现控制流的跳转；

MOVE指令负责将装置内部地址空间某一地址的数据搬运至装置内部地址空间的另一地址，该过程独立于运算单元，在执行过程中不占用运算单元的资源。

5.根据权利要求1所述的用于执行神经网络运算的装置，其特征在于，

所述控制单元，用于从寄存器单元内提取卷积计算指令、卷积计算指令对应的操作域，控制单元将该操作域传输至数据访问单元；

数据访问单元，用于从存储器内提取该操作域对应的卷积核w和偏置b，将卷积核w和偏置b传输至运算单元；

运算单元，用于通过乘法计算器将卷积核w与输入数据Xi执行乘法运算以后得到第一结果，将第一结果输入到加法运算器执行加法运算得到第二结果，将第二结果和偏置b执行加法运算得到第三结果，将第三结果输到激活运算器执行激活运算得到输出结果S，将输出结果S传输至数据访问单元存储至存储器内。