[发明专利]一种用于执行卷积神经网络正向运算的装置和方法

权利要求书

1.一种用于执行卷积神经网络正向运算的装置，所述卷积神经网络包括：输入神经元数据、卷积核、偏置数据、激活函数，和输出神经元数据；所述装置包括控制器单元、互连模块、主运算模块、以及多个从运算模块，其中：

控制器单元读取指令，将指令译成控制其他模块行为的控制信号，所述其他模块包括主运算模块和所述多个从运算模块，其中，主运算模块包括第一存储单元、第一运算单元、第一数据依赖关系判定单元和第一存储单元，其中：第一存储单元用于缓存主运算模块在计算过程中用到的输入神经元数据和输出神经元数据；第一运算单元完成主运算模块的各种运算功能；数据依赖关系判定单元是第一运算单元读写第一存储单元的端口，保证对第一存储单元的数据读写不存在一致性冲突，并且负责从第一存储单元读取输入的神经元向量，并通过互连模块发送给从运算模块；以及来自互连模块的中间结果向量被发送到第一运算单元；每个从运算模块包括第二运算单元、第二数据依赖关系判定单元、第二存储单元和第三存储单元，其中：第二运算单元接收控制器单元发出的控制信号并进行算数逻辑运算；第二数据依赖关系判定单元负责计算过程中对第二存储单元和第三存储单元的读写操作，保证对第二存储单元和第三存储单元的读写不存在一致性冲突；第二存储单元缓存输入神经元数据以及该从运算模块计算得到的输出标量；以及第三存储单元缓存该从运算模块在计算过程中需要的卷积核；

从运算模块用于接收输入神经元数据和卷积核，并进行输入神经元数据和卷积核的卷积运算，得到输出标量，其中，多个从运算模块利用相同的输入神经元数据和各自的卷积核，并行地计算出各自的输出标量；

互连模块用于所述主运算模块和所述从运算模块之间的数据传输，在神经网络卷积层正向运算开始之前，主运算模块通过互连模块将输入神经元数据输送到每一个从运算模块，在从运算模块的计算过程结束后，互连模块逐级将各从运算模块的输出标量拼成中间向量，输送回主运算模块；

主运算模块将所有输入神经元数据的中间向量拼接成中间结果，并对所述中间结果执行后续运算。

2.根据权利要求1所述的装置，其中所述装置还包括：

指令存储单元，通过数据访问单元读入指令并存储读入的指令；

数据访问单元，执行外部地址空间与所述装置之间的数据或指令读写操作。

3.根据权利要求2所述的装置，其中所述指令包括至少1个操作码和至少1个操作域，其中，操作码用于指示该指令的功能；操作域用于指示该指令的数据信息，所述指令包括卷积神经网络COMPUTE指令。

4.根据权利要求3所述的装置，其中卷积神经网络COMPUTE指令包括以下至少一种：卷积神经网络sigmoid指令，根据该指令，所述装置分别从存储单元的指定地址取出指定大小的输入神经元数据和卷积核，使用所述多个从运算单元做卷积操作得到输出结果，然后将输出结果通过互连模块发送给主运算模块做sigmoid激活；卷积神经网络TanH指令，根据该指令，装置分别从存储单元的指定地址取出指定大小的输入神经元数据和卷积核，在卷积运算部件中做卷积操作，然后将输出结果做TanH激活；卷积神经网络ReLU指令，根据该指令，装置分别从存储单元的指定地址取出指定大小的输入神经元数据和卷积核，在卷积运算部件中做卷积操作，然后将输出结果做ReLU激活；卷积神经网络group指令，根据该指令，装置分别从存储单元的指定地址取出指定大小的输入神经元数据和卷积核，划分group之后，在卷积运算部件中做卷积操作，然后将输出结果做激活；以及用于进行非线性激活和线性激活操作的运算指令。