[发明专利]运算装置及方法

权利要求书

1.一种运算装置，其特征在于，所述运算装置包括存储器、数据访问单元、控制器单元、互联模块和运算单元，其中，

所述存储器，用于存储数据块，所述数据块包括n维数据，n为大于等于1的整数；

所述数据访问单元，用于从所述存储器中提取运算指令对应的操作域对应的数据块，并将所述运算指令对应的操作域对应的数据块输至所述互联模块；

所述互联模块，用于被配置成与所述运算单元中的计算器连接，以使得所述运算单元构成第一计算拓扑结构，以及接收所述数据块，将所述数据块发送至所述运算单元，所述互联模块通过硬件电路实现；

所述控制器单元，用于从寄存器单元内提取所述运算指令，将所述运算指令译码成执行指令，该执行指令用于控制所述运算单元执行运算操作，将所述运算指令对应的操作域传输至所述数据访问单元；

所述运算单元包括主运算模块和多个从运算模块，所述多个从运算模块用于将接收输入数据和所述运算指令对应的操作域对应的数据块执行卷积运算得到的中间向量，将所述中间向量通过所述互联模块转发至所述主运算模块；所述主运算模块用于将所有中间向量拼接成中间结果，并对所述中间结果执行非线性函数运算得到指令结果；

所述数据访问单元还包括寄存器模块和直接内存访问DMA控制模块，其中，

所述寄存器模块，用于存储目标数据在源存储器中存储的源地址、所述目标数据在目的存储器中存储的目的地址和每次传输目标数据的数据量，其中，所述目标数据为所述运算装置中待传输的数据；

所述DMA控制模块，用于接收DMA指令，并根据所述DMA指令从寄存器模块或所述DMA指令获取所述目标数据的源地址和目的地址；

所述DMA控制模块，还用于根据所述目标数据的源地址从所述源存储器中获取所述目标数据，并将所述待传输的数据传输至所述目的存储器中所述目标数据的目的地址对应的存储空间；

其中，所述源存储器为所述目标数据的存储空间，所述目的存储器用于存储传输后的目标数据；

其中，所述DMA指令为定长指令，所述DMA控制模块具体用于：

根据所述DMA指令从所述寄存器模块中或者从所述DMA指令中获取所述每次传输目标数据的数据量；

根据所述每次传输目标数据的数据量将所述目标数据传输至所述目的存储器中所述目标数据的目的地址对应的存储空间，其中，所述目标数据的源地址和目的地址还标记所属的存储空间的类型，若所述存储空间是外存储器，则所述目标数据的源地址和目的地址还标记所属的流；若所述存储空间为内存储器，则所述目标数据的源地址和目的地址还标记所属内存储器的子模块，所述流为多组数据交替传送时的分组。

2.根据权利要求1所述的装置，其特征在于，所述主运算模块包括：第一存储单元、第一子运算模块和第一数据依赖关系判定单元；

所述第一存储单元，用于缓存所述主运算模块在计算过程中用到的输入数据和输出数据；

所述第一子运算模块，用于完成所述主运算模块的各种运算功能；

所述第一数据依赖关系判定单元，用于保证对所述第一存储单元的数据的读写不存在一致性冲突，并负责从所述第一存储单元读取输入的数据，并通过所述互联模块将输入的数据发送给所述多个从运算模块；以及接收所述互联模块的发送的中间向量并发送到所述第一子运算模块。

3.根据权利要求1所述的装置，其特征在于，所述从运算模块包括：第二子运算模块、第二数据依赖关系判定单元、第二存储单元和第三存储单元；

所述第二子运算模块，用于完成从所述运算模块的卷积运算中的各种算术逻辑运算；

所述第二数据依赖关系判定单元，用于负责计算过程中对所述第二存储单元和所述第三存储单元的读写操作，并保证对所述第二存储单元和所述第三存储单元的读写不存在一致性冲突；

所述第二存储单元，用于缓存数据块和所述从运算模块计算得到的输出标量；

所述第三存储单元，用于缓存所述从运算模块在计算过程中需要的卷积核数据。

4.根据权利要求2或3所述的装置，其特征在于，第一数据依赖关系判定单元和第二数据依赖关系判定单元通过以下方式保证读写不存在一致性冲突：判断尚未执行的控制信号的数据与正在执行过程中的控制信号的数据之间是否存在依赖关系，如果不存在依赖关系，则确定出数据的读写不存在一致性冲突，如果存在依赖关系，则确定出数据的读写存在一致性冲突。