[发明专利]一种计算装置及方法

权利要求书

1.一种支持batch和多服务请求的计算装置，包括:

分发配置模块，用于分发配置信息；以及

计算模块，包括多个计算单元，用于根据所述配置信息分成多个计算组，以分别计算batch中不同的正向和反向通路，或运行不同的服务的请求；

其中，所述计算模块包括乘法器、加法树、激活函数单元和/或池化单元，所述计算模块选择一个或多个计算单元进行不同的组合，用于实现各种不同功能的运算；

所述配置信息用于配置所述计算模块中的功能和数据连接，从而支持所述计算模块完成batch和多服务请求；

所述功能指计算功能，包括内积操作、外积操作、非线性函数操作和超越函数操作；

所述数据连接指根据所述计算功能，计算模块所需的连接状态。

2.根据权利要求1所述的计算装置，其中，所述计算装置在运行过程中，根据所述配置信息对所述计算模块的分组进行动态调整。

3.根据权利要求1所述的计算装置，其中，在训练过程中，所述计算模块还用于根据所述配置信息形成一个或者多个计算组以完成反向计算梯度及更新权值。

4.根据权利要求1所述的计算装置，其中，所述多个计算单元为一维或多维形式。

5.根据权利要求1所述的计算装置，其中，所述多个计算单元为同样的计算单元，即同构模式；或不同的计算单元，即异构模式。

6.根据权利要求1所述的计算装置，其中，所述计算单元为标量计算单元，用于完成标量乘法、标量加法或标量乘加操作；或向量计算单元，用于完成向量乘法、向量加法或向量内积操作；或混合计算单元，用于完成矩阵乘法加法操作、包含向量内积计算和非线性计算操作、或用于完成卷积计算操作。

7.根据权利要求1所述的计算装置，其中，所述乘法器用于将输入其中的数据相乘得到相乘之后的输出；

所述加法树包括一个或多个加法器，用于进行加法树运算，即将输入其中的数据逐级相加得到输出数据。

8.根据权利要求1所述的计算装置，所述激活函数单元用于通过激活函数运算得到激活输出数据，所述激活函数包括sigmoid、tanh、relu或softmax。

9.根据权利要求1所述的计算装置，所述池化单元用于将输入数据通过池化运算以得到池化操作之后的输出数据，所述池化操作包括：平均值池化、最大值池化、或中值池化。

10.根据权利要求1至9中任一项所述的计算装置，还包括：

内部存储模块，用于存储权值数据、神经元数据及指令；

以及控制模块，用于控制计算模块执行相应的运算，控制分发配置模块分发配置信息，以及控制数据的发送与接收。

11.根据权利要求10所述的计算装置，其中，所述内部存储模块包括：权值缓存单元、输入神经元缓存单元、输出神经元缓存单元以及包括指令缓存单元。

12.根据权利要求11所述的计算装置，其中，所述控制模块根据控制信号对计算模块及分发配置模块进行控制，其控制方式包括直接控制和解析控制，直接控制方式为直接将控制信号输入到被控制模块中，而不需要经过控制模块解析；解析控制方式为控制信号需要在控制模块中完成解析，得到解析后的控制信号再输入到被控制模块中用于配置和控制。