[发明专利]神经网络处理器中的向量计算单元

权利要求书

1.一种用于执行神经网络计算的电路，所述电路包括：

向量计算单元，其中所述向量计算单元包括：

池化电路，所述池化电路被配置为：

从包括在所述向量计算单元中的其他电路接收值组，所述值组是神经网络层的计算输出；

对所述值组执行特定池化函数，所述特定池化函数用于将所述值组中的一个或多个值进行池化；和

基于用于将所述值组中的一个或多个值进行池化的所述特定池化函数，来生成池化值。

2.根据权利要求1所述的电路，其中，所述值组包括归一化值，并且所述池化电路包括聚集电路，所述聚集电路被配置为：

将聚集函数应用于所述归一化值中的一个或多个，以生成所述池化值，所述聚集函数表示用于将所述值组中的一个或多个值进行池化的所述特定池化函数。

3.根据权利要求2所述的电路，其中，所述聚集函数能够操作用于使所述池化电路返回：

所述值组中的所述归一化值的最大值、最小值或平均值；或者

所述值组中的所述归一化值的子集的最大值、最小值或平均值。

4.根据权利要求3所述的电路，其中所述特定池化函数由所述向量计算单元所接收的控制信号来指定。

5.根据权利要求1所述的电路，其中所述池化电路还被配置为：

基于所述特定池化函数来执行M x N的值组的池化，其中M和N中的每个是大于或等于1的相应整数。

6.根据权利要求1所述的电路，其中：

所述向量计算单元包括多个并联池化电路；和

所述多个并联池化电路中的每个池化电路被配置为：在给定的时钟周期上接收来自所述值组的相应元素。

7.根据权利要求1所述的电路，其中所述池化电路还被配置为：

将所述值组存储在所述池化电路中包括的多个寄存器和多个存储器单元中，

其中，所述多个寄存器与所述多个存储器单元串联连接，每个寄存器被配置成存储所述值组中的一个值，并且每个存储器单元被配置成存储所述值组中的多个值。

8.根据权利要求7所述的电路，其中所述池化电路被配置为：在每个时钟周期之后，将所述值组中的给定值移位到所述池化电路的随后的寄存器或存储器单元，以根据所述值组来生成所述池化值。

9.根据权利要求1所述的电路，其中所述值组包括累加值的向量，并且所述池化电路基于由向所述量计算单元接收的控制信号所指定的特定池化函数来生成所述池化值。

10.根据权利要求9所述的电路，其中所述控制信号指定一个或多个参数，所述一个或多个参数被所述池化电路用来将所述值组中的一个或多个值进行池化，至少一个参数包括所述神经网络的特定神经网络层的步长值。

11.一种用于执行神经网络计算的方法，所述方法包括：

由包括在向量计算单元中的池化电路接收用于执行所述神经网络计算的值组；

由所述池化电路对所述值组执行特定池化函数，所述特定池化函数用于将所述值组中的一个或多个值进行池化；

由所述池化电路基于用于将所述值组中的一个或多个值进行池化的所述特定池化函数来生成池化值；和

由所述池化电路将所述池化值提供给所述向量计算单元中包括的其他电路以执行所述神经网络计算。

12.根据权利要求11所述的方法，其中所述值组包括归一化值，并且所述方法进一步包括：

由所述池化电路将聚集函数应用于所述归一化值中的一个或多个，以生成所述池化值，所述聚集函数表示用于将所述值组中的一个或多个值进行池化的所述特定池化函数。