[发明专利]集成电路芯片装置及相关产品

权利要求书

1.一种集成电路芯片装置，所述装置用于执行的神经网络的训练，该神经网络包含n层，所述n取值范围为大于等于2的整数，其特征在于，所述集成电路芯片装置包括：主处理电路以及多个基础处理电路；所述主处理电路包括：数据类型运算电路，所述数据类型运算电路，用于执行浮点类型数据以及定点类型数据之间的转换；

所述集成电路芯片装置，用于接收训练指令，依据该训练指令确定第一层输入数据和第一层权值组数据，对第一层输入数据和第一层权值组数据执行神经网络的n层正向运算得到正向运算的第n输出结果；

所述主处理电路，还用于依据所述第n输出结果得到第n输出结果梯度，依据所述训练指令获取第n层反向运算的第n反向运算，依据第n输出结果梯度、第n层输入数据、第n层权值组数据以及第n反向运算得到第n反向运算复杂度，依据所述第n反向运算复杂度确定第n输出结果梯度、第n层输入数据、第n层权值组数据对应的第n反向数据类型；

所述主处理电路，用于依据第n反向运算的类型将第n输出结果梯度、第n层输入数据、第n层权值组数据划分成广播数据块以及分发数据块，对第n反向数据类型的所述分发数据块进行拆分处理得到多个基本数据块，将所述多个基本数据块分发至多个基础处理电路中的至少一个基础处理电路，将第n反向数据类型的所述广播数据块广播至所述多个基础处理电路；

所述多个基础处理电路，用于将所述广播数据块以及接收到基本数据块以第n反向数据类型执行运算得到运算结果，并将运算结果传输给所述主处理电路；

所述主处理电路，用于对该运算结果进行处理得到第n层权值组梯度和第n层输入数据梯度，应用所述第n层权值组梯度对第n层权值组数据进行更新；所述第n反向数据类型包括：定点类型或浮点类型；

所述集成电路芯片装置，还用于将第n层输入数据梯度作为第n-1层的第n-1输出结果梯度执行n-1层方向运算得到n-1层权值组梯度，应用n-1层权值组梯度更新对应层的权值组数据，所述权值组数据包括；至少二个权值；

所述主处理电路，具体用于如所述第n反向运算的类型为乘法运算，确定所述第n层输入数据以及所述第n层权值组数据均为分发数据块，所述第n输出结果梯度为广播数据块；如第n反向运算的类型为卷积运算，确定所述第n层输入数据以及所述第n层权值组数据均为广播数据块，所述第n输出结果梯度为分发数据块。

2.根据权利要求1所述的集成电路芯片装置，其特征在于，

所述主处理电路，具体用于将第n反向运算复杂度与预设阈值比较，如所述第n反向运算复杂度高于所述预设阈值，确定所述第n反向数据类型为定点类型，如所述第n反向运算复杂度低于或等于所述预设阈值，计算装置确定所述第n反向数据类型为浮点类型。

3.根据权利要求2所述的集成电路芯片装置，其特征在于，

所述主处理电路，具体用于确定所述第n输出结果梯度、第n层输入数据、第n层权值组数据属于的第n+1反向数据类型，如所述第n+1反向数据类型与所述第n反向数据类型不同，通过所述数据类型运算电路将属于第n+1反向数据类型的所述第n输出结果梯度、第n层输入数据、第n层权值组数据转换成属于第n反向数据类型的所述第n输出结果梯度、第n层输入数据、第n层权值组数据。

4.根据权利要求1所述的集成电路芯片装置，其特征在于，

所述主处理电路，用于如所述n层反向运算为卷积运算，卷积输入数据为所述第n层输入数据，卷积核为所述第n输出结果梯度，

第n反向运算复杂度＝α*C1*kW*kH*M*N*W*C2*H；

其中，α为卷积系数，取值范围为大于1；C1、kW、kH、M为卷积核四个维度的值，N、W、C2、H为卷积输入数据四个维度的值；

如所述复杂度大于设定阈值，确定该第n反向数据类型为浮点数据类型，确定该卷积输入数据以及卷积核是否为浮点数据，如该卷积输入数据以及卷积核不为浮点数据，将该卷积输入数据转换成浮点数据，将卷积核转换成浮点数据，然后将卷积输入数据、卷积核以浮点数据类型执行卷积运算。