[发明专利]神经网络计算装置、神经网络计算方法及相关产品

权利要求书

1.一种神经网络计算装置，所述装置用于执行浮点数据类型的人工神经网络训练运算；所述人工神经网络训练运算中包括第i层的神经网络训练运算，i为正整数；所述计算装置包括：控制器单元、运算单元和转换单元，其中，控制器单元与运算单元以及转换单元连接；所述第i层训练运算中包括第i层正向运算和第i层反向运算；

所述控制器单元，用于获取第i层的输入神经元数据、第i层权值数据、第i层计算指令；

所述控制器单元，还用于解析该第i层计算指令得到多个运算指令，将所述第i层输入神经元数据、所述第i层权值数据发送给所述转换单元，将所述多个运算指令发送给所述运算单元；

所述转换单元，用于将该第i层输入神经元数据以及第i层权值数据中的全部或部分通过预设转换参数执行浮点型数据转化为定点型数据，得到全部定点数据或混合数据，将全部定点数据或混合数据发送给所述运算单元，所述混合数据包括：部分定点数据以及部分浮点数据；

所述运算单元，用于依据多个运算指令对全部定点数据执行定点运算或对混合数据执行混合运算得到第i层的输出结果；所述混合运算包括：对部分定点数据执行定点运算以及对部分浮点数据执行浮点运算；

其中，所述预设转换参数包括定点数的小数点位置或者缩放因子，在所述通过预设转换参数执行浮点型数据转化为定点型数据方面，所述转换单元具体用于：

基于所述预设转换参数，采用如下公式将浮点型数据转化为定点型数据：

当转换参数仅包括小数点位置，则计算公式为：

浮点型数据＝定点型数据×2＾position；

当所述转换参数仅包括缩放因子，则计算公式为：

浮点型数据＝定点型数据×scale；

当所述转换参数包括小数点位置和缩放因子，则计算公式为：

浮点型数据＝(定点型数据×2＾position)/scale；

其中，position表示定点型数据的小数点位置，scale表示缩放因子。

2.根据权利要求1所述的计算装置，其特征在于，

所述控制器单元，还用于获取第i层的输入神经元数据、第i层权值数据、第i层输入神经元梯度以及第i层反向计算指令；

所述控制器单元，还用于解析该第i层计算指令得到多个反向运算指令，将第i层输入神经元数据、第i层权值数据以及第i层输入神经元梯度发送给转换单元，将该多个运算指令发送给运算单元；

所述转换单元，还用于将该第i层输入神经元数据、第i层权值数据以及第i层输入神经元梯度中的全部或部分执行浮点类型与定点类型转换得到全部定点数据或混合数据，将全部定点数据或混合数据发送给运算单元，该混合数据包括：部分定点数据以及部分浮点数据；

所述运算单元，还用于依据多个正向运算指令对全部定点数据执行定点运算或对混合数据执行混合运算得到第i层的权值梯度以及第i层输出结果梯度；采用第i层的权值梯度与第i层权值进行更新。

3.根据权利要求1所述的装置，其特征在于，

所述转换单元，具体用于将第i层输入神经元数据的部分转换成部分定点输入神经元数据以及将第i层权值数据的部分转换成部分定点权值数据；将部分定点输入神经元数据以及部分定点权值数据发送给运算单元，将部分输入神经元数据和部分权值数据发送给运算单元；

所述运算单元，具体用于将部分定点输入神经元数据以及部分定点权值数据执行定点数据运算得到部分定点正向输出结果，将部分定点正向输出结果发送给转换单元，

所述转换单元，具体用于将该部分定点正向输出结果执行定点与浮点转换得到第一部分浮点正向输出结果，将第一部分浮点正向输出结果发送给运算单元；

所述运算单元，具体用于将部分输入神经元数据和部分权值数据执行运算得到第二部分浮点正向运算结果，将第一部分浮点正向运算结果和第二部分浮点正向运算结果结合起来得到第i层正向输出结果。