[发明专利]神经网络计算方法、装置、设备及计算机可读存储介质

权利要求书

1.一种神经网络计算方法，其特征在于，所述神经网络计算方法包括：

获取神经网络模型中各算子在执行数据运算时所需的高速缓存占用量；

根据每一分支的算子所需的高速缓存占用量的总和确定所述神经网络模型中各分支的第一优先级得分，根据每一所述分支中目标算子所需的高速缓存占用量确定所述神经网络模型中各分支的第二优先级得分，根据每一所述分支的算子所需的最大高速缓存占用量确定所述神经网络模型中各分支的第三优先级得分；

根据所述第一优先级得分，和第二优先级得分，和第三优先级得分确定所述神经网络模型中各分支的优先级；

按照所述优先级依次执行所述神经网络模型中各所述分支的数据运算。

2.如权利要求1所述的神经网络计算方法，其特征在于，所述根据所述第一优先级得分，和第二优先级得分，和第三优先级得分确定所述神经网络模型的各分支的优先级的步骤包括：

获取预设的计算权重矩阵；

根据所述计算权重矩阵及所述第一优先级得分、第二优先级得分以及第三优先级得分确定所述神经网络模型的优先级得分；

根据优先级得分确定所述神经网络模型各分支的优先级。

3.如权利要求2所述的神经网络计算方法，其特征在于，所述根据优先级得分确定所述神经网络模型各分支的优先级的步骤包括：

根据所述优先级得分依次对所述神经网络模型中各所述分支进行排序，其中按照得分由高到低依次排序；

根据排序结果确定所述神经网络模型中各所述分支的优先级，其中，得分高的分支的优先级高于得分低的分支的优先级。

4.如权利要求1所述的神经网络计算方法，其特征在于，所述获取神经网络模型中各算子在执行数据运算时所需的高速缓存占用量的步骤包括：

获取高速缓存的存储大小以及所述算子执行数据运算时的数据量；

根据所述高速缓存的存储大小以及所述数据量确定所述高速缓存占用量。

5.如权利要求1所述的神经网络计算方法，其特征在于，所述按照所述优先级依次执行各分支的数据运算的步骤之后，包括：

基于执行数据运算的运算结果，在输出层执行输出计算得到所述神经网络模型的运算结果。

6.如权利要求1所述的神经网络计算方法，其特征在于，所述方法，还包括：

在高速缓存的数量无法满足当前算子执行数据运算时所需的高速缓存占用量时，使用主存储器缓存数据。

7.一种神经网络计算装置，其特征在于，所述神经网络计算装置包括：

获取模块，用于获取神经网络模型中各算子在执行数据运算时所需的高速缓存占用量；

确定模块，用于根据每一分支的算子所需的高速缓存占用量的总和确定所述神经网络模型中各分支的第一优先级得分，根据每一所述分支中目标算子所需的高速缓存占用量确定所述神经网络模型中各分支的第二优先级得分，根据每一所述分支的算子所需的最大高速缓存占用量确定所述神经网络模型中各分支的第三优先级得分；

根据所述第一优先级得分，和第二优先级得分，和第三优先级得分确定所述神经网络模型中各分支的优先级；

执行模块，用于按照所述优先级依次执行所述神经网络模型中各所述分支的数据运算。

8.一种计算机可读存储介质，其特征在于，所述计算机可读存储介质上存储有神经网络计算程序，所述神经网络计算程序被处理器执行时实现如权利要求1-6中任一项所述的神经网络计算方法的步骤。