[发明专利]运算方法、装置及相关产品

权利要求书

1.一种运算方法，其特征在于，应用于处理器，所述处理器包括多个处理单元，所述方法包括：

确定神经网络模型各待执行任务之间的依赖关系，所述各待执行任务为所述神经网络模型进行任务拆分得到的，所述各待执行任务被下发至不同的处理单元运行；

根据所述依赖关系，在所述神经网络模型中添加同步算子，以使修改后的神经网络模型各待执行任务按照所述依赖关系执行。

2.根据权利要求1所述的方法，其特征在于，所述根据所述依赖关系，在所述神经网络模型中添加同步算子，包括：

根据所述依赖关系，在运行在不同的处理单元上的当前任务的网络层和前继任务的网络层之间添加所述同步算子，所述当前任务为所述前继任务执行完毕后执行的任务。

3.根据权利要求1或2所述的方法，其特征在于，所述依赖关系通过各所述待执行任务所需数据的存储地址区间是否具有重叠的区域确定。

4.根据权利要求2或3所述的方法，其特征在于，所述同步算子包括第一算子和第二算子；

所述第一算子，用于表征所述前继任务的运行状态；

所述第二算子，用于根据所述第一算子确定是否运行所述当前任务。

5.一种运算装置，其特征在于，包括：

依赖关系确定模块，用于确定神经网络模型各待执行任务之间的依赖关系，所述各待执行任务为所述神经网络模型进行任务拆分得到的，所述各待执行任务被下发至不同的处理单元运行；

同步算子添加模块，用于根据所述依赖关系，在所述神经网络模型中添加同步算子，以使修改后的神经网络模型各待执行任务按照所述依赖关系执行。

6.一种机器学习运算装置，其特征在于，所述机器学习运算装置包括一个或多个如权利要求5所述的运算装置，用于从其他处理装置中获取待运算输入数据和控制信息，并执行指定的机器学习运算，将执行结果通过I/O接口传递给其他处理装置；

当所述机器学习运算装置包含多个所述运算装置时，所述多个所述运算装置间可以通过特定的结构进行连接并传输数据；

其中，多个所述运算装置通过PCIE总线进行互联并传输数据，以支持更大规模的机器学习的运算；

多个所述运算装置共享同一控制系统或拥有各自的控制系统；

多个所述运算装置共享内存或者拥有各自的内存；

多个所述运算装置的互联方式是任意互联拓扑。

7.一种组合处理装置，其特征在于，所述组合处理装置包括权利要求6所述的机器学习运算装置，通用互联接口和其他处理装置；

所述机器学习运算装置与所述其他处理装置进行交互，共同完成用户指定的计算操作。

8.一种神经网络芯片，其特征在于，所述芯片包括如权利要求6所述的机器学习运算装置，或如权利要求7所述的组合处理装置。

9.一种电子设备，其特征在于，所述电子设备包括如权利要求8所述的神经网络芯片。

10.一种板卡，其特征在于，所述板卡包括：存储器件、接口装置和控制器件以及如权利要求8所述的神经网络芯片；

其中，所述神经网络芯片与所述存储器件、所述控制器件以及所述接口装置分别连接；

所述存储器件，用于存储数据；

所述接口装置，用于实现所述神经网络芯片与外部设备之间的数据传输；

所述控制器件，用于对所述神经网络芯片的状态进行监控。