[发明专利]一种适应于神经网络处理器协同工作的方法和装置

说明书

本发明提供了一种适应于神经网络处理器协同工作的方法和装置，其中，该方法包括：神经网络处理器通过神经网络的第一网络层对第一信道的数据进行处理，得到第一信道的第一处理结果，其中，第一网络层中有多个信道；所述神经网络处理器将所述第一网络层第一信道的第一处理结果即刻提供给外部处理器，以使所述外部处理器根据所述第一网络层第一信道的第一处理结果进行处理，得到第一信道的第二处理结果；所述神经网络处理器获取所述第一信道的第二处理结果，通过所述神经网络的第二网络层对所述第一信号的第二处理结果进行处理，得到第一信道的第三处理结果。通过上述方案避免了因为需要等所有信道数据都处理完成之后再触发下一层进行处理，而导致的处理效率低下的问题，达到了有效提升处理效率的技术效果。

技术领域

本发明涉及人工智能技术领域，特别涉及一种适应于神经网络处理器协同工作的方法和装置。

背景技术

神经网络(Neural Network)，是20世纪80年代以来人工智能领域兴起的研究热点，神经网络是从信息处理角度对人脑神经元网络进行抽象，从而建立起某种简单模型，然后，按照不同的连接方式组成不同的网络。在工程与学术界也常直接简称为神经网络或类神经网络。

神经网络是一种运算模型，由大量的节点(或称神经元)之间相互联接构成。每个节点代表一种特定的输出函数，称为激励函数(activation function)。每两个节点间的连接都代表一个对于通过该连接信号的加权值，称之为权重，这相当于人工神经网络的记忆。网络的输出则依网络的连接方式，权重值和激励函数的不同而不同。然而，网络自身通常都是对自然界某种算法或者函数的逼近，也可能是对一种逻辑策略的表达。

由于神经网络的运算量巨大，NPU(Neural-Network Processing Uint，神经网络处理器或神经网络加速引擎)往往需要采用专用数字逻辑电路来进行加速。神经网络由于计算量巨大，CPU/GPU/DSP等处理器虽然通用，但是由于性能功耗比较低，因此，在inference端级，一般都需要选择专门的神经网络加速器对其进行加速。

神经网络虽然形多变化多样，但是相对而言神经网络的计算是较为规则的，比较适合用粗颗粒度的指令进行ASIC化的加速，例如：卷积、池化与全连接操作等。

然而，在实际使用的过程中，只有卷积、池化与全连接是不够的，有时还需要一些其它的计算，或者是随着算法的演进，会出现一些新的运算类型。在这种情况下，仅依靠有限固定功能的加速器很难覆盖，这事就需要适当的扩展处理能力(例如：将不能支持的运算交给CPU处理)，然而，因为需要与其它的处理资源进行数据交互，就需要考虑交互成本以及数据处理的效率等。

针对上述问题，目前尚未提出有效的解决方案。

发明内容

本发明实施例提供了一种适应于神经网络处理器协同工作的方法和装置，以达到提升处理效率的技术效果。

一方面，提供了一种适应于神经网络处理器协同工作的方法，包括：

神经网络处理器通过神经网络的第一网络层对第一信道的数据进行处理，得到第一信道的第一处理结果，其中，第一网络层中有多个信道；

所述神经网络处理器将所述第一网络层第一信道的第一处理结果即刻提供给外部处理器，以使所述外部处理器根据所述第一网络层第一信道的第一处理结果进行处理，得到第一信道的第二处理结果；

所述神经网络处理器获取所述第一信道的第二处理结果，通过所述神经网络的第二网络层对所述第一信号的第二处理结果进行处理，得到第一信道的第三处理结果。

在一个实施方式中，所述神经网络处理器将所述第一网络层第一信道的第一处理结果即刻提供给外部处理器，包括：

所述第一网络层将所述第一信道的信道标识写入所述神经网络处理器中的第一寄存器；