[发明专利]计算神经网络在处理器上运行时间的方法及装置

权利要求书

1.一种计算神经网络在处理器上运行时间的方法，应用于编译器，其特征在于，所述方法包括：

根据处理器上待编译的神经网络的切割信息，获取所述神经网络中每个网络层的数据读写时间信息和数据处理时间信息，并根据所述每个网络层各自的数据读写时间信息和数据处理时间信息，分别确定所述每个网络层的时间值，所述切割信息用于描述所述神经网络中的多个网络层被划分为M个网络层分组，M≥1，M为整数，每个网络层分组包括至少一个网络层；

将所述神经网络中的各个网络层的时间值相加，得到所述处理器运行所述神经网络的时间值；

对于所述神经网络中任一网络层，与所述网络层对应的数据处理时间信息的获取方式，包括：

根据所述网络层的输入特征图的尺寸和输出特征通道数，确定所述处理器的处理元件PE分组，和每个所述PE分组所需计算的输出特征图个数，每个所述PE分组中包括至少一个PE；

根据所述输出特征图的尺寸和预设的卷积核的尺寸，确定一个所述PE分组计算一个所述输出特征图所需的第七时间信息；

根据所述第七时间信息和一个所述PE分组所需计算的输出特征图个数，计算得到与所述网络层对应的数据处理时间信息。

2.根据权利要求1所述的方法，其特征在于，对于所述M个网络层分组中的任一网络层分组，若所述网络层分组包括N层网络层，N≥2，N为整数；

所述N层网络层中第1层的数据读写时间信息包括与所述第1层对应的第一时间信息、第二时间信息、第三时间信息、第四时间信息以及第五时间信息；

所述N层网络层中第i层的数据读写时间信息包括与所述第i层对应的第三时间信息、第四时间信息和第五时间信息，1iN，i为整数；

所述N层网络层中第N层的数据读写时间信息包括与所述第N层对应的第三时间信息、第四时间信息、第五时间信息和第六时间信息；

其中，第一时间信息用于指示所述处理器中的第一DMA单元将对应的网络层的输入数据从所述处理器的外部存储器传输到所述处理器的片内存储器的时间；第二时间信息用于指示所述处理器中的第二DMA单元将对应的网络层的参数从所述外部存储器传输到所述片内存储器中的时间；第三时间信息用于指示所述处理器中的第三DMA单元将对应的网络层的输入数据从所述片内存储器传输到所述处理器的处理元件PE的缓存器中的时间；第四时间信息用于指示所述处理器中的第四DMA单元将对应的网络层的参数从所述片内存储器传输到所述缓存器中的时间，第五时间信息用于指示所述处理器中的第五DMA单元将对应的网络层的输出数据从所述缓存器传输到所述片内存储器中的时间；第六时间信息用于指示所述处理器中的第六DMA单元将对应的网络层的输出数据从所述片内存传输到所述外部存储器中的时间。

3.根据权利要求2所述的方法，其特征在于，所述第1层的时间值的确定方式，包括：

确定与所述第1层对应的第三时间信息、第四时间信息和数据处理时间信息中的第一最大值；

确定与所述第1层对应的K分之一个第一时间信息和J分之一个第二时间信息中的第二最大值，其中，K表示预设的所述第一DMA单元与所述外部存储器的握手次数，K≥1，K为整数；J表示预设的所述第二DMA单元与所述外部存储器的握手次数，J≥1，J为整数；

将所述第一最大值所述第二最大值和与所述第1层对应的第五时间信息相加，得到所述第1层的时间值。

4.根据权利要求2所述的方法，其特征在于，所述第i层的时间值的确定方式，包括：

将与所述第i层对应的第三时间信息、第四时间信息和数据处理时间信息中的最大值，与第五时间信息相加，得到所述第i层的时间值。

5.根据权利要求2所述的方法，其特征在于，所述第N层的时间值的确定方式，包括：

将与所述第N层对应的第三时间信息、第四时间信息和数据处理时间信息中的最大值，与第五时间信息、L分之一个第六时间信息相加，得到所述第N层的时间值；

其中，L表示预设的所述第六DMA单元与所述外部存储器的握手次数，L≥1，L为整数。