[发明专利]多径神经网络、资源分配的方法及多径神经网络分析器

权利要求书

1.一种多径神经网络，包括：

通过所述多径神经网络的两个或大于两个路径，第一路径包括一个或多个层，所述第一路径包括通过所述多径神经网络的关键路径，所述关键路径限制所述多径神经网络的吞吐量，所述关键路径的第一层分配有能够执行所述多径神经网络的第一计算资源分配，所述第一计算资源分配将所述多径神经网络的执行时间减少到小于用于所述多径神经网络的第二计算资源分配的基线执行时间，用于所述第一层的所述第一计算资源分配不同于用于所述第一层的所述第二计算资源分配。

2.根据权利要求1所述的多径神经网络，其中在执行所述多径神经网络之前分配用于所述第一层的所述第一计算资源分配。

3.根据权利要求1所述的多径神经网络，其中在所述多径神经网络的执行期间分配用于所述第一层的所述第一计算资源分配。

4.根据权利要求1所述的多径神经网络，其中能够执行所述多径神经网络的计算资源包括多个计算单元核心、存储器大小以及存储器带宽。

5.根据权利要求1所述的多径神经网络，其中所述关键路径包含提供卷积函数的层。

6.一种用以将资源分配到多径神经网络的层的方法，所述方法包括：

基于将能够执行所述多径神经网络的计算资源分配到所述多径神经网络的第一计算资源分配确定用于多径神经网络的基线执行时间，所述多径神经网络包括通过所述多径神经网络的两个或大于两个路径；

迭代地确定通过用于所述两个或大于两个路径的一个或多个第二计算资源分配的所述多径神经网络的所述两个或大于两个路径的执行时间，每一第二计算资源分配不同于所述第一计算资源分配；以及

识别第一路径中的用于第一层的第二计算资源分配，用于所述第一层的所述第二计算资源分配提供用于所述多径神经网络的小于用于所述多径神经网络的总体基线执行时间的总体执行时间。

7.根据权利要求6所述的方法，其中用于所述多径神经网络的所述总体基线执行时间对应于通过所述多径神经网络的限制所述多径神经网络的吞吐量的关键路径的执行时间。

8.根据权利要求6所述的方法，还包括分配所识别的所述第一路径中的用于所述第一层的所述第二计算资源分配，以提供用于所述多径神经网络的小于用于所述多径神经网络的所述总体基线执行时间的所述总体执行时间。

9.根据权利要求8所述的方法，还包括在执行所述多径神经网络之前，分配所识别的所述第一路径中的用于所述第一层的所述第二计算资源分配。

10.根据权利要求8所述的方法，还包括在执行所述多径神经网络期间，分配所识别的所述第一路径中的用于所述第一层的所述第二计算资源分配。

11.根据权利要求6所述的方法，其中识别所述第二计算资源分配还包括从用户接收所述第二计算资源分配的选择。

12.根据权利要求6所述的方法，其中能够执行所述多径神经网络的计算资源包括多个计算单元核心、存储器大小以及存储器带宽。

13.根据权利要求6所述的方法，其中所述两个或大于两个路径中的至少一者包含提供卷积函数的层。