[发明专利]神经网络模型的运行方法、可读介质和电子设备

权利要求书

1.一种神经网络模型的运行方法，应用于电子设备，其特征在于，所述电子设备的处理器包括多个内核；并且

所述方法包括：

在运行所述神经网络模型的过程中，检测到所述处理器存在N个空闲内核；

对于所述神经网络模型中当前未被运行的M个计算节点，按照分配优先级从高到低的顺序，选择出L个未被运行的计算节点分配给所述N个空闲内核中的L个空闲内核，其中，N、M、L为正整数，并且L≤N。

2.根据权利要求1所述的方法，其特征在于，还包括：

根据所述神经网络模型各计算节点的运行顺序，确定各所述计算节点的分配优先级。

3.根据权利要求2所述的方法，其特征在于，所述根据所述神经网络模型各计算节点的运行顺序，确定各所述计算节点的分配优先级，包括：

在待分配优先级的待分配计算节点未连接输入计算节点的情况下，确定所述待分配计算节点的优先级为第1级；

在待分配计算节点连接至少一个输入计算节点、并且所连接的至少一个输入计算节点所具有的最高分配优先级为第j级的情况下，确定待分配计算节点的优先级为第j+1级，其中，第j级所表示的优先级高于所述第j+1级；

其中一计算节点的输入计算节点是指输出结果为该计算节点的输入数据的计算节点。

4.根据权利要求3所述的方法，其特征在于，在MN的情况下，L＝N；所述未被运行的计算节点中的所具有的最高分配优先级为第k级，所述第k级分配优级包括P个未被运行的计算节点；并且

所述按照分配优先级从高到低的顺序，选择出L个未被运行的计算节点分配给所述N个空闲内核中的L个空闲内核，包括：

在PL的情况下，将所述P个未被运行的计算节点分配给所述L个空闲内核中的P个空闲内核，并且

按照分配优先级从高到低的顺序从分配优先级低于第k级的计算节点中选取L-P个计算节点分配给未分配计算节点的L-P个空闲内核；

在P≥L的情况下，从所述P个未被运行的计算节点中选取的L个计算节点分配给所述L个空闲内核。

5.根据权利要求3所述的方法，其特征在于，在M≤N的情况下，L＝M；并且

所述按照分配优先级从高到低的顺序，选择出L个未被运行的计算节点分配给所述N个空闲内核中的L个空闲内核，包括：

将所述未被运行的M个计算节点分配给所述N个空闲内核中的M个空闲内核。

6.根据权利要求1至5中任一项所述的方法，其特征在于，在所述处理器的内核未分配所述神经网络模型的计算节点或所述处理器的内核的空闲率大于预设值的情况下，确定所述处理器的内核为空闲内核。

7.根据权利要求6所述的方法，其特征在于，所述L个未被运行的计算节点包括第一计算节点，并且所述第一计算节点被分配给所述L个空闲内核中的第一内核；

所述方法还包括：

在所述第一计算节点不存在输入计算节点或所述第一计算节点的输入计算节点已完成计算的情况下，在所述第一内核中启动所述第一计算节点对应的计算线程；

在所述第一计算节点的输入计算节点未完成计算的情况下，将所述第一计算节点对应的计算线程设置为休眠。

8.根据权利要求7所述的方法，其特征在于，还包括：

在将所述第一计算节点对应的计算线程设置为休眠的情况下，将所述第一内核标记为空闲内核。

9.根据权利要求8所述的方法，其特征在于，还包括：

在检测到所述第一计算节点的输入计算节点已经完成计算，并且所述第一内核处于非空闲状态的情况下，取消所述第一计算节点与所述第一内核的分配关系，将所述第一计算节点作为待分配计算节点。

10.一种可读介质，其特征在于，所述可读介质中包含有指令，当所述指令被电子设备的处理器执行时使电子设备实现权利要求1至9中任一项所述的神经网络模型的运行方法。

11.一种电子设备，其特征在于，包括：

存储器，用于存储由电子设备的一个或多个处理器执行的指令；

以及包括多个内核的处理器，是所述电子设备的处理器之一，用于运行所述指令以使所述电子设备实现权利要求1至9中任一项所述的神经网络模型的运行方法。