[发明专利]网络离线模型的处理方法、人工智能处理装置及相关产品

权利要求书

1.一种网络离线模型的处理方法，其特征在于，所述方法包括：

获取网络离线模型中各子网络的运行单元信息，所述运行单元信息包括子网络与运行单元类型之间的对应关系，所述运行单元类型包括通用处理单元类型或人工智能处理单元类型；

根据所述运行单元信息，在构建的所述网络离线模型中定义子网络运行参数，得到构建后的网络离线模型，所述子网络运行参数用于表示各子网络的运行单元类型；

所述方法还包括：

执行所述构建后的网络离线模型，具体包括：

根据所述子网络运行参数，确定目标子网络对应的运行单元，所述目标子网络为所述网络离线模型的任一子网络；

将所述目标子网络在对应的运行单元上执行，以执行所述网络离线模型；

若所述目标子网络对应的运行单元为人工智能处理单元，所述将所述目标子网络在对应的运行单元上执行，以执行所述网络离线模型，包括：

从所述网络离线模型中读取与该目标子网络对应的离线指令；

解析该离线指令，得到该离线指令中的模型并行度；

依据所述模型并行度确定与所述目标子网络对应的人工智能处理单元；以及

在调用底层库接口时，获取从所述底层库接口传入的通道标识；

根据所述通道标识确定所述人工智能处理单元传输数据的通道；

通过所述通道将所述目标子网络在所述人工智能处理单元上执行，以执行所述网络离线模型。

2.根据权利要求1所述的方法，其特征在于，各子网络包括融合后的多个网络层。

3.根据权利要求1所述的方法，其特征在于，所述子网络运行参数包括子网络名称、运行单元类型信息和子网络参数信息。

4.一种人工智能处理装置，其特征在于，所述装置包括：

获取模块，用于获取网络离线模型中各子网络的运行单元信息，所述运行单元信息包括子网络与运行单元类型之间的对应关系，所述运行单元类型包括通用处理单元类型或人工智能处理单元类型；

构建模块，用于根据所述运行单元信息，在构建的所述网络离线模型中定义子网络运行参数，得到构建后的网络离线模型，所述子网络运行参数用于表示各子网络的运行单元类型；

所述装置还包括：执行模块；

所述执行模块，用于执行所述构建后的网络离线模型，具体用于：

从所述网络离线模型中读取与目标子网络对应的离线指令；

解析该离线指令，得到该离线指令中的模型并行度；

依据所述模型并行度确定与所述目标子网络对应的人工智能处理单元；以及

根据所述子网络运行参数，确定目标子网络对应的运行单元，所述目标子网络为所述网络离线模型的任一子网络；

将所述目标子网络在对应的运行单元上执行，以执行所述网络离线模型；

若所述目标子网络对应的运行单元为人工智能处理单元，在将所述目标子网络在对应的运行单元上执行，以执行所述网络离线模型，所述执行模块，具体用于：

在调用底层库接口时，获取从所述底层库接口传入的通道标识；

根据所述通道标识确定所述人工智能处理单元传输数据的通道；

通过所述通道将所述目标子网络在所述人工智能处理单元上执行，以执行所述网络离线模型。

5.根据权利要求4所述的装置，其特征在于，各个子网络包括融合后的多个网络层。

6.根据权利要求4所述的装置，其特征在于，所述子网络运行参数包括子网络名称、运行单元类型信息和子网络参数信息。

7.一种计算机设备，包括存储器、处理器，所述存储器上存储有可在处理器上运行的计算机程序，其特征在于，所述处理器执行所述计算机程序时实现权利要求1至3中任一项所述方法的步骤。

8.一种可读存储介质，其上存储有计算机程序，其特征在于，所述计算机程序被处理器执行时实现权利要求1至3中任一项所述方法的步骤。