[发明专利]神经网络模型的配置确定方法、装置、设备及存储介质

权利要求书

1.一种神经网络模型的配置确定方法，其特征在于，所述方法包括：

获取待配置的目标神经网络模型中各目标网络层的维度信息以及用于运行所述目标神经网络模型的目标硬件的各目标硬件指令；

根据所述各目标网络层的维度信息及所述各目标硬件指令，查询预设模型代价评估表中的先验信息以及通用信息，分别确定各目标网络层在所述目标硬件上运行时钟周期数最短时所对应的预设配置，从而得到所述目标神经网络模型中各目标网络层的最优配置，

其中，所述先验信息包括预先获取的不同预设测试模式下的各预设网络层的最优配置，所述预设测试模式表示利用各预设硬件指令实现各预设网络层的功能，每一预设网络层均对应有相应的维度信息，所述最优配置为时钟周期数最短时所对应的配置；所述通用信息包括不同预设配置下执行各预设硬件指令所需的时钟周期数。

2.根据权利要求1所述的方法，其特征在于，所述根据所述各目标网络层的维度信息及所述各目标硬件指令，查询预设模型代价评估表中的先验信息以及通用信息，分别确定各目标网络层在所述目标硬件上运行时钟周期数最短时所对应的预设配置，从而得到所述目标神经网络模型中各目标网络层的最优配置，包括：

针对每一目标网络层，根据该目标网络层的维度信息查询预设模型代价评估表的先验信息，若查找到该目标网络层对应的预设网络层，则将查找到预设网络层的最优配置作为该目标网络层的最优配置；

针对每一目标网络层，若预设模型代价评估表的先验信息中不存在该目标网络层对应的预设网络层，则确定用于实现该目标网络层的功能所需的各目标硬件指令得到硬件指令集；查询预设模型代价评估表的通用信息，分别确定各预设配置下执行硬件指令集所需的时钟周期数，并选取时钟周期数最短的预设配置，作为该目标网络层的最优配置。

3.根据权利要求2所述的方法，其特征在于，预先建立预设模型代价评估表的步骤包括：

获取预设的基准神经网络模型；

针对所述基准神经网络模型的每一基准网络层，确定不同硬件情况下实现该基准网络层的功能所需的预设硬件指令，并在不同预设配置下分别执行各预设硬件指令，得到不同预设配置下分别执行各预设硬件指令所需的时钟周期数作为通用信息记录到模型代价评估表中；

获取预设的专用神经网络模型；

针对所述专用神经网络模型的每一专用网络层，分别在不同预设配置下，利用各预设硬件指令实现该专用网络层的功能，得到不同预设测试模式下实现该专用网络层的功能所需的时钟周期数，将最短时钟周期数对应的预设配置作为该专用网络层的最优配置，得到不同预设测试模式下的该专用网络层的最优配置作为先验信息记录到模型代价评估表中。

4.根据权利要求1所述的方法，其特征在于，所述方法还包括：

根据所述目标神经网络模型中各网络层的最优配置，生成所述目标神经网络模型的配置文件；

将所述配置文件及所述目标神经网络模型发送给所述目标硬件，以使所述目标硬件按照所述配置文件配置所述目标神经网络模型，并运行配置后的目标神经网络模型。

5.一种神经网络模型的配置确定装置，其特征在于，所述装置包括：

维度信息获取模块，用于获取待配置的目标神经网络模型中各目标网络层的维度信息以及用于运行所述目标神经网络模型的目标硬件的各目标硬件指令；

最优配置确定模块，用于根据所述各目标网络层的维度信息及所述各目标硬件指令，查询预设模型代价评估表中的先验信息以及通用信息，分别确定各目标网络层在所述目标硬件上运行时钟周期数最短时所对应的预设配置，从而得到所述目标神经网络模型中各目标网络层的最优配置，其中，所述先验信息包括预先获取的不同预设测试模式下的各预设网络层的最优配置，所述预设测试模式表示利用各预设硬件指令实现各预设网络层的功能，每一预设网络层均对应有相应的维度信息，所述最优配置为时钟周期数最短时所对应的配置；所述通用信息包括不同预设配置下执行各预设硬件指令所需的时钟周期数。