[发明专利]神经网络编译器配置方法、装置、计算机设备和存储介质

说明书

本申请涉及一种神经网络编译器配置方法、装置、计算机设备和存储介质。所述方法包括：获取目标神经网络模型，以及目标神经网络模型对应的初始计算图；初始计算图包括多个算子；对多个算子进行划分，得到多个算子集合；确定各算子集合分别对应的多种算子类型组合，并获取各算子类型组合对应的算子运行时间，得到各算子集合分别对应的多个算子运行时间；将多种算子类型组合中，算子运行时间最小的算子类型组合，作为各算子集合对应的目标算子类型组合；根据各算子集合对应的目标算子类型组合生成目标神经网络模型的目标计算图，根据目标计算图生成针对于目标神经网络模型的编译器配置信息。采用本方法能够提高神经网络模型编译器配置优化效果。

技术领域

本申请涉及计算机技术领域，特别是涉及一种神经网络编译器配置方法、装置、计算机设备和存储介质。

背景技术

随着计算机技术的发展，神经网络模型的运用已经越来越广泛，但是神经网络模型在运算性能上仍然面临巨大的挑战。目前为了实现神经网络模型的高效运算，通常是通过对神经网络模型的编译器进行优化配置，来提高该神经网络模型的运算性能。

传统技术中，对神经网络模型的编译器进行优化配置通常是基于专家的手写规则进行优化，通过将神经网络模型的计算图按照专家经验的拆分规则拆分成多个子图，之后再分别对多个子图进行调优，得到编译器的中间表示以生成编译器代码。然而，目前的神经网络编译器配置方式中需要依赖于专家的手写规则进行计算图的优化，因此对于新兴算子或者模型结构的神经网络模型的编译器配置优化效果较差。

发明内容

基于此，有必要针对上述技术问题，提供一种神经网络编译器配置方法、装置、计算机设备和存储介质。

一种神经网络编译器配置方法，所述方法包括：

获取待进行编译器配置的目标神经网络模型，以及所述目标神经网络模型对应的初始计算图；所述初始计算图包括多个算子；

对所述多个算子进行划分，得到多个算子集合；

确定各算子集合分别对应的多种算子类型组合，并获取各算子类型组合对应的算子运行时间，得到所述各算子集合分别对应的多个算子运行时间；

将所述多种算子类型组合中，算子运行时间最小的算子类型组合，作为所述各算子集合分别对应的目标算子类型组合；

根据所述各算子集合对应的目标算子类型组合生成所述目标神经网络模型的目标计算图，根据所述目标计算图生成针对于所述目标神经网络模型的编译器配置信息。

在其中一个实施例中，所述获取各算子类型组合对应的算子运行时间，包括：确定当前算子类型组合，并获取所述当前算子类型组合所对应的各个算子的算子类型；根据所述各个算子的算子类型，确定所述当前算子类型组合对应的算子融合关系信息；基于所述算子融合关系信息，获取所述当前算子类型组合对应的算子运行时间。

在其中一个实施例中，所述基于所述算子融合关系信息，获取所述当前算子类型组合对应的算子运行时间，包括：基于所述算子融合关系信息，确定所述当前算子类型组合中包含的融合算子；获取所述融合算子的算子运行时间；根据所述融合算子的算子运行时间，以及预设的所述当前算子类型组合中包含的非融合算子的算子运行时间，得到所述当前算子类型组合对应的算子运行时间。

在其中一个实施例中，所述根据所述目标计算图生成针对于所述目标神经网络模型的编译器配置信息，包括：对所述目标计算图进行拆分，得到所述目标计算图对应的多个子计算图；获取针对于各子计算图对应的多个候选配置信息，形成候选配置信息集合，并从所述候选配置信息集合中确定与针对于各子计算图对应的目标配置信息；根据所述各子计算图对应的目标配置信息得到所述目标神经网络模型的编译器配置信息。