[发明专利]编译方法、装置、电子设备和存储介质

权利要求书

1.一种编译方法，其特征在于，所述方法用于对神经网络对应的程序进行编译，所述方法包括：

提取神经网络的计算图的可优化子图，其中，所述可优化子图中的指定算子满足优化条件能够被优化；所述优化条件包括：所述指定算子的输入操作数和输出操作数满足所述指定算子对应的第一优化条件，以及所述指定算子的输入操作数或者输出操作数与可优化子图中的其他算子的操作数也满足对应的第二优化条件；所述第一优化条件为：所述指定算子的输入操作数和输出操作数在内存中存储的方式一致；或所述指定算子为张量重构算子或转置算子，在存储张量重构算子或转置算子的输入操作数和输出操作数时未进行数据对齐；或所述指定算子为拆分算子或拼接算子，拆分算子或拼接算子的输入操作数和输出操作数在存储时未进行数据对齐、且拆分\拼接的是高维度或者比拆分\拼接的维度更高的维度为1；或所述指定算子为move算子，move算子之前为拆分算子、之后为卷积算子，在存储move算子的输入操作数和输出操作数时未进行数据对齐，而且输入操作数在存储器中连续存储，拆分算子用于对输入操作数的高维度进行拆分或者比拆分的维度更高的维度为1；所述第二优化条件为：所述指定算子的输入操作数能够避免使用两个相邻的操作数的地址进行回填；

从最大数据块开始，遍历可优化子图中指定算子的输入操作数和输出操作数，根据可优化子图中指定算子的输入操作数和输出操作数构建可优化子图的地址回填有向图；其中，所述最大数据块为可优化子图中张量大小最大的操作数，所述地址回填有向图是用于地址回填的有向图；

根据最大数据块的地址、可优化子图以及地址回填有向图，对可优化子图中指定算子的操作数进行地址回填。

2.根据权利要求1所述的方法，其特征在于，提取神经网络的计算图的可优化子图，包括：

根据指定算子的输入操作数和输出操作数的关系以及指定算子的输入操作数或者输出操作数与其他指定算子的操作数的关系确定计算图中的可优化算子；

根据计算图中的可优化算子之间的连接关系，用可优化算子构建可优化子图。

3.根据权利要求2所述的方法，其特征在于，根据指定算子的输入操作数和输出操作数的关系、以及指定算子的输入操作数或者输出操作数与其他指定算子的操作数的关系确定计算图中的可优化算子，包括：

若指定算子的输入操作数和输出操作数在内存中摆放的方式一致，并且指定算子的输入操作数能够避免使用两个相邻的操作数的地址进行回填，则所述指定算子为可优化算子。

4.根据权利要求2所述的方法，其特征在于，根据计算图中的可优化算子之间的关系，用可优化算子构建可优化子图，包括：

根据计算图中的可优化算子之间的关系，采用并查集算法构建可优化算子的可优化子图。

5.根据权利要求1所述的方法，其特征在于，从最大数据块开始，遍历可优化子图中指定算子的输入操作数和输出操作数，根据可优化子图中指定算子的输入操作数和输出操作数构建可优化子图的地址回填有向图，包括：

在构建可优化子图的地址回填有向图时，以最大数据块为父节点，按照可优化子图中算子的连接顺序，将回填地址时作为依据的操作数确定为父节点、被回填地址的操作数确定为子节点。

6.根据权利要求5所述的方法，其特征在于，根据最大数据块的地址、可优化子图以及地址回填有向图，对可优化子图中指定算子的操作数进行地址回填，包括：

根据地址回填有向图确定待回填操作数；

根据待回填操作数与父节点之间的可优化算子类型、以及已回填的父节点的地址对待回填操作数进行地址回填。

7.根据权利要求1所述的方法，其特征在于，所述可优化子图中的指定算子满足优化条件能够被优化进一步包括：

若神经网络中的指定算子和指定算子的操作数满足优化条件时，则修改所述指定算子的操作数的描述信息，并省略生成所述指定算子对应的指令。