[发明专利]一种算子确定、运行方法及装置

权利要求书

1.一种算子确定方法，其特征在于，包括：

获取神经网络中待搜索运算对应的第一搜索空间，所述第一搜索空间包括多个算子；

运行所述第一搜索空间的所述多个算子，当所述多个算子中的第一算子调用目标运算时，搜索所述目标运算对应的第二搜索空间；以及

根据所述多个算子的运行参数，从所述多个算子中确定所述待搜索运算对应的目标算子。

2.根据权利要求1所述的算子确定方法，其特征在于，所述方法还包括：

根据所述待搜索运算的属性，在缓存中查询是否存在所述待搜索运算对应的第三算子；

当所述缓存中存在所述第三算子时，将所第三算子确定为所述目标算子；

当所述缓存中不存在所述第三算子时，执行所述获取神经网络中待搜索运算对应的第一搜索空间的步骤。

3.根据权利要求1或2所述的算子确定方法，其特征在于，所述确定所述待搜索运算对应的目标算子之后，还包括：

将确定的所述目标算子按照缓存格式写入缓存。

4.根据权利要求3所述的算子确定方法，其特征在于，所述缓存格式包括根据运行平台的属性和所述待搜索运算的属性构成的多元组。

5.根据权利要求1-4任一项所述的算子确定方法，其特征在于，所述目标算子包括所述运行参数满足运行条件的算子，所述运行条件包括所述算子的运行时间最短和/或所述算子的运行性能最优。

6.根据权利要求1-5中任一项所述的算子确定方法，其特征在于，所述根据所述多个算子的运行参数，从所述多个算子中确定所述待搜索运算对应的目标算子包括：

获取所述多个算子的排序；

为每个所述算子创建对应的子进程，并将执行配置传递给所述子进程，所述执行配置包括历史最优运行参数；

按照所述多个算子的排序，依次运行每个所述算子对应的所述子进程，直至每个所述算子对应的所述子进程均结束，根据所述子进程的运行结果确定每个所述算子的运行参数，并将运行参数满足运行条件和/或运行参数小于所述历史最优运行参数的算子作为所述待搜索运算的所述目标算子。

7.根据权利要求6所述的算子确定方法，其特征在于，所述根据所述子进程的运行结果确定每个所述算子的运行参数，并将运行参数满足运行条件和/或运行参数小于所述历史最优运行参数的算子作为所述待搜索运算的所述目标算子包括：

确定每个第一算子调用的目标运算对应的目标算子和所述目标运算的目标算子对应的运行参数；

将所述第一搜索空间中运行参数满足所述运行条件和/或所述运行参数小于所述历史最优运行参数的算子确定为所述目标算子。

8.根据权利要求7所述的算子确定方法，其特征在于，所述确定每个第一算子调用的目标运算对应的目标算子和所述目标运算的目标算子对应的运行参数包括：

确定所述第一算子调用的所述目标运算对应的第二搜索空间；

确定所述第二搜索空间中的每个算子是否继续调用其他目标运算，并确定对应的第二搜索空间，直至达到最底层搜索空间，所述最底层搜索空间中的算子均不再调用目标运算；

确定所述最底层搜索空间中的目标算子和对应运行参数，写入缓存并传递至上一级搜索空间；

依次确定每一级搜索空间中的目标算子和对应运行参数并写入所述缓存，直至返回所述第一算子调用的所述目标运算对应的所述第二搜索空间；

根据所述第二搜索空间中的算子的运行参数确定所述第一算子调用的目标运算对应的目标算子及其运行参数。

9.根据权利要求8所述的算子确定方法，其特征在于，所述依次确定每一级搜索空间中的目标算子和对应运行参数并写入所述缓存包括：

根据每一级搜索空间中的目标算子对应的所述运行参数确定上一级算子的运行参数并写入所述缓存。