[发明专利]确定最优计算模板的方法和装置

权利要求书

1.一种图像识别方法，其特征在于，所述方法包括：

获取目标计算层对应的模板参数；其中，所述目标计算层为神经网络中的任一计算层，所述模板参数包括线程块尺寸、是否展开循环、循环执行顺序；

基于所述模板参数的不同取值，确定所述目标计算层对应的各种计算模板；

在所述各种计算模板中，确定满足与本设备对应的预设硬件限制条件的目标计算模板；

基于每种目标计算模板，对所述目标计算层的张量算式进行编译和模拟运行，并确定每种目标计算模板的运行时间；

将运行时间最小的目标计算模板，确定为最优计算模板；

基于所述最优计算模板，对所述张量算式进行编译，生成最优计算指令；

将待识别图像输入所述神经网络，通过运行所述神经网络中每个计算层对应的最优计算指令，对所述待识别图像进行识别。

2.根据权利要求1所述的方法，其特征在于，所述预设硬件限制条件包括：计算模板中线程块尺寸的取值对应的线程数小于或等于预设的线程数上限。

3.根据权利要求1所述的方法，其特征在于，所述预设硬件限制条件还包括：计算模板中线程块尺寸的取值对应的存储空间容量小于或等于预设的存储空间容量上限。

4.根据权利要求1所述的方法，其特征在于，所述基于每种目标计算模板，对所述目标计算层的张量算式进行编译和模拟运行，并确定每种目标计算模板的运行时间，包括：

对于每种目标计算模板，基于所述目标计算模板，对所述张量算式进行编译，生成所述张量算式的程序代码，获取所述张量算式中各未知参数的模拟运行数据，基于所述各未知参数的模拟运行数据，运行所述程序代码，确定所述目标计算模板对应的运行时间。

5.一种图像识别装置，其特征在于，所述装置包括：

计算模板确定模块，用于获取目标计算层对应的模板参数；基于所述模板参数的不同取值，确定所述目标计算层对应的各种计算模板；其中，所述目标计算层为神经网络中的任一计算层，所述模板参数包括线程块尺寸、是否展开循环、循环执行顺序；

目标计算模板确定模块，用于在所述各种计算模板中，确定满足与本设备对应的预设硬件限制条件的目标计算模板；

运行时间确定模块，用于基于每种目标计算模板，对所述目标计算层的张量算式进行编译和模拟运行，并确定每种目标计算模板的运行时间；

最优计算模板确定模块，用于将运行时间最小的目标计算模板，确定为最优计算模板；

生成模块，用于基于所述最优计算模板，对所述张量算式进行编译，生成最优计算指令；

处理模块，用于将待识别图像输入所述神经网络，通过运行所述神经网络中每个计算层对应的最优计算指令，对所述待识别图像进行识别。

6.根据权利要求5所述的装置，其特征在于，所述预设硬件限制条件包括：计算模板中线程块尺寸的取值对应的线程数小于或等于预设的线程数上限。

7.根据权利要求5所述的装置，其特征在于，所述预设硬件限制条件还包括：计算模板中线程块尺寸的取值对应的存储空间容量小于或等于预设的存储空间容量上限。

8.根据权利要求5所述的装置，其特征在于，所述运行时间确定模块，还用于：

对于每种目标计算模板，基于所述目标计算模板，对所述张量算式进行编译，生成所述张量算式的程序代码，获取所述张量算式中各未知参数的模拟运行数据，基于所述各未知参数的模拟运行数据，运行所述程序代码，确定所述目标计算模板对应的运行时间。