[发明专利]一种模型编译、运行方法及装置

权利要求书

1.一种模型编译方法，其特征在于，所述方法包括：

获得待编译模型的输入数据的多个尺寸；

基于所述多个尺寸中每一尺寸对所述待编译模型进行编译，获得所述待编译模型处理所述多个尺寸中每一尺寸的输入数据使用的模型参数和所述待编译模型处理所述多个尺寸中每一尺寸的输入数据使用的计算指令；

对所述多个尺寸中各个尺寸对应的模型参数之间取值相同的参数进行合并，得到合并模型参数，并确定所述合并模型参数中各个参数与所述多个尺寸中各个尺寸的对应关系；

生成包含所述多个尺寸中每一尺寸对应的计算指令、所述合并模型参数和所述对应关系的编译后模型。

2.根据权利要求1所述的方法，其特征在于，所述对所述多个尺寸中各个尺寸对应的模型参数之间取值相同的参数进行合并，得到合并模型参数，包括：

针对所述待编译模型的每一网络层，对所述多个尺寸中各个尺寸对应的层参数之间取值相同的层参数进行合并，得到合并模型参数，其中，每一尺寸对应的层参数包括：该尺寸对应的模型参数中属于同一网络层的参数。

3.根据权利要求1或2所述的方法，其特征在于，所述获得所述待编译模型处理所述多个尺寸中每一尺寸的输入数据使用的模型参数，包括：

提取所述待编译模型内记录的、处理所述多个尺寸中每一尺寸的输入数据使用的模型参数；

对所提取的模型参数进行预处理，得到所述待编译模型处理所述多个尺寸中每一尺寸的输入数据使用的模型参数，其中，所述预处理包括：按照预设的参数格式转换规则对所提取的模型参数进行格式转换，和/或按照预设的计算算法对所提取的模型参数进行预计算。

4.根据权利要求3所述的方法，其特征在于，所述对所提取的模型参数进行预处理，包括：

基于运行所述编译后模型的处理器的性能参数，对所提取的模型参数进行格式转换；和/或

基于所述待编译模型规定的计算算法，对所提取的模型参数进行预计算。

5.根据权利要求1或2所述的方法，其特征在于，在所述输入数据为图像数据的情况下，所述尺寸包括一次输入的输入数据中图像的数量、图像的颜色通道数量、图像的高度、图像的宽度中的至少一种。

6.根据权利要求1或2所述的方法，其特征在于，

运行所述编译后模型的处理器包括：图像处理器GPU、x86处理器、微型处理器arm。

7.根据权利要求1或2所述的方法，其特征在于，所述方法还包括：

在获得新增输入数据的新的尺寸的情况下，基于所述新的尺寸对所述待编译模型进行编译，得到所述待编译模型处理所述新增输入数据使用的新计算指令和所述待编译模型处理所述新增输入数据使用的新模型参数；

对所述新模型参数和所述合并模型参数中取值相同的参数进行合并，得到新的合并模型参数；

将所述新模型参数与所述新的尺寸之间的对应关系添加到所述编译后模型包含的对应关系中，得到新的对应关系；

将所述新计算指令添加到所述编译后模型包含的计算指令中，并根据所述新的合并模型参数、所述新的对应关系更新所述编译后模型包含的合并模型参数、对应关系，得到新编译后模型。

8.一种模型运行方法，其特征在于，所述方法包括：

获得待处理输入数据的尺寸；

在对待编译模型进行编译得到的编译后模型中，确定所获得的尺寸对应的计算指令，其中，所述编译后模型包含：至少一尺寸对应的计算指令、合并模型参数和对应关系，每一尺寸对应的计算指令为：所述编译后模型处理该尺寸的输入数据使用的计算指令，所述合并模型参数为：对所述待编译模型处理所述至少一尺寸中每一尺寸的输入数据使用的模型参数之间取值相同的参数进行合并后的参数，所述对应关系为：合并模型参数中各个参数与所述至少一尺寸中各个尺寸的对应关系；

根据所述对应关系，从所述合并模型参数中确定所获得的尺寸对应的模型参数；

通过基于所确定模型参数执行所确定计算指令的方式，运行所述编译后模型，实现对所述待处理输入数据的处理。