[发明专利]一种深度学习模型的高效转换方法及装置

权利要求书

1.一种深度学习模型的高效转换方法，包括：

根据深度学习框架建立功能层的层结构体和数据结构体，所述层结构体和所述数据结构体形成与NPU模型对应的数据标准化框架；

利用所述数据标准化框架将深度学习模型的参数转换为所述数据标准化框架的标准参数；

将所述标准参数转换为NPU模型的参数，

其中，所述根据深度学习框架建立功能层的层结构体和数据结构体，所述层结构体和所述数据结构体形成与NPU模型对应的数据标准化框架，包括：

获取所述深度学习框架中各功能层的数据连接拓扑结构形成功能层的逻辑架构；

从所述逻辑架构中获取所述各功能层的层功能类型和层参数类型；

根据所述层功能类型和层配置参数类型建立所述功能层的层结构体；

根据所述层功能类型和层数据参数类型建立所述功能层的数据结构体；

所述层结构体和所述数据结构体形成与所述NPU模型对应的数据标准化框架。

2.如权利要求1所述的深度学习模型的高效转换方法，其特征在于，所述利用所述数据标准化框架将深度学习模型的参数转换为所述数据标准化框架的标准参数包括：

将所述各功能层的所述层功能类型的参数和所述层配置参数类型的参数存入所述数据标准化框架的所述层结构体；

将所述各功能层的所述层数据参数类型的参数存入所述数据标准化框架的所述数据结构体；

通过数据标准化框架将所述层结构体和所述数据结构体中的参数形成标准参数。

3.如权利要求1所述的深度学习模型的高效转换方法，其特征在于，所述将所述标准参数转换为NPU模型的参数包括：

根据所述NPU模型的数据结构将所述标准参数转换为所述NPU模型的参数。

4.如权利要求3所述的深度学习模型的高效转换方法，其特征在于，所述根据所述NPU模型的数据结构将所述标准参数转换为所述NPU模型的参数包括：

根据所述NPU模型的层数据结构，将所述标准参数中部分功能层的层功能类型的参数和层配置参数类型的参数合并，形成所述部分功能层的层结构合并。

5.如权利要求3所述的深度学习模型的高效转换方法，其特征在于，所述根据所述NPU模型的数据结构将所述标准参数转换为所述NPU模型的参数还包括：

将所述标准参数中功能层的浮点数据进行定点化形成定点数据。

6.如权利要求5所述的深度学习模型的高效转换方法，其特征在于，所述根据所述NPU模型的数据结构将所述标准参数转换为所述NPU模型的参数还包括：

对所述定点数据进行稀疏编码。

7.如权利要求1所述的深度学习模型的高效转换方法，其特征在于，还包括：

根据所述深度学习框架建立所述深度学习模型。

8.如权利要求7所述的深度学习模型的高效转换方法，其特征在于，所述根据深度学习框架建立深度学习模型包括：

根据所述深度学习框架的功能层逻辑结构建立深度学习模型的功能层；

导入所述功能层的配置参数；

导入所述功能层的数据参数。

9.一种深度学习模型的高效转换装置，包括：

数据标准化框架生成模块，用于根据深度学习框架建立功能层的层结构体和数据结构体，所述层结构体和所述数据结构体形成与NPU模型对应的数据标准化框架；

标准数据生成模块，用于利用所述数据标准化框架将深度学习模型的参数转换为所述数据标准化框架的标准参数；

数据转换模块，用于将所述标准参数转换为NPU模型的参数，

其中，所述数据标准化框架生成模块还用于：

获取所述深度学习框架中各功能层的数据连接拓扑结构形成功能层的逻辑架构；

从所述逻辑架构中获取所述各功能层的层功能类型和层参数类型；

根据所述层功能类型和层配置参数类型建立所述功能层的层结构体；

根据所述层功能类型和层数据参数类型建立所述功能层的数据结构体；

所述层结构体和所述数据结构体形成与所述NPU模型对应的数据标准化框架。