[发明专利]数据处理和模型运行方法、装置和计算机设备

权利要求书

1.一种数据处理方法，所述方法包括：

获取待运行模型和设备的候选计算处理单元；

将所述待运行模型划分为不同的子模型集合，各个子模型集合由不同的子模型组成,各个子模型由待运行模型中的不同的算子组成；

各个子模型存在从所述候选计算处理单元确定的绑定计算处理单元，所述绑定计算处理单元支持运行对应的子模型中的各个算子；

通过子模型对应的绑定计算处理单元运行各个子模型，确定各个子模型集合的运行效率信息；

根据所述运行效率信息从所述子模型集合中确定目标子模型集合，所述目标子模型集合中的目标子模型存在对应的目标绑定计算处理单元；

建立所述待运行模型与所述目标子模型集合的第一关联关系，所述第一关联关系用于当所述待运行模型在所述设备运行时，将所述待运行模型分成所述目标子模型运行，通过所述目标绑定计算处理单元运行对应的目标子模型。

2.根据权利要求1所述的方法，其特征在于，所述将所述待运行模型划分为不同的子模型集合，各个子模型存在从所述候选计算处理单元确定的绑定计算处理单元，所述绑定计算处理单元支持运行对应的子模型中的各个算子包括：

根据所述待运行模型的各个算子的执行顺序，将连续的被同一个当前计算处理单元支持运行的多个算子归为同一个当前子模型；

将所述当前计算处理单元作为所述当前子模型的绑定计算处理单元，所述当前计算处理单元是所述候选计算处理单元中的其中一个计算处理单元。

3.根据权利要求2所述的方法，其特征在于，所述根据所述待运行模型的各个算子的执行顺序，将连续的被同一个当前计算处理单元支持运行的多个算子归为同一个当前子模型，将所述当前计算处理单元作为所述当前子模型的绑定计算处理单元包括：

从所述候选计算处理单元中确定当前计算处理单元，按照算子的先后执行顺序确定起始算子；

从所述起始算子遍历所述待运行模型的各个算子，至到存在所述当前计算处理单元对应的非支持运行算子，将从所述起始算子开始，所述当前计算处理单元对应的支持运行算子作为划分得到的当前子模型，将所述当前计算处理单元作为所述当前子模型对应的绑定计算处理单元；

将所述非支持运行算子作为下次遍历的起始算子，将下一个候选计算处理单元作为当前计算处理单元，返回所述从所述起始算子遍历所述待运行模型的各个算子的步骤，直到所述待运行模型中的所有算子归入对应的子模型。

4.根据权利要求1所述的方法，其特征在于，所述方法还包括：

获取标准算子，确定标准算子与计算处理单元之间的支持运行关系；

所述将所述待运行模型划分为不同的子模型集合包括：

以所述标准算子为执行单元，将所述待运行模型划分为对应的各个算子；

根据所述支持运行关系将所述待运行模型划分为不同的子模型集合。

5.根据权利要求4所述的方法，其特征在于，所述支持运行关系的确定包括以下步骤：

获取测试数据，将所述测试数据输入所述待运行模型运算，得到所述待运行模型的各个算子的输入子测试数据；

将各个算子和对应的输入子测试数据在不同的计算处理单元上进行运行测试；

当第一算子在第一计算处理单元的运行效率信息低于预设效率条件时，确定所述第一算子为所述第一计算处理单元对应的非支持运行算子；

当第一算子在第一计算处理单元的运行效率信息满足预设效率条件时，确定所述第一算子为所述第一计算处理单元对应的支持运行算子。