[发明专利]数据处理和模型运行方法、装置和计算机设备

说明书

本申请涉及一种数据处理和模型运行方法、装置、计算机设备，涉及机器学习技术，包括：获取待运行模型和设备的候选计算处理单元；将待运行模型划分为不同的子模型集合，各个子模型集合中的子模型存在从候选计算处理单元确定的绑定计算处理单元，支持运行对应的子模型中的各个算子；通过子模型对应的绑定计算处理单元运行各个子模型，确定各个子模型集合的运行效率信息；从子模型集合中确定目标子模型集合，建立待运行模型与所述目标子模型集合的第一关联关系，第一关联关系用于当待运行模型在设备运行时，将待运行模型分成目标子模型运行，通过目标绑定计算处理单元运行对应的目标子模型，提高模型运行效率。

技术领域

本申请涉及计算机技术领域，特别是涉及数据处理和模型运行方法、装置、计算机设备和存储介质。

背景技术

随着科技的发展，机器学习被越来越广泛的使用，通过机器学习训练出的模型的应用场景非常广泛，包括视频，文章，广告的推荐服务，图片识别，相似图片搜索，目标检测，语义分析，翻译等。

模型在运行时，往往将整个模型配置在一种适合的计算处理单元上运行，如在一个硬件上运行，计算处理单元的资源利用率低，模型运行效率不高。

发明内容

基于此，有必要针对上述模型的运行效率低的问题，提供一种数据处理和模型运行方法、装置、计算机设备和存储介质。

一种数据处理方法，所述方法包括：获取待运行模型和设备的候选计算处理单元；将所述待运行模型划分为不同的子模型集合，各个子模型集合由不同的子模型组成,各个子模型由待运行模型中的不同的算子组成，各个子模型存在从所述候选计算处理单元确定的绑定计算处理单元，所述绑定计算处理单元支持运行对应的子模型中的各个算子；通过子模型对应的绑定计算处理单元运行各个子模型，确定各个子模型集合的运行效率信息；根据所述运行效率信息从所述子模型集合中确定目标子模型集合，所述目标子模型集合中的目标子模型存在对应的目标绑定计算处理单元；建立所述待运行模型与所述目标子模型集合的第一关联关系，所述第一关联关系用于当所述待运行模型在所述设备运行时，将所述待运行模型分成所述目标子模型运行，通过所述目标绑定计算处理单元运行对应的目标子模型。

一种模型运行方法，所述方法包括：获取待运行模型和关联关系，所述关联关系是待运行模型与目标子模型集合的对应关系，所述目标子模型集合是将所述待运行模型划分为不同的子模型集合，根据各个子模型集合的运行效率信息确定的，各个子模型集合中的子模型存在从设备的候选计算处理单元确定的绑定计算处理单元，所述绑定计算处理单元支持运行对应子模型中的各个算子，其中各个子模型集合由不同的子模型组成,各个子模型由待运行模型中的不同的算子组成；根据所述关联关系确定所述待运行模型对应的目标子模型集合；将所述待运行模型分成所述目标子模型集合中的目标子模型运行，通过目标子模型对应的目标绑定计算处理单元运行对应的目标子模型；根据各个目标子模型在对应的目标绑定计算处理单元的运行结果得到所述待运行模型的运行结果。

一种数据处理装置，所述装置包括：获取模块，用于获取待运行模型和设备的候选计算处理单元；划分模块，用于将所述待运行模型划分为不同的子模型集合，各个子模型存在从所述候选计算处理单元确定的绑定计算处理单元，所述绑定计算处理单元支持运行对应的子模型中的各个算子，各个子模型集合由不同的子模型组成,各个子模型由待运行模型中的不同的算子组成；目标子模型集合确定模块，用于通过子模型对应的绑定计算处理单元运行各个子模型，确定各个子模型集合的运行效率信息，根据所述运行效率信息从所述子模型集合中确定目标子模型集合，所述目标子模型集合中的目标子模型存在对应的目标绑定计算处理单元；关联模块，用于建立所述待运行模型与所述目标子模型集合的第一关联关系，所述第一关联关系用于当所述待运行模型在所述设备运行时，将所述待运行模型分成所述目标子模型运行，通过所述目标绑定计算处理单元运行对应的目标子模型。