[发明专利]模型使用方法、数据处理方法及装置

说明书

本公开提供一种模型使用方法、数据处理方法及装置。所述模型使用方法应用于终端，所述终端内置有深度学习模型，所述方法包括：终端向服务器发送参数获取请求，参数获取请求用于请求获取针对深度学习模型中的算子设置的资源调度参数，之后接收服务器发送的与终端的硬件信息匹配的目标资源调度参数，在使用深度学习模型的过程中，依据目标资源调度参数给算子调度硬件资源。本公开实施例中，终端能够给深度学习模型中的算子调度与终端硬件资源情况匹配的、合适的硬件资源，优化了深度学习模型的执行速度、执行效果。

技术领域

本公开涉及计算机通信技术领域，尤其涉及一种模型使用方法、数据处理方法及装置。

背景技术

目前在部署深度学习模型之前，会对深度学习模型进行调参，其中包括为深度学习模型中的算子设置通用的硬件资源分配量。在将深度学习模型部署至终端之后，终端依据通用的硬件资源分配量给算子分配硬件资源。

然而，通用的硬件资源分配量不适用于所有终端，使用基于上述方法分配的硬件资源执行深度学习模型，会出现深度学习模型的执行速度较慢、执行效果不佳等问题。

发明内容

为克服相关技术中存在的问题，本公开提供了一种模型使用方法、数据处理方法及装置。

根据本公开实施例的第一方面，提供了一种模型使用方法，应用于终端，所述终端内置有深度学习模型，所述方法包括：

向服务器发送参数获取请求，所述参数获取请求用于请求获取针对所述深度学习模型中的算子设置的资源调度参数，所述资源调度参数作为所述终端给所述算子调度硬件资源的依据；

接收所述服务器发送的目标资源调度参数，所述目标资源调度参数与所述终端的硬件信息匹配；

在使用所述深度学习模型的过程中，依据所述目标资源调度参数给所述算子调度硬件资源。

可选地，所述向服务器发送参数获取请求，包括：

响应于所述深度学习模型初次使用，确定所述终端当前是否连接网络；

若所述终端当前连接所述网络，则向所述服务器发送所述参数获取请求。

可选地，所述方法还包括：

若所述终端当前未连接所述网络，则依据默认的资源调度参数给所述算子调度硬件资源；

响应于所述终端连接到所述网络，向所述服务器发送所述参数获取请求。

可选地，所述终端包括图形处理器；

所述深度学习模型包括用于运行在所述图形处理器上的模型；

所述硬件资源包括所述图形处理器的硬件资源。

可选地，所述资源调度参数包括指示处理所述算子使用的线程数量的参数。

可选地，所述参数包括开放运算语言OpenCL中使用的本地工作规模local worksize参数。

可选地，所述向服务器发送参数获取请求，包括：

获取所述终端的硬件信息；

向所述服务器发送携带所述硬件信息的参数获取请求。

可选地，所述硬件信息包括所述终端的型号。

根据本公开实施例的第二方面，提供了一种数据处理方法，应用于服务器，所述方法包括：

接收终端发送的参数获取请求，所述终端内置有深度学习模型，所述参数获取请求用于请求获取针对所述深度学习模型中的算子设置的资源调度参数，所述资源调度参数作为所述终端给所述算子调度硬件资源的依据；