[发明专利]数据处理方法和装置、存储介质和电子装置

说明书

本申请提供了一种数据处理方法和装置、存储介质和电子装置，其中，该方法包括：确定与待处理的第一流程对应的目标推理模型，第一流程为使用目标推理模型对第一资源数据进行推理的流程，目标推理模型为允许被多个流程共享的推理模型；获取多个流程中的第二流程所共享的推理模型数据，推理模型数据为第二流程对目标推理模型进行初始化所得到的数据，第二流程为使用目标推理模型处理第二资源数据的流程；基于推理模型数据使用初始化后的目标推理模型对第一资源数据进行推理，得到第一资源数据的推理结果。通过本发明，解决了相关技术中的多流程操作的处理方式存在由于需要根据流程数量分别对各个流程进行操作导致的时间消耗大的问题。

技术领域

本申请涉及互联网领域，尤其涉及一种数据处理方法和装置、存储介质和电子装置。

背景技术

TensorRT是一种高性能神经网络推理(Inference)引擎，用于在生产环境中部署深度学习应用程序，应用有图像分类、分割和目标检测等，可提供较大的推理吞吐量和效率。

相关技术中，TensorRT的初始化过程一般分为两种过程：

序列化过程：对于已经存在的模型文件和使用API(Application ProgrammingInterface，应用程序接口)搭建好的网络模型(network)，进行权重文件读取和network序列化，得到序列化之后的模型文件；

反序列化过程：对于序列化之后的模型文件，通过读取序列化文件，再经过反序列化进行初始化，得到初始化之后的网络模型。

如果已经存在序列化之后的模型文件，则可以直接采用反序列化过程得到初始化之后的网络模型。上述序列化过程的耗时较大，反序列化过程也需要一定时间。

然而，在基于TensorRT进行多流程(例如，多线程，多进程)操作的情况下，存在由于需要根据线程数量分别对各个线程进行操作导致的时间消耗大的问题。

发明内容

本申请提供了一种数据处理方法和装置、存储介质和电子装置，以至少解决相关技术中的多流程操作的处理方式存在由于需要根据流程数量分别对各个流程进行操作导致的时间消耗大的问题。

根据本申请实施例的一个方面，提供了一种数据处理方法，包括：确定与待处理的第一流程对应的目标推理模型，其中，第一流程为使用目标推理模型对第一资源数据进行推理的流程，目标推理模型为允许被多个流程共享的推理模型；获取多个流程中的第二流程所共享的推理模型数据，其中，推理模型数据为第二流程对目标推理模型进行初始化所得到的数据，第二流程为使用目标推理模型处理第二资源数据的流程，初始化包括：序列化和反序列化；基于推理模型数据使用初始化后的目标推理模型对第一资源数据进行推理，得到第一资源数据的推理结果。

可选地，确定与待处理的第一流程对应的目标推理模型包括：在第一资源数据为目标视频中的视频帧的情况下，确定第一资源数据的目标分辨率；按照目标分辨率，确定与第一流程对应的目标推理模型，其中，目标推理模型为对目标分辨率的视频帧进行推理的推理模型。

可选地，在获取多个流程中的第二流程所共享的推理模型数据之前，上述方法还包括：确定目标推理模型处于锁定状态，其中，锁定状态为在被第二流程初始化的过程中目标推理模型所处的状态；将第一流程配置为等待状态，其中，等待状态为等待目标推理模型由锁定状态转换为未锁定状态的状态。

可选地，确定目标推理模型处于锁定状态包括：调用与目标推理模型对应的目标互斥锁，其中，目标互斥锁用于禁止目标推理模型同时被两个及两个以上的流程初始化；在与目标互斥锁对应的互斥变量的变量值为第一变量值的情况下，确定目标推理模型处于锁定状态，其中，第一变量值为目标推理模型被初始化时互斥变量被设置为的变量值。