[发明专利]模型集成方法、装置、服务器和计算机可读存储介质

权利要求书

1.一种模型集成方法，其特征在于，应用于服务器，所述服务器预先存储有模型文件及模型文件配置表，所述模型文件包括多个模型，所述模型文件配置表用于记录每个所述模型在所述模型文件中的位置；所述方法包括：

获取视频流分析任务对应的任务参数；所述任务参数用于指定待集成的目标模型；

根据所述任务参数和所述模型文件配置表，从所述模型文件中读取出所述目标模型；

将所述目标模型加载到推理卡上，并生成所述目标模型对应的算子引擎；

根据所述任务参数和所述算子引擎生成引擎管道，以通过所述引擎管道对输入的视频流数据进行处理；

所述服务器中还预先设置有算子引擎仓库，所述算子引擎仓库用于存放生成的算子引擎；在获取视频流分析任务对应的任务参数之后，所述方法还包括：

若所述算子引擎仓库中存在所述目标模型对应的算子引擎，则从所述算子引擎仓库中获取所述目标模型对应的算子引擎以便生成引擎管道；

若所述算子引擎仓库中不存在所述目标模型对应的算子引擎，则在生成所述目标模型对应的算子引擎后，将生成的所述算子引擎存入所述算子引擎仓库。

2.根据权利要求1所述的方法，其特征在于，所述模型文件配置表包括模型标识与模型位置的对应关系，所述任务参数包括所述目标模型的模型标识，所述根据所述任务参数和所述模型文件配置表，从所述模型文件中读取出所述目标模型，包括：

在所述对应关系中查找与所述目标模型的模型标识对应的模型位置；

根据所述模型位置从所述模型文件中读取出所述目标模型。

3.根据权利要求1所述的方法，其特征在于，所述任务参数包括所述目标模型的模型标识，所述根据所述任务参数和所述算子引擎生成引擎管道，包括：

按照所述任务参数中的各个模型标识对应的先后顺序，对所述算子引擎进行关联，得到引擎管道；其中，所述引擎管道中的前项算子引擎注册当前算子引擎的输入接口，当前算子引擎注册后项算子引擎的输入接口。

4.根据权利要求1所述的方法，其特征在于，所述方法还包括：

将获取的视频流数据送入对应的引擎管道，利用所述引擎管道中的算子引擎对获取的视频流数据进行处理；

在获得所述引擎管道的最后一个算子引擎输出的处理结果后，将所述处理结果回调至应用程序。

5.根据权利要求1所述的方法，其特征在于，所述算子引擎维护有算子路由表，所述算子路由表包括路由索引，所述路由索引包括数据标识、目标算子引擎、下一跳算子引擎以及数据优先级，所述算子引擎根据自身维护的算子路由表确定接收到的视频流数据对应的优先级、目标算子引擎以及下一跳算子引擎；所述方法还包括：

在有新的视频流分析任务创建，或者已创建的视频流分析任务被删除的情况下，对所述算子引擎维护的算子路由表进行更新。

6.根据权利要求1-5任一项所述的方法，其特征在于，所述算子引擎包括输入接口、分析接口和输出接口，所述输入接口用于维护多种优先级的输入队列，并将接收到的数据按照优先级存放至对应的输入队列；所述分析接口用于对所述输入队列中的数据进行分析；所述输出接口用于维护多种优先级的输出队列，并将接收到的数据按照优先级存放至对应的输出队列。