[发明专利]一种面向复杂场景的多计算模型管理方法

说明书

本发明公开了一种面向复杂场景的多计算模型管理方法，涉及模型管理技术领域，用于解决现有技术中多计算模型管理方法存在通用性差，模型计算吞吐率低，浪费计算资源的问题，本发明包括创建进程计算图，所述进程计算图用于展示在模型计算过程中各进程节点之间的拓扑关系、数据和消息的流通方向；数据接收，由所述进程计算图中的通信进程接收外部数据，并将数据处理后传递给模型进程；模型计算，模型进程使用收到的数据计算出结果后继续传递给下级节点，直至传回通信进程；结果回传，将通信进程收到的结果发送到外部系统。本发明中通过上述技术方案可以提高模型计算的吞吐率，完成对计算资源的调配和管理，极大地节省了计算资源。

技术领域

本发明涉及计算模型的管理技术领域，更具体的是涉及一种面向复杂场景的多计算模型管理方法。

背景技术

随着深度学习在各个领域的应用和发展，各式各样优秀的人工智能产品不断出现，而在这些产品中最为重要的就是深度学习模型，而人们对深度学习模型运行速度、效率和性能的要求也越来越高，深度学习模型的应用场景也越来越复杂，因此需要对复杂场景的深度学习模型进行相应的管理。

现有的深度学习模型管理方法主要是在部署前完成对所有训练好的计算模型进行打包，在代码中固定各个计算模型之间的前后执行顺序、依赖关系，然后使用深度学习框架对计算模型进行部署，部署完成后向计算模型输入数据，计算模型分析完成后返回结果。

从上述深度学习模型整个部署过程可以看出，整个过程是非可视化的，各个计算模型的前后依赖关系十分复杂、且是打包固定的，在后续的模型更新和维护只能够替换整个打包的模型集合，每次更新和维护的成本较高、过程复杂，不具有通用性，在整个计算过程中没有对计算资源进行监控，从而缺乏对计算资源的调配和管理；总的来说，现有技术中多计算模型管理方法存在通用性差，模型计算吞吐率低，浪费计算资源的问题。

发明内容

本发明的目的在于：为了解决现有技术中多计算模型管理方法存在通用性差，模型计算吞吐率低，浪费计算资源的问题，本发明提供一种面向复杂场景的多计算模型管理方法，以提高多计算模型管理方法的通用性，提高模型计算的吞吐率，节省计算资源。

本发明为了实现上述目的具体采用以下技术方案：

一种面向复杂场景的多计算模型管理方法，包括以下步骤：

S1:创建进程计算图，所述进程计算图用于展示在模型计算过程中各进程节点之间的拓扑关系、数据和消息的流通方向；

具体的，上述创建进程计算图包括如下步骤：

S11:定义节点，从计算节点图库中将需要添加的计算节点图标拖拽到画布上，若在计算节点图库中未找到需要添加的计算节点图标，则新建计算节点图标，并为计算节点配置相应参数；

优选的，在上述定义节点之前，若计算节点及计算节点之间的前后逻辑关系已定义并存储在数据库中，则读取数据库中对应的原有进程计算图，并在原有计算图的基础上修改，若计算节点及计算节点之间的前后逻辑关系未定义且未存储在数据库中，则创建新的空白计算图。

S12:定义通道，在通道库中拖拽不同数据流向的通道图标到画布上，使用通道连接不同的节点，并为通道配置相关参数；具体的，所述相应参数包括进程ID、进程类型、进程名称、进程版本号、进程启动命令、进程启动参数、进程最小数量、进程最大数量和当前进程数量中的任意一种或多种；所述相关参数包括通道技术和/或通信内容。

S13:校验进程计算图，当进程计算图创建完毕过后，对进程计算图进行校验，若校验通过，则进入下一步骤；若校验不通过，则给出出错提示并重新修改进程计算图；

优选的，上述对进程计算图进行校验包括计算节点的相应参数与通道的相关参数的配置是否符合逻辑，以及计算图是否符合有向无环图的定义

S14:写入数据库，将进程计算图的所有信息保存至数据库对应的数据表中。