[发明专利]一种模型预测系统及方法

权利要求书

1.一种模型预测系统，包括：

模型服务资源模块，用于提供模型预测服务，不同的模型服务资源模块之间相互隔离；

预测模型服务模块，用于维护所述模型服务资源模块与所述模型服务资源模块的部署设备之间的映射关系，以及在检测到模型服务资源模块发生变化时，更新所述模型服务资源模块的运行状态，所述模型服务资源模块发生变化包括：模型服务资源模块的新增、删除、修改，以及模型服务资源模块提供的模型预测服务的开启和停止。

2.如权利要求1所述的系统，不同的模型服务资源模块设置在不同的容器中。

3.如权利要求1所述的系统，不同的模型服务资源模块设置在不同的虚拟机中。

4.如权利要求1所述的系统，采用部署模板构建所述模型服务资源模块，所述部署模板包括：不同的编程语言对应的运行环境。

5.如权利要求1所述的系统，所述模型服务资源模块支持java、c++、python中的至少一种编程语言。

6.如权利要求1所述的系统，所述模型服务资源模块支持超文本传输协议、远程过程调用协议中的至少一种。

7.如权利要求1所述的系统，所述预测模型服务模块具体用于：根据所述模型服务资源模块的注册信息，获得所述模型服务资源模块的部署设备信息，并将所述模型服务资源模块与所述模型服务资源模块的部署设备之间的映射关系进行存储。

8.如权利要求1所述的系统，所述系统还包括客户端，用于向所述预测模型服务模块发送服务查询请求，查询所需服务对应的部署设备，根据查询结果，调用模型服务资源模块。

9.如权利要求1所述的系统，所述系统还包括服务管控模块，用于对所述模型服务资源模块进行生命周期管理，所述生命周期管理包括：扩容、缩容、更新中的至少一种。

10.如权利要求9所述的系统，所述服务管控模块具体用于：根据所述模型服务资源模块的负载信息，对所述模型服务资源模块进行扩容或缩容。

11.一种模型预测系统，包括：

模型服务引擎，用于提供模型预测服务，不同的模型服务引擎之间相互隔离；

服务发现模块，用于构建所述模型服务引擎与所述模型服务引擎的部署设备之间的映射关系，以及更新所述模型服务引擎的运行状态、对所述模型服务引擎进行异常检测；

服务管控平台，用于对所述模型服务引擎进行生命周期管理，所述生命周期管理包括：扩容、缩容、上下线、服务更新中的至少一种

客户端，用于通过所述服务发现模块查询所述模型服务引擎与所述模型服务引擎的部署设备之间的映射关系，并调用所述模型服务引擎进行模型预测服务。

12.一种模型预测方法，包括：

通过客户端发起调用模型预测服务的请求信息；

所述客户端根据所述请求信息，查询服务模型列表，获取所述请求信息中对应的模型服务资源模块的部署设备，所述服务模型列表中存储有模型服务资源模块与所述模型服务资源模块的部署设备之间的映射关系，不同的模型服务资源模块之间相互隔离；

所述客户端根据查询结果，调用所述模型服务资源模块进行模型预测服务，并返回预测结果。