[发明专利]服务处理方法、装置以及在线服务系统

权利要求书

1.一种服务处理方法，其特征在于，包括：

在进行在线服务部署时，接收对目标模型的触发操作，将所述目标模型加载至所述在线服务对应的模型池中；

当接收到针对所述在线服务的应用请求时，从所述模型池中确定与所述应用请求相匹配的第一模型；

利用所述第一模型处理所述应用请求，以提供所述在线服务。

2.根据权利要求1所述的方法，其特征在于，所述将所述目标模型加载至所述在线服务对应的模型池中，包括：

在接收到对目标模型的触发操作时，触发在线服务部署请求，所述在线服务部署请求用于指示新增在线服务；

创建部署所述在线服务所需的虚拟环境，将所述在线服务部署至所述虚拟环境中；

在所述虚拟环境进行初始化的过程中将初始的模型池加载至所述在线服务，初始的所述模型池为空；

将所述目标模型加载至初始的所述模型池中。

3.根据权利要求1或2所述的方法，其特征在于，所述将所述目标模型加载至所述在线服务对应的模型池中，包括：

在接收到对目标模型的触发操作时，触发在线服务更新请求，所述在线服务更新请求用于指示在所述在线服务中新增模型；

将所述目标模型加载至所述在线服务对应的模型池中。

4.根据权利要求3所述的方法，其特征在于，在所述将所述目标模型加载至所述在线服务对应的模型池中之前，所述方法还包括：

获取所述在线服务对应的虚拟环境的空闲资源信息；

在所述空闲资源信息满足预设条件时，执行将所述目标模型加载至所述在线服务对应的模型池中的步骤；

在所述空闲资源信息不满足预设条件时，停止执行将所述目标模型加载至所述在线服务对应的模型池中的步骤，以及触发告警提示，所述告警提示用于指示所述空闲资源信息小于所述目标模型的预计资源配额。

5.根据权利要求3所述的方法，其特征在于，所述方法还包括：

在接收到模型删除指令时，根据所述模型删除指令从所述模型池中确定待删除模型；

将所述待删除模型从所述模型池中删除。

6.根据权利要求1所述的方法，其特征在于，在所述将所述目标模型加载至所述在线服务对应的模型池中之后，还包括：

在所述在线服务的全局标识信息中添加所述目标模型的模型标识码和模型对象实例；

所述从所述模型池中确定与所述应用请求相匹配的第一模型，包括：

从所述应用请求中解析出目标模型标识码；

根据所述目标模型标识码查找所述在线服务的全局标识信息，得到与所述目标模型标识码对应的目标模型对象实例；

将所述模型池中，与所述目标模型对象实例对应的模型确定为与所述应用请求相匹配的第一模型。

7.根据权利要求1所述的方法，其特征在于，还包括：

将所述第一模型的累计被访问次数加1，所述累计被访问次数的初始值为0；

确定所述第一模型处理所述应用请求的处理用时；

在设定周期到达时，获取所述在线服务当前已加载的每一模型的累计被访问次数和平均处理用时；

将所述每一模型的累计被访问次数和平均处理用时发送至在线服务管理平台。

8.根据权利要求1所述的方法，其特征在于，还包括：

在设定周期到达时，获取所述在线服务的至少一项运行参数；

将所述至少一项运行参数发送至在线服务管理平台。

9.一种在线服务系统，其特征在于，包括：

接口模块，接收对目标模型的在线服务部署请求；

模型管理模块，根据所述在线服务部署请求将目标模型加载至在线服务对应的模型池中；

所述模型池，将已加载的所述目标模型封装在模型实例中，启动所述目标模型的服务进程。