[发明专利]一种轻量级智能服务构建和运行支撑方法

权利要求书

1.一种轻量级智能服务构建和运行支撑系统，其特征在于，建立智能服务构建模块和容器化部署模块；

所述智能服务构建模块用于构建智能服务，所述智能服务由智能算法脚本基于Web应用框架改造而成，在Web应用启动时对算法开发过程中得到的智能模型文件进行预加载，使用Gunicorn作为HTTP服务器，接收和处理用户的请求；

所述容器化部署模块用于，基于容器编排引擎Kubernetes对智能服务进行容器化部署和管理，并由私有镜像仓库Harbor提供镜像管理支撑。

2.根据权利要求1所述的系统，其特征在于，所述智能服务由智能算法脚本基于Web应用框架改造而成，包括：基于智能框架的模型预加载、REST请求内容的解析和智能推理结果的处理。

3.根据权利要求2所述的系统，其特征在于，所述Kubernetes集群包括主节点和子节点，通过在Kubernetes集群的主节点创建deployment，将服务下发到子节点。

4.根据权利要求3所述的系统，其特征在于，在Kubernetes集群的主节点创建deployment时，指定持久化存储卷挂载，将服务的web工程和智能算法的模型文件挂载到服务所在容器中；同时，指定NVIDIA驱动挂载，以支持在容器中调用GPU进行智能推理；

根据服务运行资源需求，指定容器内的CPU、GPU、内存资源限额；

指定容器端口，配合创建service实现端口映射。

5.根据权利要求4所述的系统，其特征在于，使用可视化管理工具Kubernetesdashboard对智能服务进行监控，包括监控CPU、内存资源分配情况和容器的运行状态；使用kubectl命令行工具对智能服务进行管理，包括服务部署、删除、滚动升级、动态伸缩。

6.根据权利要求5所述的系统，其特征在于，使用Harbor作为镜像仓库进行镜像管理，镜像仓库提供各种CPU架构的服务构建基础镜像，以及MySQL、Redis、Nginx服务相关支撑组件镜像。

7.根据权利要求6所述的系统，其特征在于，所述服务构建基础镜像内预装Django、Flask、Gunicorn、TensorFlow、Keras、Celery智能服务所需Python模块。