[发明专利]一种面向电网调控业务的AI模型服务化共享方法及系统

权利要求书

1.一种面向电网调控业务的AI模型服务化共享方法，其特征在于，包括如下步骤：

获取AI模型仓库，所述AI模型仓库包括多个模型集，每个模型集中存储有多个相同类型的AI模型；

以AI模型仓库中的模型集为粒度在集群系统中创建AI模型的模型在线服务；

通过启动模型在线服务将AI模型仓库中的AI模型保存到集群系统中；

根据外部请求从集群系统中加载AI模型。

2.根据权利要求1所述的一种面向电网调控业务的AI模型服务化共享方法，其特征在于，AI模型仓库中的每个模型集配置有唯一的模型集ID，同一个模型集包括一个或多个模型集版本，每个模型版本配置有唯一的模型集版本ID；AI模型仓库中的每个AI模型配置有唯一的模型UID。

3.根据权利要求2所述的一种面向电网调控业务的AI模型服务化共享方法，其特征在于，AI模型仓库中设置有模型集信息表、模型集版本信息表和AI模型信息表，均为二维表形式；模型集信息表包括模型集ID、模型集名称、模型类型、模型来源；模型集版本信息表包括模型集ID、模型集版本ID、更新时间；AI模型信息表包括模型UID、模型集ID、模型集版本ID、更新时间。

4.根据权利要求1所述的一种面向电网调控业务的AI模型服务化共享方法，其特征在于，AI模型仓库的构建方法为：

通过电网调控业务训练获取多个AI模型，并将获取到的AI模型以内存块形式暂存；

利用校验算法计算内存块的特征值，记为第一特征值；

将内存块与第一特征值共同发送给服务器的文件管理服务；

文件管理服务利用校验算法再次计算内存块的特征值，记为第二特征值；

判断第一特征值与第二特征值是否相同，如果相同，从内存块中获取AI模型，并将AI模型存储到AI模型仓库对应的模型集中。

5.根据权利要求1或2所述的一种面向电网调控业务的AI模型服务化共享方法，其特征在于，模型在线服务的创建方法包括：

获取服务名称、实例数、CPU、GPU和内存；

根据模型集ID、模型集版本ID和服务名称，设置模型在线服务的集群标签为“app=服务名称-集群ID”；

调用Kubernetes API创建Deployment，Deployment的标签label为集群标签；

通过Deployment创建ReplicaSet，并利用ReplicaSet在系统后台创建与实例数相等个数的Pod；

调用Kubernetes API创建Service，并将Service的selector和Deployment的label设置一致；

调用Kubernetes API创建Ingress，并将Ingress与Service关联起来。

6.根据权利要求1所述的一种面向电网调控业务的AI模型服务化共享方法，其特征在于，通过启动模型在线服务将AI模型仓库中的AI模型保存到集群系统中的方法为：

根据模型集ID、模型集版本ID从AI模型仓库中获取对应的模型UID列表；

根据模型UID列表，通过文件管理服务从AI模型仓库中批量获取AI模型，并将获取到的AI模型以内存块形式暂存；

利用校验算法计算内存块的特征值，记为第一特征值；

通过文件管理服务将第一特征值与内存块一起发送至集群系统；

集群系统利用校验算法再次计算内存块的特征值，记为第二特征值；

判断第一特征值与第二特征值是否相同，如果相同，将该内存块保存至集群系统。

7.根据权利要求5所述的一种面向电网调控业务的AI模型服务化共享方法，其特征在于，在集群系统中，通过修改Ingress对象的backend配置信息进行模型在线服务的蓝绿集群部署升级。