[发明专利]一种用于城市大脑AI计算的算法模型调度系统及方法

说明书

本发明涉及一种用于城市大脑AI计算的算法模型调度系统及方法，该系统包括：资源监控模块，用于对AI算法和AI模型所依赖的资源使用量进行实时监控；自动装箱模块，用于对不同的AI算法和AI模型进行容器化部署；资源分配模块，用于将所述资源监控模块监控到的资源使用量与预设阈值进行比较，并根据比较结果，按照预先设定的资源分配策略自动给相关的AI算法和AI模型重新分配资源。本发明通过实时监控资源使用量来调整分配的资源，为AI算法和AI模型提供资源的最优配置，在保证执行效率的同时，避免资源的浪费，通过AI算法和AI模型的容器化部署，可将第三方厂商提供的不同算法和模型进行封装，独立部署、独立运行，避免资源的互相干扰。

技术领域

本发明属于人工智能领域，具体涉及一种用于城市大脑AI计算的算法模型调度系统及方法

背景技术

智慧城市是指以数据为依托、以需求为驱动的城市资源最优化调配解决方案。将有限的资源应用到无限的城市服务中。根据实时数据及各类信息，综合调配、调控城市的公共资源，最终实现城市运行智能化、运行效率最优化。而“城市大脑“作为城市级平台，作为智慧城市基础设施的核心部件，在智慧城市高速发展的需求推动下应运而生，成为向新型智慧城市全面发展的必要条件。目前“城市大脑”通过汇集政府、企业、社会的城市多源数据资源，形成城市大脑“数据湖”，并利用AI算法和AI模型，能够动态地感知城市运行体征，实时监测城市的运行状态，也基本涵盖了政务服务、交通运行、生态环境、社会治理、医疗、教育等各个领域。

目前在“城市大脑”中，各领域的AI模型和AI算法所消耗的资源都是提前预分配的，不能实时监控，动态调整，无法实现资源的最优化配置。例如发生突发事件时，导致所需资源在短时间内急剧增加，超出了预分配的额度时，系统不能及时响应，导致阻塞、延迟。

发明内容

针对上述技术问题，本发明提供一种用于城市大脑AI计算的算法模型调度系统及方法。通过对系统资源消耗情况的实时监控，实现资源统一管理，高效利用AI模型和AI算法的能力，完善“城市大脑”的AI建设，推动智慧城市的发展。

本发明解决上述技术问题的技术方案如下：

一种用于城市大脑AI计算的算法模型调度系统，包括：

资源监控模块，用于对AI算法和AI模型所依赖的资源使用量进行实时监控；

自动装箱模块，用于对不同的AI算法和AI模型进行容器化部署；

资源分配模块，用于将所述资源监控模块监控到的资源使用量与预设阈值进行比较，并根据比较结果，按照预先设定的资源分配策略自动给相关的AI算法和AI模型重新分配资源。

本发明的有益效果是：通过实时监控资源使用量来调整分配的资源，为AI算法和AI模型提供资源的最优配置，在保证执行效率的同时，避免资源的浪费，通过AI算法和AI模型的容器化部署，可将第三方厂商提供的不同算法和模型进行封装，独立部署、独立运行，避免资源的互相干扰。

在上述技术方案的基础上，本发明还可以做如下改进。

进一步，所述系统还包括：

自我修复模块，用于在容器化部署的AI算法和AI模型发生异常宕机时，按照预先设置的恢复策略，恢复AI算法和AI模型。

采用上述进一步方案的有益效果是，实现核心的AI算法和AI模型高可用性，通过实时监控，及时发现异常情况并自动修复。

进一步，所述系统还包括：

服务发现模块，用于将AI算法和AI模型注册到统一的注册中心；

负载均衡模块，用于通过负载均衡的机制，分配各个负载的资源使用量。