[发明专利]数据缓存的管理与调度方法、装置、电子设备和存储介质

说明书

本发明涉及一种数据缓存的管理与调度方法、装置、电子设备和存储介质，该方法应用于包括缓存控制器和缓存调度器的系统中，包括：集群的API‑server接收到用户创建缓存数据集的请求；缓存控制器监听到创建缓存数据集任务的请求，根据用户自定义的值调用回调函数创建所述缓存数据集；缓存调度器接收到创建缓存数据集的请求，根据相应的调度策略下发所述缓存数据集，缓存数据集创建成功。本申请通过将缓存数据纳管为集群的自定义资源，使得缓存能够被监测与控制，实现了全生命周期的管理，通过缓存调度器，使得用户能够接入更多的调度策略，在缓存的管理上能够具有更丰富的手段，能够适应更多的复杂场景；使得资源的调度更加高效，避免了手工运维的难题。

技术领域

本发明涉及数据缓存管理技术领域，具体涉及数据缓存的管理与调度方法、装置、电子设备和存储介质。

背景技术

目前，基于kubernetes构建的传统的大规模机器学习平台的缓存没有基于生命周期管理；缓存在机器学习平台上没有办法像调度kubernetes自有的容器一样具有相应的自动化生命周期管理；平台的深度学习任务使用缓存的时候，只能手动指定分配到具有缓存的节点上，当超大规模的任务同时使用缓存的时候，没办法具有有效的策略来调度缓存与任务的适配关系。

发明内容

本发明提供一种数据缓存的管理与调度方法、装置、电子设备和存储介质，能够解决上述技术问题。

本发明解决上述技术问题的技术方案如下：

第一方面，本发明实施例提供一种数据缓存的管理与调度方法，应用于包括缓存控制器和缓存调度器的系统中，包括：

集群的API-server接收到用户创建缓存数据集的请求；

缓存控制器监听到创建缓存数据集任务的请求，根据用户自定义的值调用回调函数创建所述缓存数据集；

缓存调度器接收到创建缓存数据集的请求，根据相应的调度策略下发所述缓存数据集，缓存数据集创建成功；

用户自定义的值包括：缓存数据集的容量、缓存数据集的状态，缓存数据集的底层存储的数据路径。

进一步地，上述数据缓存的管理与调度方法还包括：

集群的API-server接收到用户提交的带有所述缓存数据集的任务创建请求；

集群的原生控制器接收到任务的创建请求；

缓存调度器根据缓存数据集的信息、pod的创建信息、节点的信息以及相应的调度策略信息下发资源到节点；

代理在节点创建任务。

进一步地，上述数据缓存的管理与调度方法还包括：

缓存调度器从集群的API-server获取所述缓存数据集的信息和节点的信息；

其中，缓存数据集的信息包括：缓存数据集的容量、缓存数据集的状态，缓存数据集的底层存储的数据路径；节点的信息包括：节点本身每个机器总内存大小、可分配内存的大小；

缓存数据集的信息和节点的信息均放置在Cache内。

进一步地，上述数据缓存的管理与调度方法中，

缓存调度器内包含session模块，session模块根据集群的调度策略与当前集群的信息，确定合适的节点，将资源与节点名字进行绑定，调用节点本身的代理进行资源的创建。

进一步地，上述数据缓存的管理与调度方法中：

调度策略是通过插件的形式加载在缓存调度器上的，用户在使用的时候指定调度策略的名字，缓存调度器调度的时候就会自动选择相应的调度策略进行资源的调度。