[发明专利]基于容器的资源调度方法、装置及容器集群管理装置

说明书

本发明实施例提供一种基于容器的资源调度方法、装置及容器集群管理装置，该方法包括：接收资源申请信息，所述资源申请信息用于请求分配用于运行第一应用的资源；基于所述资源申请信息调用资源管理组件；通过所述资源管理组件控制所述第一应用的资源使用量小于或等于所述第一应用可使用的资源上限值。本发明实施例用于解决多个应用容器共享资源时超出资源使用上限导致无法正常运行的问题。

技术领域

本发明涉及计算机技术领域，尤其涉及一种基于容器的资源调度方法、装置及容器集群管理装置。

背景技术

目前主流的容器集群都支持图形处理器(Graphics Processing Unit，GPU)调度，但是由于部分GPU不支持显存级别的限制和隔离，所以容器集群调度器对于GPU的调度模式都是以GPU为单位调度的独享模式。虽然以GPU为单位调度可以保证应用的高可用性，但很多场景中单个容器对GPU的显存使用量并不大，单个容器无需单独占用整个GPU，因此容器集群对容器共享GPU的需求非常强烈。

当前有的方案支持在调度时刻根据应用申请的显存将多个容器调度到同一个GPU上，但由于各个应用实际使用的显存可能会大于申请的显存，因此当容器集群管理系统将多个容器调度到同一个GPU运行时，调度到同一GPU的容器要使用的显存的总量可以能会大于GPU的显存总量，导致内存溢出(OutOfMemory)而无法正常运行。

发明内容

有鉴于此，本发明实施例提供一种基于容器的资源调度方法、装置及容器集群管理装置，用于解决多个应用容器共享资源时超出资源使用上限导致无法正常运行的问题。

为了实现上述目的，本发明实施例提供技术方案如下：

第一方面，本发明实施例提供一种基于容器的资源调度方法，包括：

接收资源申请信息，所述资源申请信息用于请求分配用于运行第一应用的资源；

基于所述资源申请信息调用资源管理组件；

通过所述资源管理组件控制所述第一应用的资源使用量小于或等于所述第一应用可使用的资源上限值。

作为本发明实施例一种可选的实施方式，所述通过所述资源管理组件控制所述第一应用的资源使用量小于或等于所述第一应用可使用的资源上限值，包括：

通过所述资源管理组件获取所述第一应用依赖的深度学习框架；

根据所述深度学习框架，确定所述第一应用的资源控制方式；

基于所述资源控制方式，控制所述第一应用的资源使用量小于或等于所述第一应用可使用的资源上限值。

作为本发明实施例一种可选的实施方式，所述基于所述资源控制方式，控制所述第一应用的资源使用量小于或等于所述第一应用可使用的资源上限值，包括：

在所述资源控制方式的环境变量中引入可分配用于运行所述第一应用的资源总量和所述第一应用可使用的资源上限值；

根据所述资源控制方式控制所述第一应用的资源使用量与所述资源总量的比值小于或等于所述第一应用可使用的资源上限值与所述资源总量的比值。

作为本发明实施例一种可选的实施方式，所述方法还包括：

根据所述资源申请信息中携带的资源申请量，配置所述第一应用可使用的资源上限值。

作为本发明实施例一种可选的实施方式，所述资源申请信息用于请求分配用于运行第一应用的第一处理器的资源；

其中，所述第一处理器用于部署所述第一应用对应的第一应用容器和至少一个第二应用对应的第二应用容器。

作为本发明实施例一种可选的实施方式，在基于所述资源申请信息调用资源管理组件之前，所述方法还包括：