[发明专利]基于kubernetes的计算设备共享方法、装置、设备及存储介质

说明书

本发明公开了一种基于kubernetes的计算设备共享方法、装置、设备及存储介质。该方法包括：接收第一待创建pod的第一资源需求量；获取kubernetes集群内若干节点的计算设备空闲资源信息；根据第一资源需求量和若干节点的计算设备空闲资源信息确定第一待创建pod规范，根据第一待创建pod规范选择节点并在选择的节点的计算设备上创建并运行第一待创建pod；若接收到第二待创建pod的第二资源需求量则获取运行第一待创建pod的计算设备资源余量；若第二资源需求量小于等于计算设备资源余量则根据第二资源需求量和第一待创建pod规范确定第二待创建pod规范，根据第二待创建pod规范在运行第一待创建pod的计算设备上创建并运行第二待创建pod。本发明方案提高计算资源利用效率。

技术领域

本发明设计通信领域，尤其涉及一种基于kubernetes的计算设备共享方法、装置、设备及存储介质。

背景技术

近年来，Kubernetes是目前最受欢迎的容器编排工具，支持自定义配置，如负载均衡、容器复制、滚动更新、网络管理等。容器作为一种新的云计算技术出现并被广泛应用于分布式应用程序的开发和部署。随着越来越多的新的以云为中心的应用程序开始依赖计算设备(例如GPU)的高计算吞吐量，如深度学习和高性能应用程序等，因此有必要在容器云中高效地支持计算设备运算。

目前kubernetes的GPU设备插件(Nvidia device plugin)方式支持在容器中调用GPU计算资源，但是并没有对GPU计算资源进行细粒度的划分，每一个容器至少需要占用1个GPU。当一个GPU设备由于GPU工作负载的突发性和有限的内存带宽而不能被单个应用程序充分利用时，导致GPU计算资源利用率的低下。另外，现有技术中还可采用Gaia Schedule方案请参照图1所示，在Kubernetes集群中做GPU虚拟化的方案，以实现为容器分配虚拟化GPU资源并加以限制，然而Gaia Scheduler方案没有实现将GPU作为一级资源进行管理，资源管理者和用户无法对GPU资源进行明确定义和选择，这在资源共享环境中容易产生性能干扰；同时它扩展性不好，无法实现跨节点分配，无法在一个GPU集群中实现对GPU计算资源的有效共享。

发明内容

有鉴于此，有必要针对以上技术问题提供能对计算设备资源的细粒度划分、计算资源的隔离并且实现跨节点的调度和计算资源分配的一种基于kubernetes的计算设备共享方法、装置、设备及存储介质。

根据本发明的一方面，提供了一种基于kubernetes的计算设备共享方法，所述方法包括：

接收第一待创建pod的第一资源需求量；

获取kubernetes集群内若干节点的计算设备空闲资源信息；

根据所述第一资源需求量和若干节点的计算设备空闲资源信息确定第一待创建pod规范，并根据所述第一待创建pod规范选择节点并在选择的节点的计算设备上创建并运行所述第一待创建pod；

若接收到第二待创建pod的第二资源需求量，则获取运行第一待创建pod的计算设备资源余量；

若所述第二资源需求量小于等于所述计算设备资源余量，则根据所述第二资源需求量和所述第一待创建pod规范确定第二待创建pod规范，并根据所述第二待创建pod规范在运行所述第一待创建pod的计算设备上创建并运行所述第二待创建pod。

在其中一个实施例中，所述计算设备包括：GPU、FPGA、高性能NIC、InfiniBand和人工智能芯片。

在其中一个实施例中，所述接收第一待创建pod的第一资源需求量的步骤包括：

通过客户端获取输入的第一待创建pod的第一资源需求量；

利用接口调用服务将所述第一资源需求量发送至调度器。