[发明专利]GPU资源管理方法、调度方法、装置、电子设备及存储介质

说明书

本发明实施例涉及GPU资源管理技术领域，提供了一种GPU资源管理方法、调度方法、装置、电子设备及存储介质，所述GPU资源管理方法包括：利用管理Pod对工作节点上的GPU卡进行检测；若检测到GPU卡，则利用管理Pod获取工作节点的GPU资源；将工作节点的GPU资源发送至主节点，以使主节点对GPU资源进行调度。本发明实施例通过利用内置有GPU卡驱动组件的管理Pod自动对工作节点上的GPU卡进行检测，并将检测到的GPU卡的GPU资源发送至主节点，以便由主节点对GPU资源进行调度，从而简化了GPU卡资源的管理和使用过程，实现了GPU卡资源的自动管理和调度。

技术领域

本发明涉及GPU资源管理技术领域，具体而言，涉及一种GPU资源管理方法、调度方法、装置、电子设备及存储介质。

背景技术

图形处理器GPU(Graphics Processing Unit，GPU)资源是云计算领域一种成本昂贵的计算资源，广泛应用于深度学习、图形图像处理、视频编解码、图形数据库、高性能计算、分子建模、基因组学等工作场景。

在基于Kubernetes集群的云平台中，Kubernetes集群中的每个工作节点上的GPU资源均需要在各自工作节点上安装对应的GPU卡的驱动程序，才能检测到该GPU卡的GPU资源，GPU资源的管理和使用过程过于繁琐。

发明内容

本发明的目的在于提供了一种GPU资源管理方法、调度方法、装置、电子设备及存储介质，其能够简化GPU卡资源的管理和使用过程，实现GPU卡资源的自动管理和调度。

为了实现上述目的，本发明实施例采用的技术方案如下：

第一方面，本发明实施例提供一种GPU资源管理方法，应用于Kubernetes集群中的工作节点，所述Kubernetes集群还包括主节点，所述主节点与所述工作节点通信连接，所述工作节点运行有管理Pod，所述管理Pod内置有GPU卡驱动组件，所述方法包括：利用所述管理Pod对所述工作节点上的GPU卡进行检测；若检测到GPU卡，则利用所述管理Pod获取所述工作节点的GPU资源；利用所述管理Pod将所述工作节点的GPU资源发送至所述主节点，以使所述主节点对所述GPU资源进行调度。

进一步地，所述方法还包括：

当所述工作节点的GPU卡的工作状态发生变化时，利用所述管理Pod对所述工作节点上的GPU卡重新检测；

统计重新检测到的GPU卡的GPU资源，得到所述工作节点的当前GPU资源；

将所述工作节点的当前GPU资源同步至所述主节点，以指示所述主节点对所述工作节点的GPU资源进行更新。

进一步地，所述工作节点运行有多个已创建的应用Pod，所述方法还包括：

获取每一所述应用Pod的GPU资源配置；

根据每一所述应用Pod的GPU资源配置，对所述工作节点的GPU资源进行隔离，以使每一所述应用Pod均可获取每一所述应用Pod的GPU资源配置所需的GPU资源。

进一步地，所述检测到的GPU卡为多个，所述利用所述管理Pod获取所述工作节点的GPU资源的步骤包括：

获取检测到的每一所述GPU卡的GPU资源；

对所有检测到的所述GPU卡的GPU资源进行统计，得到所述工作节点的GPU资源。

第二方面，本发明实施例提供一种GPU资源调度方法，应用于Kubernetes集群中的主节点，所述Kubernetes集群还包括工作节点，所述工作节点与所述主节点通信连接，所述工作节点运行有管理Pod，所述管理Pod内置有GPU卡驱动组件，所述方法包括：