[发明专利]基于kubernetes的计算设备共享方法、装置、设备及存储介质

权利要求书

1.一种基于kubernetes的计算设备共享方法，其特征在于，所述方法包括：

接收第一待创建pod的第一资源需求量；

获取kubernetes集群内若干节点的计算设备空闲资源信息；

根据所述第一资源需求量和若干节点的计算设备空闲资源信息确定第一待创建pod规范，并根据所述第一待创建pod规范选择节点并在选择的节点的计算设备上创建并运行所述第一待创建pod；

若接收到第二待创建pod的第二资源需求量，则获取运行第一待创建pod的计算设备资源余量；

若所述第二资源需求量小于等于所述计算设备资源余量，则根据所述第二资源需求量和所述第一待创建pod规范确定第二待创建pod规范，并根据所述第二待创建pod规范在运行所述第一待创建pod的计算设备上创建并运行所述第二待创建pod。

2.根据权利要求1所述的方法，其特征在于，所述计算设备包括：GPU、FPGA、高性能NIC、InfiniBand和人工智能芯片。

3.根据权利要求1所述的方法，其特征在于，所述接收第一待创建pod的第一资源需求量的步骤包括：

通过客户端获取输入的第一待创建pod的第一资源需求量；

利用接口调用服务将所述第一资源需求量发送至调度器。

4.根据权利要求3所述的方法，其特征在于，所述计算设备为GPU，所述获取kubernetes集群内若干节点的计算设备的空闲资源信息的步骤包括：

将调度器配置为通过虚拟GPU池管理管理所述kubernetes集群内若干节点的GPU；

利用调度器从所述虚拟GPU池查询若干虚拟GPU的信息，并根据所述若干虚拟GPU的信息确定对虚拟GPU对应的节点的GPU空闲资源信息。

5.根据权利要求4所述的方法，其特征在于，所述根据所述第一资源需求量和若干节点的计算设备空闲资源信息确定第一待创建pod规范，并根据所述第一待创建pod规范选择节点并在选择的节点的计算设备上创建并运行所述第一待创建pod的步骤包括：

调度器建立第一待创建pod规范，并从若干节点选择目标节点和随机生GPUID；

将所述目标节点和随机生的GPUID更新到第一待创建pod规范中；

调度器将更新后的第一待创建pod规范传递给设备管理器；

若设备管理器监测到虚拟GPU池中没有所述随机生的GPUID，则创建与所述随机生的GPUID对应的虚拟GPU，并将虚拟GPU与随机生的GPUID对应的真实的GPU进行链接；

利用设备管理器获取与所述随机生的GPUID链接的真实的GPU的UUID并利用所述目标节点创建pod，以及利用第一资源需求量配置该新建pod的环境变量。

6.根据权利要求5所述的方法，其特征在于，所述若接收到第二待创建pod的第二资源需求量，则获取运行第一待创建pod的计算设备资源余量的步骤包括：

通过客户端获取输入的第二待创建pod的第二资源需求量；

利用接口调用服务将所述第二资源需求量发送至调度器；

利用调度器查询虚拟GPU池中与所述随机生的GPUID对应的虚拟GPU的资源余量。

7.根据权利要求6所述的方法，其特征在于，所述若所述第二资源需求量小于等于所述计算设备资源余量，则根据所述第二资源需求量和所述第一待创建pod规范确定第二待创建pod规范，并根据所述第二待创建pod规范在运行所述第一待创建pod的计算设备上创建并运行所述第二待创建pod的步骤包括：

调度器建立第二待创建pod规范；

若调度器确定所述第二资源需求量小于等于所述随机生的GPUID对应的虚拟GPU的资源余量，则将所述第一待创建pod规范中的GPUID和所述第二资源需求量更新到第二待创建pod规范中，并将更新后的第二待创建pod规范传递给设备管理器；

利用设备管理器获取与所述随机生的GPUID链接的真实的GPU的UUID并利用所述目标节点创建pod，以及利用第二资源需求量配置该新建pod的环境变量。