[发明专利]分配GPU卡的数量的方法、装置、电子设备和存储介质

说明书

本发明涉及一种分配GPU卡的数量的方法、装置、电子设备和存储介质，该方法包括：获取图形处理器GPU卡的类型，根据所述图形处理器GPU卡的类型注册资源名字；获取用户提交的任务启动参数，所述任务启动参数包括：用户使用的图形处理器GPU卡的类型以及用户需要的图形处理器GPU卡的数量，采用资源最大化利用的原则，根据所述资源名字和所述任务启动参数为所述任务分配图形处理器卡的数量。本申请实施例中通过为不同类型的图形处理器GPU卡注册不同的资源名字，从而通过节点和任务启动参数分配图形处理器卡GPU的数量，不仅提高了集群的整体图形处理器卡GPU的利用率，而且提升了图形处理器GPU节点调度的灵活性。

技术领域

本发明涉及计算资源分配技术领域，具体涉及一种分配GPU卡的数量的方法、装置、电子设备和存储介质。

背景技术

目前，通过插件自动发现不同计算节点的GPU卡类型，插件将卡的设备信息上报到计算节点的代理，代理将资源名字等设备信息注册到api-server,代理负责轮询插件的信息，实时维护设备的状态。后端的任务分配器能够获取每个节点每种类型的卡的数量，并根据用户的任务请求调用最优化分解算法分配具体类型的GPU卡到相应的节点。但是，在目前的超算场景下，为训练任务分配计算力资源时，它通常是随机分配容器所在节点的GPU，而不能指定使用某类GPU类型。在多机多卡场景下，剩余卡的分配策略不够灵活，没办法根据最优化原则，现有集群无法根据卡的类型限制用户使用的配额。

发明内容

本发明提供一种分配分配GPU卡的数量的方法、装置、电子设备和存储介质，能够解决上述技术问题。

本发明解决上述技术问题的技术方案如下：

第一方面，本发明实施例提供了一种分配GPU卡的数量的方法，包括：

获取图形处理器GPU卡的类型，根据所述图形处理器GPU卡的类型注册资源名字；

获取用户提交的任务启动参数，所述任务启动参数包括：用户使用的图形处理器GPU卡的类型以及用户需要的图形处理器GPU卡的数量；

采用资源最大化利用的原则，根据所述资源名字和所述任务启动参数为所述任务分配图形处理器卡的数量。

在一些实施例中，所述采用资源最大化利用的原则为所述任务分配图形处理器卡的数量，包括：

根据所述资源名字查询每个候选节点可用的总图形处理器GPU卡数，以及当前任务使用的图形处理器GPU数目，确定所述每个候选节点剩余的图形处理器GPU卡的数量，为所述任务分配图形处理器卡的数量。

在一些实施例中，所述根据所述资源名字查询候选节点可用的总图形处理器GPU卡的数量，以及当前任务使用的图形处理器GPU卡的数量，确定每个候选节点剩余的图形处理器GPU卡的数量，为所述任务分配图形处理器卡的数量，包括：

当确定用户需要的图形处理器GPU卡的数量大于集群剩余的图形处理器GPU卡的数量时，将所述任务加入等待队列中；

当确定用户需要的图形处理器GPU卡的数量小于所述集群剩余的图形处理器GPU卡的数量时，根据剩余最少的节点原则分配图形处理器GPU卡的数量。

在一些实施例中，上述方法还包括：

获取所述集群各个节点的图形处理器GPU卡的数量，中央处理器以及内存；

根据预设比值的加权比分别对所述集群各个节点做加权打分；

根据加权比高的组合分配图形处理器GPU卡的数量。

在一些实施例中，上述方法还包括：

根据所述用户需要的图形处理器GPU卡的类型，向所述节点申请GPU卡的类型对应的资源；