[发明专利]机器学习平台的GPU资源的管理方法及装置

说明书

本发明提供了一种机器学习平台的GPU资源的管理方法及装置，该方法包括：获取机器学习平台中运行的满足筛选要求的应用程序对应的用户；对每一用户，查询机器学习平台中该用户对应的容器中GPU资源的使用情况；在确定该用户对应的容器中GPU资源未被使用时，暂停该用户对应的容器中的GPU资源。本发明可以对机器学习平台的GPU资源进行管理，避免闲置的GPU资源浪费。

技术领域

本发明涉及计算机技术领域，尤其涉及一种机器学习平台的GPU资源的管理方法及装置。

背景技术

智能钛机器学习平台(Ti-One)作为一种机器学习平台，是为AI工程师打造的一站式机器学习服务平台，为用户提供从数据预处理、模型构建、模型训练、模型评估到模型服务的全流程开发及部署支持。Ti-One内置丰富的算法组件，支持多种算法框架，满足多种AI应用场景的需求。自动化建模(AutoML)的支持与拖拽式任务流设计让AI初学者也能轻松上手。

在腾讯TI-One平台中，用户申请Notebook(容器)开展机器学习模型训练。在实际的应用过程中，出现用户申请一个notebook后，对于申请的1个GPU资源采取独占的策略。即申请者在不使用GPU资源的情况下，只要用户启动Notebook，GPU资源会一直被独占，而不会共享给其他人进行使用，使得GPU资源无法充分发挥，闲置的GPU资源浪费大量的硬件计算资源；另外，在搭建GPU计算集群的过程中，被独占的闲置GPU资源占用GPU服务器，导致后续申请用户无法正常申请GPU计算资源。

发明内容

本发明实施例提出一种机器学习平台的GPU资源的管理方法，用以对机器学习平台的GPU资源进行管理，避免闲置的GPU资源浪费，该方法包括：

获取机器学习平台中运行的满足筛选要求的应用程序对应的用户；

对每一用户，查询机器学习平台中该用户对应的容器中GPU资源的使用情况；

在确定该用户对应的容器中GPU资源未被使用时，暂停该用户对应的容器中的GPU资源。

本发明实施例提出一种机器学习平台的GPU资源的管理装置，用以对机器学习平台的GPU资源进行管理，避免闲置的GPU资源浪费，该装置包括：

用户获取模块，用于获取机器学习平台中运行的满足筛选要求的应用程序对应的用户；

查询模块，用于对每一用户，查询机器学习平台中该用户对应的容器中GPU资源的使用情况；

处理模块，用于在确定该用户对应的容器中GPU资源未被使用时，暂停该用户对应的容器中的GPU资源。

本发明实施例还提出了一种计算机设备，包括存储器、处理器及存储在存储器上并可在处理器上运行的计算机程序，所述处理器执行所述计算机程序时实现上述机器学习平台的GPU资源的管理方法。

本发明实施例还提出了一种计算机可读存储介质，所述计算机可读存储介质存储有执行上述机器学习平台的GPU资源的管理方法的计算机程序。

在本发明实施例中，获取机器学习平台中运行的满足筛选要求的应用程序对应的用户；对每一用户，查询机器学习平台中该用户对应的容器中GPU资源的使用情况；在确定该用户对应的容器中GPU资源未被使用时，暂停该用户对应的容器中的GPU资源。在上述过程中，通过查询机器学习平台中该用户对应的容器中GPU资源的使用情况来获得未被使用的GPU资源，并暂停这些未被使用的GPU资源，从而有效避免了GPU资源的浪费。

附图说明

为了更清楚地说明本发明实施例或现有技术中的技术方案，下面将对实施例或现有技术描述中所需要使用的附图作简单地介绍，显而易见地，下面描述中的附图仅仅是本发明的一些实施例，对于本领域普通技术人员来讲，在不付出创造性劳动的前提下，还可以根据这些附图获得其他的附图。在附图中：