[发明专利]显存管理方法及相关产品

说明书

本申请实施例公开了一种显存管理方法及相关产品，该方法包括：接收显存申请，获取所述显存申请所需的初始显存容量；根据所述初始显存容量确定所需的目标显存容量；根据所述目标显存容量得到与所述显存申请对应的目标显存块；将所述显存申请对应的待缓存文件缓存至所述目标显存块。本申请实施例有利于提高对显存块的利用率。

技术领域

本申请涉及计算机技术领域，具体涉及一种显存管理方法及相关产品。

背景技术

随着人工智能技术的发展，对计算性能的要求越来越高，对计算过程中所需的数据进行适配的缓存，是提高计算性能的一个重要途经。在图像处理过程中，会将图像数据缓存到图形处理器(英语：Graphics Processing Unit，GPU)所管理的显存块中，为提高显存的使用效率，提升系统运行的整体性能，采用显存管理模块完成显存块的分配和回收。

显存管理模块通常采用以下两种方式完成显存块的分配和回收，(1)针对系统的显存申请，每次为其分配一个固定大小的显存块，以缓存显存申请对应的文件数据，但是显存块的大小由用户提前设置，如设置过小，当遇到较大的显存申请时，该显存块无法满足缓存需求，如设置过大，当遇到较小的显存申请时，分配的显存块中块内碎片过大；(2)针对系统的申请请求，为其分配等于申请大小的显存块，这种方式会导致在显存申请大小不一样时，会分配出各种大小的显存块，在接收到新的显存申请时，无法复用分配过的显存块，每次都需要重新分配新的显存块，导致对显存块的利用。

现有的显存分配方式单一，对显存块的利用率低。

发明内容

本申请实施例提供了一种显存管理方法及相关产品，预先建立显存块容器池，通过显存块容器池管理已释放的显存块，从而提高已分配显存块再次被使用的概率，通过计算规则分配显存块的大小，减少已分配的显存块的块内碎片大小。

第一方面，本申请实施例提供一种显存管理方法，包括：

接收显存申请，获取所述显存申请所需的初始显存容量；

根据所述初始显存容量确定所需的目标显存容量；

根据所述目标显存容量得到与所述显存申请对应的目标显存块；

将所述显存申请对应的待缓存文件缓存至所述目标显存块。

第二方面，本申请实施例提供一种显存管理装置，包括：

获取单元，用于接收显存申请，获取所述显存申请所需的初始显存容量；

显存容量确定单元，用于根据所述初始显存容量确定所需的目标显存容量；

显存块确定单元，用于根据所述目标显存容量得到与所述显存申请对应的目标显存块；

缓存单元，用于将所述显存申请对应的待缓存文件缓存至所述目标显存块。

第三方面，本申请实施例提供一种电子设备，包括处理器、存储器、通信接口以及一个或多个程序，其中，所述一个或多个程序被存储在所述存储器中，并且被配置由所述处理器执行，所述程序包括用于执行如第一方面所述的方法中的步骤的指令。

第四方面，本申请实施例提供一种计算机可读存储介质，所述计算机可读存储介质存储有计算机程序，所述计算机程序使得计算机执行如第一方面所述的方法。

第五方面，本申请实施例提供一种计算机程序产品，所述计算机程序产品包括存储了计算机程序的非瞬时性计算机可读存储介质，所述计算机可操作来使计算机执行如第一方面所述的方法。

实施本申请实施例，具有如下有益效果：