[发明专利]显存动态数据存储方法、装置及服务器

说明书

本申请实施例提供一种显存动态数据存储方法、装置及服务器，将显示存储区域区分为多个单独的显存分页，多个显存分页通过使用分页管理表单进行状态管理，进而可以基于多个显存分页进行特征数据计算，无需每次进行全局数据运算，可以更有效利用显存和图形计算单元的算力，提高显存利用率，并且在需要进行动态更新特征数据时只需新创建显存分页即可，无需进行全局内存块销毁重建，进而解决了数据库动态扩容问题，并且针对每个显存分页的分页配置信息的设定考虑到了图形计算单元的单元配置信息，进一步提高了并行加速的效果。

技术领域

本申请涉及基于人工智能算法的显存优化技术领域，具体而言，涉及一种显存动态数据存储方法、装置及服务器。

背景技术

相关技术中，为了给人工智能算法提供快速的特征库对比功能，很多基于图形计算单元GPU加速的算法随之出现，其基本思想是使用图形计算单元的众多核心和高速显存进行并行加速运算。由图形计算单元并行运算的基本属性决定，显存中的数据必须连续存储，才能达到并行加速的效果。应业务逻辑和并发处理的需求，同时还要求能够存储多个分组的特征数据，并支持数据实时动态调整。

本申请发明人研究发现，现有的并行加速方法，以单张图形计算单元为例，是预先按照全局方式分配最大需要的显存，在进行特征数据对比时，进行全局数据运算。当数据量少时会存在空白的无效数据，且无效数据并没有位于全局底内存块的尾部，所以人工智能算法在运行时无法有效利用显存，为了保证总体运算时间一致性，只能进行全局数据运算，这样空白数据的计算会导致显存和图形计算单元算力的浪费。并且，在对特征数据进行更新时，当超过预先分配的最大容量时，需要进行动态扩充数据，只有将全局内存块销毁重建，全局的销毁重建以及更新特征数据的填充需要消耗大量时间和资源，进而会造成运算服务的中断。

发明内容

基于单指令多线程（SIMT）并行计算模式的特点和要求，以及现有设计的不足，本申请实施例提供一种显存动态数据存储方法、装置及服务器，将显示存储区域区分为多个单独的显存分页，多个显存分页通过使用分页管理表单进行状态管理，进而可以基于多个显存分页进行特征数据计算，无需每次进行全局数据运算，可以更有效利用显存和图形计算单元算力，提高显存利用率，并且在需要进行动态更新特征数据时只需新创建显存分页即可，无需进行全局内存块销毁重建，进而解决了数据库动态扩容问题，并且每个显存分页的分页配置信息的设定考虑到了图形计算单元的单元配置信息，进一步提高了并行加速的效果。

根据本申请的第一方面，提供一种显存动态数据存储方法，应用于服务器，所述方法包括：

获取所述服务器的图形计算单元的单元配置信息；

根据所述单元配置信息设定所述图形计算单元的显示存储区域的显存分页的分页配置信息，并创建用于对每个显存分页进行状态管理的分页管理表单；

在检测到特征数据更新指令时，根据所述分页管理表单和所述显存分页的分页配置信息对对应的显存分页进行特征数据更新。

在第一方面的一种可能的实施方式中，所述根据所述单元配置信息设定所述图形计算单元的显示存储区域的显存分页的分页配置信息的步骤，包括：

获取所述单元配置信息中所述图形计算单元的单个流式多核处理器的并发块数量WP和每个并发块的并发线程数WT；

根据单个流式多核处理器的并发块数量WP和每个并发块的并发线程数WT，计算得到所述显存分页的最大分页显存容量，作为所述显存分页的分页配置信息。

在第一方面的一种可能的实施方式中，所述分页管理表单包括每个已创建显存分页的分页管理单元，所述分页管理单元用于存储对应的已创建显存分页的分页地址、分页状态信息和分页特征数据标签；

所述在检测到特征数据更新指令时，根据所述分页管理表单和所述显存分页的分页配置信息对对应的显存分页进行特征数据更新的步骤，包括：