[发明专利]GPU集群共享显存系统、方法、装置及设备

权利要求书

1.一种GPU集群共享显存系统，其特征在于，包括：

应用开发装置，用于以GPU集群全局虚拟显存地址空间为编程视图，确定目标应用使用GPU集群全局虚拟显存资源的程序代码，所述程序代码不包括在不同计算节点间传输显存数据的代码；

应用运行装置，部署在第一计算节点上，用于根据为目标应用分配的全局虚拟显存地址空间，确定目标应用的GPU集群全局显存地址映射信息；在目标应用访问GPU显存发生缺页异常时，根据所述全局显存地址映射信息，确定目标页面数据所在的第二计算节点；将第二计算节点中的目标页面数据调入至第一计算节点的GPU显存，目标应用从第一计算节点的GPU显存中读取目标页面数据。

2.一种软件编辑器，其特征在于，用于以GPU集群全局虚拟显存地址空间为编程视图，确定目标应用使用GPU集群全局虚拟显存资源的程序代码，所述程序代码不包括在不同计算节点间传输显存数据的代码；

其中，所述目标应用部署至第一计算节点运行，第一计算节点根据目标应用的全局虚拟显存地址空间，确定目标应用的GPU集群全局显存地址映射信息；在目标应用访问GPU显存发生缺页异常时，根据所述全局显存地址映射信息，确定目标页面数据所在的第二计算节点；将第二计算节点中的目标页面数据调入至第一计算节点的GPU显存，目标应用从第一计算节点的GPU显存中读取目标页面数据。

3.一种GPU集群共享显存装置，其特征在于，包括：

物理显存分配单元，用于根据运行在第一计算节点上的目标应用的GPU集群全局虚拟显存地址空间，确定目标应用的GPU集群全局显存地址映射信息；

物理显存节点确定单元，用于在目标应用访问GPU显存发生缺页异常时，根据所述全局显存地址映射信息，确定目标页面数据所在的第二计算节点；

跨节点页面置换单元，用于将第二计算节点中的目标页面数据调入至第一计算节点的GPU显存，目标应用从第一计算节点的GPU显存中读取目标页面数据。

4.根据权利要求3的装置，其特征在于，

所述跨节点页面置换单元，具体用于通过远程直接内存访问RDMA网络，将第二计算节点中的目标页面数据调入至第一计算节点的GPU显存。

5.根据权利要求3的装置，其特征在于，

所述跨节点页面置换单元，具体用于向第二计算节点发送页面请求；将第二计算节点回送的目标页面数据调入第一计算节点的GPU显存。

6.根据权利要求3的装置，其特征在于，还包括：

映射信息更新单元，用于更新所述全局显存地址映射信息。

7.一种GPU集群共享显存方法，其特征在于，

以GPU集群全局虚拟显存地址空间为编程视图，确定目标应用使用GPU集群全局虚拟显存资源的程序代码，所述程序代码不包括在不同计算节点间传输显存数据的代码；

其中，所述目标应用部署至第一计算节点运行，第一计算节点根据目标应用的全局虚拟显存地址空间，确定目标应用的GPU集群全局显存地址映射信息；在目标应用访问GPU显存发生缺页异常时，根据目标应用的全局显存地址映射信息，确定目标页面数据所在的第二计算节点；将第二计算节点中的目标页面数据调入至第一计算节点的GPU显存，目标应用从第一计算节点的GPU显存中读取目标页面数据。

8.一种GPU集群共享显存方法，其特征在于，包括：

根据运行在第一计算节点上的目标应用的GPU集群全局虚拟显存地址空间，确定目标应用的GPU集群全局显存地址映射信息；

在目标应用访问GPU显存发生缺页异常时，根据目标应用的全局显存地址映射信息，确定目标页面数据所在的第二计算节点；

将第二计算节点中的目标页面数据调入至第一计算节点的GPU显存，目标应用从第一计算节点的GPU显存中读取目标页面数据。