[发明专利]一种CPU+GPU协同并行计算动态负载均衡方法

权利要求书

1.一种CPU+GPU协同并行计算动态负载均衡方法，其特征在于，所述CPU+GPU协同并行计算动态负载均衡方法利用多核CPU计算设备和GPU架构设备协同并行计算，使CPU和各GPU设备的任务负载匹配各自的计算能力，其主要内容包括：主线程初始化操作、主线程创建计算设备控制线程以及CPU+GPU异构架构中动态负载均衡方案；

在单节点内，主线程处理输入参数并完成相应初始化操作，然后创建1+N个计算设备控制线程，即1个CPU控制线程和N个GPU控制线程，分别控制节点内CPU设备和N个GPU设备，CPU控制线程再根据节点内计算核数创建若干并行计算线程，CPU与GPU设备间采用动态负载均衡方案。

2.根据权利要求1所述的CPU+GPU协同并行计算动态负载均衡方法，其特征在于，所述主线程处理输入参数并完成相应初始化操作中，所述主线程初始化操作包括：扫描节点内GPU计算设备数和型号、节点内CPU计算核数，并为每个GPU设备创建一个GPU属性数据结构对象。

3.根据权利要求1所述的CPU+GPU协同并行计算动态负载均衡方法，其特征在于，所述每个设备控制线程，具有记录其所属计算设备属性信息及作业信息的数据结构；

其中，所述设备属性信息的数据结构成员包括：设备类型、设备ID号及其它设备属性信息；所述作业信息数据结构成员包括：作业大小、作业总时间、单位作业平均时间、相对性能加速比指数。

4.根据权利要求1所述的CPU+GPU协同并行计算动态负载均衡方法，其特征在于，所述CPU控制线程根据启用的节点内计算核数创建若干更细粒度的并行计算线程，并且CPU端各细粒度并行计算线程采用互斥锁的方式通信，并依此竟争计算任务。

5.根据权利要求4所述的CPU+GPU协同并行计算动态负载均衡方法，其特征在于，所述CPU控制线程创建M=SYSCORE_NUM-N个细粒度并行计算线程，SYSCORE_NUM为启用的系统核数，默认为自动检测的系统核数，N为启动的GPU设备数。

6.根据权利要求1所述的CPU+GPU协同并行计算动态负载均衡方法，其特征在于，所述GPU控制线程控制一个GPU计算设备，负责读数据、管理该GPU计算、输出结果数据。

7.根据权利要求1所述的CPU+GPU协同并行计算动态负载均衡方法，其特征在于，所述节点内CPU设备和N个GPU设备中，各设备完全独立并行处理，各设备控制线程需要独立进行数据读写操作；

所述主线程为各设备控制线程分别创建一个输出数据体控制句柄；并且，各设备控制线程需要多线程化的读写接口支持，各控制线程使用线程化读、写接口，分别输出至一个独立的数据体，每个数据体都对应一个独立的头文件，头文件描述了数据体的基本属性。

8.根据权利要求1所述的CPU+GPU协同并行计算动态负载均衡方法，其特征在于，所述CPU+GPU异构架构中的动态负载均衡方案，是指CPU控制线程和N个GPU控制线程根据计算能力强弱，通过互斥锁竟争计算任务；所述动态负载均衡方案兼容纯CPU架构平台和CPU+GPU混合架构平台，并且支持配置多种不同型号GPU设备的工作站系统。

9.根据权利要求1所述的CPU+GPU协同并行计算动态负载均衡方法，其特征在于，在单节点内，主线程等待所有控制线程退出后，完成的后续操作包括：对多个输出的数据体进行拼接、销毁控制线程、销毁进度条、关闭数据体控制句柄、输出作业日志等；其中，对多个输出数据体进行拼接，并没有生成真正的数据体，而只是创建了一个最终输出数据体的头文件，该头文件描述了数据体的名字及基本属性，并指向其包含的多个数据体的头文件。

10.根据权利要求2所述的CPU+GPU协同并行计算动态负载均衡方法，其特征在于，启用的GPU计算设备数和CPU计算线程数可手动配置。