[发明专利]一种基于OPENCL的异构共同计算均衡方法

权利要求书

1.一种基于OPENCL的异构共同计算均衡方法，该方法应用于CPU+GPU混合异构共同计算系统中，

所述CPU+GPU混合异构共同计算系统划分成三个并行层次：节点间并行、节点内CPU与GPU异构并行、设备内并行，所述设备是指CPU或GPU；CPU+GPU异构共同计算模式为：节点间分布式，节点内异构式，设备内共享式；所述节点间分布式是指节点间采用了分布式的计算方式，所述节点内异构式是指每个节点内部包含一个多核CPU、一个或多个GPU，节点内部采用主从式编程模型，即每个GPU需要由CPU进程或线程调用；所述设备内并行是指每个节点内的所有多核CPU采用了共享存储模型，这些CPU核并行计算，GPU设备内有自己独立的DRAM存储，GPU设备也是共享存储模型，在GPU上采用OpenCL编程控制GPU众核的并行计算；在该系统中，由一个CPU进程/线程负责复杂逻辑和事务处理，其它CPU进程/线程负责小部分并行计算，GPU负责大部分并行计算；

在该方法中，节点内和节点间均采用MPI进程，设计负载均衡时，只需做到进程间或设备之间的负载均衡和CPU设备内OpenMP线程负载均衡、GPU设备内CUDA线程负载均衡即可；对于设备内，GPU设备上只要保证同一warp内的线程负载均衡即可；

在该方法中，采用动态负载均衡方式，即在任务执行过程中，根据各GPU的运行情况重新调整负载分配，动态分配任务；对计算任务进行划分时按照输入数据划分，对于矩阵A×B＝C问题而言，按输入数据划分可以分解为

矩阵A与矩阵B分别按行与列划分为若干数据块，每个数据块的计算为一个任务，每次传输矩阵A与矩阵B的一个数据块至GPU，计算完成之后将数据传回，然后分配下一个任务。

2.根据权利要求1所述的方法，其特征在于，优选的，对输入数据划分时，使任务块的计算时间与其它GPU的一次数据传输的时间相等。

3.根据权利要求1或2所述的方法，其特征在于，对计算任务进行划分时，以“按照输出数据划分”替代“按照输入数据划分”，让不同的GPU做不同位置的结果计算，计算结果完全独立，没有依赖性，对于矩阵A×B＝C问题而言，按输出数据划分可以分解为

将矩阵C分块，将不同块的位置传递给各GPU，当GPU计算完当前块之后可立即分配下一个任务，这样可以做到负载均衡。

4.根据权利要求1-3中任一项所述的方法，其特征在于，采用输入和输出同时划分的方式进行数据划分。

5.根据权利要求1-4中任一项所述的方法，其特征在于，CPU+GPU混合异构共同计算系统采用主从式MPI通信机制，在节点0上多起一个进程作为主进程，控制其它所有进程。

6.根据权利要求1-5中任一项所述的方法，其特征在于，每个节点上启动3个计算进程，其中两个控制GPU设备，一个控制其余所有CPU核的并行。

7.根据权利要求1-6中任一项所述的方法，其特征在于，把节点内的所有多核CPU看作一个设备，采用MPI进程或OpenMP线程、pThread线程控制这些CPU核的并行计算。

8.根据权利要求1-7中任一项所述的方法，其特征在于，CPU+GPU混合异构共同计算系统中各个节点之间通过网络进行连接，节点间采用了分布式的计算方式，采用MPI消息通信的并行编程语言。

9.根据权利要求1-8中任一项所述的方法，其特征在于，CPU+GPU混合异构共同计算系统中所述CPU只负责复杂逻辑和事务处理，GPU进行大规模并行计算。

10.根据权利要求1-9中任一项所述的方法，其特征在于，采用静态负载均衡方式，即在任务执行之前，按各GPU的计算能力比例将任务均匀划分到各GPU上。