[发明专利]GPU编程模型中核函数最优尺寸求解方法及装置

权利要求书

1.一种GPU编程模型中核函数最优尺寸求解方法，其特征在于，包括：

获取GPU硬件结构的结构参数；

获取并行应用程序中预设的分析参数；

根据所述结构参数和所述分析参数建立时间开销模型；

根据所述时间开销模型建立尺寸优化模型；

对所述尺寸优化模型进行求解获得核函数最优尺寸并输出；

其中，根据所述结构参数和所述分析参数建立时间开销模型，包括：

根据所述所述结构参数和所述分析参数获得线程簇访存并行度和线程簇计算并行度；

根据所述结构参数、分析参数、线程簇访存并行度和线程簇计算并行度获得线性块在核函数上的分配时间模型和执行时间模型；

将所述分配时间模型和所述执行时间模型进行整合获得时间开销模型；

根据所述所述结构参数和所述分析参数获得线程簇访存并行度和线程簇计算并行度，包括：

线程簇访存并行度的计算包括：

WMPD_M＝min(WMPD_Max，WMPD_Reg，WMPD_Smem) (3)

其中，WMPD为线程簇访存并行度，WMPD_Reg为在流多处理器中寄存器数量的限制下可同时运行的线程簇数量，WMPD_Smem为在流多处理器中共享内存大小的限制下可同时运行的线程簇数量，WMPD_M为在硬件限制下一个流多处理器上可同时运行的最大线程簇数量，WMDP_Max为在硬件限制下一个流多处理器上可同时运行的线程簇数量；

N_{Reg_Per_SM}为每个流多处理器中寄存器的数量，N_{Reg_per_Thread}为每个线程所需寄存器的数量，warpSize为每个线程簇中的线程数目，N_{Smem_per_SM}为每个流多处理器中共享内存的大小，N_{Smem_per_Thread}为每个线程所需共享内存的数量，N_{Active_Blocks_per_SM}为每个流多处理器上活动线程块的数量，N_{Max_Active_Blocks_per_SM}为每个流多处理器上最大活动线程块数量，dGrid为线程块的总数量，N_SMs为GPU结构中流多处理器的数量，dBlock为每个线程块中线程的数量，N_Threads为线程的总数量，dGrid.x为x维度上线程块的数量，dGrid.y为y维度上线程块的数量；

线程簇计算并行度的计算包括：

T_M＝Mem_Cycle×Mem_insts (8)

T_C＝Comp_Cycle×Comp_insts (9)

其中，WCPD为线程簇计算并行度，T_M为每个线程簇的访存时间，T_C为每个warp的计算时间。