[发明专利]用于GPU寄存器分配和并行度管理的协同优化编译方法

权利要求书

1.一种协同优化编译方法，所述方法用于GPU寄存器分配和并行度管理协同优化的编译，使得寄存器的分配和并行度管理的优化同时进行，且不引起缓存的竞争；包括如下步骤：

A)收集寄存器分配参数、并行度管理参数和缓存性能参数；

B)通过步骤A中所获得的参数，列出所有可能的线程块数量TLP和寄存器数量Reg的组合；删除导致缓存竞争的组合和导致寄存器浪费的组合；

C)对剩下的线程块数量TLP和寄存器数量Reg的组合进行寄存器分配，在寄存器的分配过程中，用染色算法将该程序的所有变量放入数量为Reg的寄存器中；当出现部分变量无法放入到Reg个寄存器时，将所述部分变量放在共享内存中；当共享内存空间不足时，再把所述部分变量放置到片下存储中；

D)使用性能模型预测得到各个组合的性能，并选择性能最佳的组合，作为寄存器分配编译的结果。

2.如权利要求1所述协同优化编译方法，其特征是，A)所述寄存器分配参数包括每个线程至少获得的寄存器数量MinReg和每个线程最多需要的寄存器数量MaxReg；所述并行度参数包括不考虑寄存器的情况下每个GPU核上最多的的线程块数量MaxTLP和不引起缓存竞争的最多线程块数量OptTLP；缓存性能参数包括每个线程块在不引起线程数下降的情况下可获得的最多共享内存数量ShmSize。

3.如权利要求1所述协同优化编译方法，其特征是，B)所述导致缓存竞争的组合为每个GPU核心上的并发线程块数量TLP大于不引起缓存竞争的最多线程块数量OptTLP的组合；所述导致寄存器浪费的组合为寄存器Reg没有达到对应的TLP最大的寄存器数量的组合。

4.如权利要求1所述协同优化编译方法，其特征是，D)所述性能模型为：

$\left(1\right)---{\mathrm{TLP}}_{gain}=1-\frac{TLP\×BlockSize}{TLP\×BlockSize+MaxThread}$

(2)Spill_cost＝Num_local×Cost_local+Num_shm×Cost_shm+Num_others

(3)TPSC＝TLP_gain×Spill_cost

其中：公式(1)中，TLPgain表示由于每个GPU核心上的并发线程块数量(TLP)的提高，GPU程序的执行时间的变化；TLP表示该组合的线程并行度；BlockSize值该GPU程序中每个线程块(Thread block)的大小；MaxThread表示该GPU中每个核心所允许的最大并发线程数；公式(2)中，参数Spillcost表示寄存器分配对于GPU应用执行时间的影响；Num-_local、Num_shm、Num_others分别指本地存储指令(local memory)、共享存储指令和其他指令的数量；Cost_local,Cost_shm分别指本地存储指令、共享存储指令的周期数；公式(3)中，参数TPSC是最终的执行时间。

5.如权利要求4所述协同优化编译方法，其特征是，所述性能最佳为所述最终的执行时间TPSC值最小[TLP,Reg]组合，作为寄存器分配和并行度的优化结果。