[发明专利]一种通过减少数据传输实现GPU降耗的方法及系统

权利要求书

1.一种通过减少数据传输实现GPU降耗的方法，其特征在于，包括以下步骤：

步骤1、判断所有数据块与线程之间的依赖关系，将共享一个数据块的线程划分到一个线程组，若不同线程组之间有线程重叠，则比较对应数据块之和与缓存空间的大小，根据判断是否进行将多个线程组合为一个线程组的操作；之后，将每个线程组和共享的数据块放入一个流多处理器的L1缓存中；

步骤2、每次向L1缓存中插入数据块之前，首先判断缓存是否已满，若未满则直接将数据块c插入L1缓存，若已满则采取预设缓存替换策略，对L1缓存中的数据块进行淘汰替换。

2.根据权利要求1所述的通过减少数据传输实现GPU降耗的方法，其特征在于，所述步骤1中，按照以下方案对数据块进行存储：设三组线程组A,B,C分别共享数据块a,数据块b和数据块c；N_a，N_b，N_c分别为数据块a、数据块b和数据块c的大小，M表示缓存空间大小，先判断线程组之间是否存在重叠线程，再比较数据块之和与缓存空间M的大小：

若线程组A,B存在重叠线程，则比较N_a+N_b与M的值，若N_a+N_bM，则线程组A,B不能合并，先放入数据块a执行，随后判断线程组B，C是否存在重叠线程，若存在，则比较N_b+N_c与 M的值，若N_b+N_c大于M则线程组B,C不能合并，先放入数据块b，等数据块b执行完成后放入数据块c；若线程组B,C存在重叠线程，且N_b+N_cM，线程组B,C可以合并，数据块a执行完成后直接放入数据块b,c；若线程组B,C不存在重叠线程，放入数据块b，等b执行完成后放入数据块c；

若线程组A,B存在存在重叠线程，且N_a+N_bM，则线程组A,B可以合并，再判断线程组A,B的并集与线程组C是否存在重叠线程，若存在，则比较N_a+N_b+N_c与M的值，若N_a+N_b+N_c大于M，线程组A,B并集不能和线程组C合并，先放入数据块a，b，执行完成后放入数据块c；如果线程组A,B并集与线程组C不存在重叠线程，那么也是先放入数据块a,b，执行完成后放入数据块c；

若线程组A,B不存在重叠线程，那么先放入数据块a，再判断线程组B,C是否存在重叠线程，若存在，则比较N_b+N_c与M的值，若N_b+N_c大于M，则线程组B,C不能合并，放入数据块b，等b执行完成后放入数据块c；若N_b+N_c小于M，线程组B,C可以合并，数据块a执行完成后放入数据块b，c；若线程组B,C不存在重叠线程，放入数据块b执行完成后放入数据块c。

3.根据权利要求1所述的通过减少数据传输实现GPU降耗的方法，其特征在于，所述步骤2中的缓存替换策略为：

设缓存空间中存在的数据块数量为i，每个数据块最近被访问时间由T₁，T₂,……，T_i表示，同时每个数据块的大小被记录为N₀，N₁，N₂，N₃，……，N_i，待插入L1缓存中的数据块为数据块c，其大小为N_c，对缓存空间中的数据块被访问时间T进行排序，选定L1缓存中最近一次被访问时间长度T最长的数据块j，其大小为N_j；

将选定数据块j与待插入数据块c大小进行比较：

若N_jN_c，则将数据块j与数据块c置换；

若N_jN_c，则通过遍历将缓存中除数据块j的各个数据块大小与数据块c大小进行比较，当缓存中某一数据块的大小大于数据块c的大小时，停止比较，并将其与数据块c进行置换。