[发明专利]一种提高通用图形处理器性能的系统及方法

说明书

本发明公开一种提高通用图形处理器性能的系统及方法，所述系统包括：缓存组压力监测表，设置于主流多处理器的片上存储内，用于对每个缓存组的读写次数分别进行记录，根据记录的读写次数周期性地更新每个缓存组的压力状态；访问目标块仲裁单元，用于根据缓存组的压力状态及重映射表对访问请求进行仲裁，于压力大的缓存组请求寻找支援组时，搜索支援组，根据所述缓存组压力监测表得到搜索结果，进而于重映射表中建立该压力大缓存组与支援组的映射关系；重映射表，设置于主流多处理器的片上存储内，用于记录每一个高频访问缓存组与支援组的映射关系，并通过改变有效状态位来解除该映射，通过本发明，可提高改善GPU的片上资源效率。

技术领域

本发明涉及通用图形处理器芯片设计领域，特别是涉及一种提高通用图形处理器性能的系统及方法。

背景技术

近年来，图形处理器作为通用和高吞吐量设备经历了巨大的增长。依赖大量并行的线程和巨大内存带宽，通用图形处理器获得了优越的性能。作为并行线程和内存桥梁的片上存储，使用了非常复杂的多层级的结构实现，包括寄存器，共享内存，以及数据缓存等。Jing et al.根据图形处理器中每个流多处理器内部寄存器利用率低和数据缓存不够用的现象，提出融合片上寄存器和缓存，将二者合为一体，以此来达到提高资源利用率和提高性能的目的。

然而，基于融合寄存器堆和数据缓存的片上存储本身独特的特点：组相联结构的片上融合存储容量足够大，按照缓存的方式来进行管理，寄存器数据需要被优先保护，加重了缓存组之间访问不平衡。

发明内容

为克服上述现有技术存在的不足，本发明之目的在于提供一种提高通用图形处理器性能的系统及方法，以在缓存化的融合片上存储基础上，平衡缓存组的访问压力来进一步提高改善的GPU(图形处理单元)的片上资源效率。

为达上述及其它目的，本发明提出一种提高通用图形处理器性能的系统，包括：

缓存组压力监测表，设置于主流多处理器的片上存储内，用于对每个缓存组的读写次数分别进行记录，根据记录的读写次数周期性地更新每个缓存组的压力状态；

访问目标块仲裁单元，用于根据缓存组的压力状态及重映射表对访问请求进行仲裁，于压力大的缓存组请求寻找支援组时，搜索支援组，根据所述缓存组压力监测表得到搜索结果，进而于重映射表中建立该压力大缓存组与支援组的映射关系；

重映射表，设置于主流多处理器的片上存储内，用于记录每一个高频访问缓存组与支援组的映射关系，并通过改变有效状态位来解除该映射。

进一步地，所述缓存组压力监测表包括：

计数器模块，包括多个饱和计数器，用于对每个缓存组进行读写次数计数；

压力状态记录模块，用于记录每个缓存组的访问压力状态；

比较模块，包括多个比较器，于采样周期结束后，将每个缓存组的饱和计数器的统计数据与预设阈值进行比较，根据比较结果更新每个缓存组的压力状态。

进一步地，各比较器首先将计数的写次数与第一写阈值比较，然后将写次数与第二写阈值比较，最后将读次数与读取阈值比较，消耗三个时钟周期。

进一步地，各比较器于写入次数大于第一写阈值时，更新所述压力状态记录模块将对应的缓存组状态设为压力大，于写入次数小于第二写阈值的同时读次数也小于读取阈值时，更新所述压力状态记录模块将对应的缓存组状态设为压力小，其他情况则将对应的缓存组设为压力均衡。

进一步地，所述缓存组压力监测表还包括调节单元，用于调节第一写阈值、第二写阈值以及读取阈值以调节缓存组中压力大和压力小的缓存组数目。

进一步地，于压力大的缓存组请求寻找支援组时，所述访问目标块仲裁单元通过所述缓存组压力监测表从该压力大缓存组的下个位置开始搜索，搜索到的第一个压力小的缓存组即作为结果传输给所述重映射表。