[发明专利]一种NUMA架构下平衡多线程间访存延迟的调度系统及方法

权利要求书

1.一种NUMA架构下平衡多线程间访存延迟的调度系统，其特征在于，所述系统包括检测模块、采样模块、分析模块、判断模块和调度模块，其中，

检测模块，用于探测程序是否进入多线程并行执行区域，还用于在探测程序进入多线程并行执行区域后，启动采样模块；

采样模块，用于对多线程程序运行过程中每个线程的访存行为进行采样，并将采样过程中获取的访存信息保存；

分析模块，一方面用于根据所述采样模块获取的访存信息，定期对所述多线程程序中各线程的访存延迟不平衡度进行评估，还用于针对发生不平衡现象的多线程程序进行访存行为分析，此外，所述分析模块还用于根据所述采样模块获取的访存信息进行访存规律分析；

判断模块，用于根据所述访存延迟不平衡度判断是否发生多线程间访存延迟不平衡现象，同时，还用于在访存延迟不平衡现象发生时进一步判断线程访问变量是否仅由一个线程访问、线程访问变量与访问该变量的线程是否处于同一个节点及线程访问变量大小是否小于第二阈值Size，此外，所述判断模块，还用于判断程序多线程并行执行的区域是否结束；

调度模块，用于根据所述分析模块的访存行为分析和访问规律分析，及判断模块的判断结果对远端访存的线程访问变量进行迁移调度至线程所在节点或使用交错存放将其平均分配到各节点上。

2.根据权利要求1所述的系统，其特征在于，所述访存信息包括发起访存行为的线程ID，访存行为的目的地址，完成访存行为所耗费的时钟周期数和访存行为的类型。

3.根据权利要求1或2所述的系统，其特征在于，所述访存延迟不平衡度具体为：

ξ_T＝|D_T-D_avg|/D_avg

其中，ξ_T为线程T的访存延迟不平衡度，D_T为线程T的平均访存延迟，D_avg为所有线程的平均访存延迟。

4.根据权利要求1或2所述的系统，其特征在于，所述访存行为分析具体包括：

根据所述采样模块获取的访存信息，估计每个线程访问变量的线程平均访存延迟，并依次将线程平均访存延迟最大的线程访问变量交由判断模块进行处理。

5.根据权利要求1或2所述的系统，其特征在于，所述访问规律分析具体为：观察多线程程序中每个线程访问变量中是否没有被多个线程共同访问的线程访问变量子块。

6.根据权利要求1或2所述的系统，其特征在于，所述采样模块还用于保存采样过程中为线程访问数据分配的内存大小及分配的内存地址。