[发明专利]基于并行设备模型的高效使用缓存的量化方法

说明书

技术领域

本发明涉及一种在NUMA架构上基于并行设备模型的高性能计算平台上高效使用缓存的量化方法，具体涉及一种面向NUMA架构的高性能计算机平台实现稀疏矩阵相关操作高效使用缓存的量化方法，为在NUMA架构实现的稀疏矩阵相关操作高效实用缓存提供实现方法和理论依据，属于高性能计算的并行数值算法领域。

背景技术

当前一种高性能计算机的体系结构的一种架构为NUMA架构，它的主要特点是结点机上不同处理器都有自己的缓存，不同的处理器共享主机内存；由于处理器访问缓存的延迟与访问机器共享内存的延迟相比低数十倍，如果缓存中的数据利用率不高，内存中的数据就会被重复访问从而增加通讯通道的通讯压力，又由于访问稀疏矩阵的非零元素需要额外访问非零元素的行下标和列下标，从而进一步增加访问内存的延迟，使整机的性能下降。解决这个问题的途径是从算法设计角度能更好的使用缓存，增加缓存中数据的重用性；从而减少处理器访问内存的次数，减少处理器与内存之间数据通讯量，提高通讯带宽的使用效率，达到提高高性能计算机性能的目的。

稀疏矩阵相关操作是许多高性能算法的核心算法，如稀疏矩阵与稀疏矩阵相乘操作主要应用包括图收缩算法，基于多源端点的宽度优先搜索算法，递归最短路径算法，多重网格插值/限制算法和解析上下文无关语言算法等。

随着稀疏矩阵相关操作应用领域的扩大和计算规模的增加，大部分稀疏矩阵相关操作由多个高性能计算机并行计算完成；而由于稀疏矩阵数据分布稀疏的特点决定稀疏矩阵相关操作在运行过程中能否更好使用缓存对高性能计算机性能影响更加突出，而不同的算法对缓存的利用效率差别很大，能否提供一种方法，通过尽可能少次数运行高性能计算机就可以对该算法利用缓存的效率进行量化评估是当前高性能计算机应用高效节能必不可少的技术，使用该技术在高性能计算领域更好的利用整个计算机系统提供的性能和节约电能具重要的意义。

发明内容

1、目的：本发明的目的是提供一种在NUMA架构上基于并行设备模型高效实用缓存的量化方法，应用该模型可以为不同算法的缓存命中率提供量化方法，减少为算法获得较高性能而反复运行程序，从达到节约能源的目的。

2、为实现上述目的，本发明的技术方案是：

本发明是在NUMA架构上研究基于并行设备模型的高效使用缓存量化方法，其中缓存模型采用堆栈方式实现，具体方法包括以下步骤：

步骤一. 检查当前堆栈是否存在CPU需要的计算数；

步骤二. 如果当前堆栈不存在CPU需要的数，从机器的物理内存中取出要处理的数；

步骤三. 如果当前堆栈中存在CPU需要的数，取出操作数，且将缓存命中统计次数加1；

步骤四. 把找到的CPU要处理的数更新到堆栈顶部；

步骤五. 将访问内存统计次数加1；

步骤六. 利用步骤三和步骤五得到值计算本次程序运行的缓存命中率。

优点及功效：本发明是一种在NUMA架构上基于并行设备模型高效使用缓存的量化方法，它与现有技术比，其主要优点是：（1）减少为高效使用缓存而获得较高性能反复在实际机器运行获得适合参数的运行次数，达到节省电能的目的；（2）采用软件管理缓存,对不同形状的稀疏矩阵及不同的缓存尺寸的访问内存次数及缓存命中次数进行准确统计；（3）解决稀疏矩阵相关操作中根据不同形状的稀疏矩阵及不同的划块大小借助于并行设备模型对缓存的命中率实现量化统计。

附图说明

图1 NUMA架构上本发明并行设备模型框架图

图2 NUMA架构上本发明并行设备模型实现稀疏矩阵相乘操作流程示意图

具体实施方式

为使本发明的目的、技术方案和优点表达得更加清楚明白，下面结合附图及具体实例对本发明再作进一步详细的说明。

如图1所示，本发明是在NUMA架构上研究基于并行设备模型的高效使用缓存量化方法，其中缓存模型采用堆栈方式实现，具体方法包括以下步骤：

步骤一. 检查当前堆栈是否存在CPU需要的计算数；