[发明专利]CPU-GPU异构环境中对GPU应用的性能评估方法及系统

说明书

本发明公开了一种CPU‑GPU异构环境中对GPU应用的性能评估方法及系统，属于GPU性能评估领域。方法具体为：基于机器学习中的决策树算法，对GPU架构上运行的各类应用的执行情况学习，建立决策树模型；在决策树匹配过程中依次获得对应用执行时间影响最大的监控特征，即对特征的重要度排序；依次将筛选出的特征集与四类应用常见的问题对应，主要是指计算相关、内存相关、占用率相关、同步相关四大常见问题，由此初步得到待分析应用的性能瓶颈所在的问题方向。本发明通过结合决策树模型和分析建模的方法，提供了一种通用的、相对准确的、快速的、简单易用的对GPU上的资源和应用进行性能评估的方法。

技术领域

本发明属于GPU性能评估领域，更具体地，涉及一种CPU+GPU混合异构环境中对GPU上的资源和应用结合机器学习和分析建模进行性能评估的方法及系统。

背景技术

随着科学技术的不断发展，各方面对高性能计算提出了更高的要求。 GPU具有强大的计算能力、高存储带宽、低功耗以及较好的可编程性，但对逻辑方面的处理并不好，使得CPU-GPU异构成为一种必然趋势。然而，CPU-GPU异构计算节点可达到的性能虽高，但实际性能往往不够理想，不能有效利用计算资源和存储带宽。性能下降的原因在于多个方面，包括任务分配不均导致负载不均衡、SM利用率低；不好的访存模式导致带宽的低效利用；冗余传输导致通信带宽的低效利用等等。而架构中无序的执行、复杂的内存层次、多种形式的并行处理等复杂的因素，却让我们难以找出性能下降的根本原因。对于性能的提升而做出的优化措施，大多数也只能是根据自身的经验进行启发式的大量尝试，耗时又费力。因此，对性能评估方法的研究尤为重要。

目前，传统的性能评估方法是从GPU架构或应用本身问题或应用可优化措施方面出发，通过分类建立不同的指标体系，比较获得最需优化的指标，来反映性能瓶颈和指导优化。而各个指标的建立，是利用各种监控仿真工具获取的数据进行建模。近年来，利用机器学习方法训练模型进行特征选择和分类，来预测kernel执行时间、kernel在不同配置下的性能变化趋势等研究也相继出现。

然而，上述方法存在一定的缺陷。传统的性能分析模型，虽然准确度较高，但需要对硬件架构知识有详细的了解，获取数据的方法和建模方法都非常复杂，往往耗时很长，模型很难用；或是为特定架构或应用而构建，不能通用。而基于机器学习的方法虽简单易用，但是其准确度强烈依赖训练数据集，也依赖于模型本身对特征值的选取；并且使用该方法进行性能评估的研究尚少，主要用于性能预测，不能反映性能瓶颈和指导应用优化。

发明内容

针对现有方法的缺陷，本发明的目的在于提供一种通用的、相对准确的、快速的、简单易用的对GPU上的资源和应用进行性能评估的方法及系统。

为实现本发明技术目的，本发明采用如下技术方案：

CPU-GPU异构环境中对GPU应用的性能评估方法，包括离线决策树构建部分和在线性能评估部分：

所述离线决策树构建部分包括以下步骤：

(S1)提取不同GPU应用在运行过程中的多条样本监控记录组成样本监控数据集，每条样本监控记录包含多个表征GPU应用运行状态的特征； (S2)从样本监控数据集中筛选出对GPU性能影响最大的特征，将其作为根节点；按照根节点取值大小将样本监控数据集划分为多个子集，从每一子集中分别筛选出对GPU性能影响次大的特征，将其作为第一层子节点；按照上述相同的方式筛选出余下层次的子节点，从而构建按照对GPU性能影响大小对特征排序的决策树；

所述在线性能评估部分包括以下步骤：

(T1)从待分析GPU应用的运行过程中提取待分析监控记录；

(T2)将待分析监控记录与所述离线构建的决策树进行匹配，得到对 GPU性能影响的特征排序组合；