[发明专利]一种面向在离线容器混合部署的LLC分配方法

说明书

本发明公开了一种面向在离线容器混合部署的LLC分配方法，应用于缓存分配程序，包括以下步骤：S1、获取所述缓存分配程序所在主机中的所有在线服务与离线任务容器进程，并进行性能监控；S2、根据性能监控的结果，计算缓存使用特性，判断进程属于缓存敏感型还是问题型；S3、限制问题型进程的可用LLC缓存总量；S4、采集缓存敏感型进程的内存访问记录，计算复用时间直方图，将直方图代入到平均逐出模型计算丢失率曲线；S5、将所有应用的丢失率曲线和步骤S1中采集的性能监控数据代入到缓存分配退火算法，计算能够保证在线服务性能和离线任务性能的分配方案。本发明方法解决在离线任务混合部署环境中的CPU缓存分配问题，保证在线服务和离线任务的性能。

技术领域

本发明属于计算机技术领域，具体涉及一种面向在离线容器混合部署的LLC分配方法。

背景技术

近年来，大量互联网公司及互联网服务层出不穷，用户数量、应用数量更是年年攀升，这对新时代的基础设施——云数据中心提出了非常高的性能要求。在容器运行环境中，一台服务器通常承载成百上千的容器，多个容器对计算资源竞争激烈，导致应用的响应时间被延长。在此情况下，如何高效利用已有的计算资源，成为了企业和研究人员努力攻克的方向。

随着CPU性能的提升，缓慢的IO速率已经成为了制约性能的最大因素。为此，CPU高速缓存用于缩小寄存器和内存速率之间的巨大鸿沟。现代CPU典型的高速缓存有3个层次，CPU高速缓存是N路组相联缓存，即一个内存地址将会通过映射函数映射到一个缓存组，缓存组内有多个缓存路存放数据。L1、L2、L3(即LLC)的大小逐渐变大，而访问延迟也在逐渐变大。多级缓存能够很好的利用内存访问的空间和时间局部性，极大提高内存访问的速率。

然而，云容器平台的一台服务器需要承载数百甚至上千个容器，各个容器的进程之间竞争只有数MB的缓存空间，相互逐出各自的缓存行，激烈的竞争导致了Miss率的上升，最终导致内存访问速率的下降。

随着英特尔推出了CAT技术，使得运维人员能够对各个进程的LLC(LastLevelCache)使用加以限制，为不同的进程分配不同的缓存行。但是，CAT仅能最多分配16个方案，如何合理使用这些方案来达到最大的效果，成了必须研究的问题。

发明内容

本发明的主要目的在于克服现有技术的缺点与不足，提出一种面向在离线容器混合部署的LLC分配方法，解决在离线任务混合部署环境中的CPU缓存分配问题，保证在线服务和离线任务的性能。

为了达到上述目的，本发明采用以下技术方案：

一种面向在离线容器混合部署的LLC分配方法，应用于缓存分配程序，包括以下步骤：

S1、获取所述缓存分配程序所在主机中的所有在线服务与离线任务容器进程，并分别在两条LLC缓存路和全部LLC缓存路的条件下进行性能监控；

S2、根据进程两次性能监控的结果，计算缓存使用特性，判断进程属于缓存敏感型还是问题型；

S3、限制问题型进程的可用LLC缓存总量；

S4、采集缓存敏感型进程的内存访问记录，采用水塘抽样法计算复用时间直方图，将所述直方图代入到平均逐出模型计算丢失率曲线；

S5、将所有应用程序的丢失率曲线和步骤S1中采集的性能监控数据代入到缓存分配退火算法，计算能够保证在线服务性能和离线任务性能的分配方案。

进一步的，所述在线服务为面向用户的、有服务质量要求的应用程序；所述离线任务为不需要面向用户的批处理应用程序；

所述缓存分配程序所在主机中的其他类型进程不在缓存管控范围内；