[发明专利]一种云平台下多租户的带宽保障框架和成本优化方法

说明书

本发明涉及一种云平台下多租户的带宽保障框架和成本优化方法，其步骤：由预先设置的缓存框架结构中的租户调度器tenant scheduler根据用户历史访问特征，决定用户组合方案；对读写两种操作分开管理用户缓存，实现最优缓存空间分配，并基于用户从底层存储获得带宽与更新缓存的带宽的等价关系控制用户得到的实际带宽，将用户得到的带宽上限严格限制在目标值以下；将存储系统的成本分为分布式存储的成本和SSD缓存的成本，通过调整用户缓存大小，使得用户的缓存成本与存储层成本总和最低，最小化系统成本。本发明合理分配用户缓存空间大小以最大化数据访问局部性能够带来的收益，降低系统内部成本。

技术领域

本发明涉及一种云存储技术领域，特别是关于一种云平台下多租户的带宽保障框架和成本优化方法。

背景技术

云计算：云计算是基于互联网的相关服务的增加、使用和交付模式。这种模式提供可用的、便捷的、按需的网络访问，进入可配置的计算资源共享池，用户只需投入少量的管理工作就可以快速的使用这些资源。云计算的出现改变了人们对固有服务器的印象，降低了服务器的搭建和维护成本，使得用户可以按使用量进行付费。

资源隔离：资源隔离是指对用户使用的CPU、内存、网络、IO带宽等在内的系统资源进行统计、记录和控制的技术。这项技术使得云计算场景下同一个物理节点的多个用户不会互相干扰，避免了一个用户过度占用其他用户资源的情况。同时也便于服务提供者根据用户对资源的使用情况进行计费。目前使用较为广泛的资源隔离手段是linux内核提供的cgroup技术，目前流行的Docker、Pouch等容器技术都是建立在cgroup的资源隔离基础之上的。

容器：容器与虚拟机类似，是一个相对独立的运行环境，对应用程序及其关联性进行隔离，从而构建起一套能够随处运行的自容纳单元，但是不像虚拟机那样彻底。容器不需要安装主机操作系统，直接将容器层(如LXC)安装在主机操作系统之上，安装完容器层之后就可以分配实例了。总体而言，可以看作是更轻量级的虚拟机技术。

SLA:即Service Level Agreement，服务等级协议，其中定义了服务类型、服务质量和用户付款等内容。典型的SLA包括分配给用户的最小带宽和带宽极限，最小网络利用性能如99.9％有效工作时间，各类用户的流量优先权，惩罚规定等。按照SLA要求，服务商应当应用多种技术去监控和管理服务器以满足用户需求并产生对应的服务报告。

Cidon等提出了一个基于DRAM的KV缓存系统——Memshare，这个系统能保障各个用户有一个最低限的cache空间，剩下的cache空间用户由所有租户共享。Memshare可以在保证每个用户有一定的命中率保障，同时尽可能提高总命中率。Memshare实际是一种折中的方案，一方面能够保障每个用户有一定的缓存空间，另一方面尽可能提高系统的平均性能(提高平均命中率)。但是Memshare对这两个优化目标都没有任何保障，不能保证每个用户的命中率，对用户的延迟、访问带宽等SLA指标也无法保证；不能保证系统的总命中率，也不是针对最小化系统成本而设计。

Stefanovici等提出了一个软件定义的多租户缓存框架——Moirai，这是一个为用户提供可编程缓存的租户和工作负载感知系统。用户可以根据工作负载特性设置规则以优化缓存性能。Moirai系统主要是提供一种用户可编程的机制，定制缓存管理，但是并没有提出一种方法来保障用户得到的带宽或最小化系统成本。

如图1所示，在云计算场景下，一般都先将资源进行虚拟化，以便进行管理。每个物理节点上一般会有若干个容器(Docker)，每个容器配备一定的资源，然后通过云资源管理平台(如YARN,Kubernetes等)进行分配和管理。对于一个分布式存储系统，每个实例实际都是运行在容器中的。对于分布式存储系统整体来说，上面面临多个租户的访问时，会为每个租户提供一定的SLA保障，例如保障其访问带宽、延迟或尾延迟的指标。