[发明专利]基于服务质量的微服务调度方法、系统及电子设备

说明书

本发明提供一种基于服务质量的微服务调度方法、系统及电子设备，所述方法包括：在Serverless模式下，根据运行时特征采集数据，获取当前微服务请求的实际平均到达率λ；根据决策函数、微服务请求的平均服务速率和服务质量目标，计算出切换所需要达到的平均到达率λ(μ)；若微服务请求的实际平均到达率λ小于等于切换所需要达到的平均到达率λ(μ)，则保持微服务部署于Serverless模式，若微服务请求的实际平均到达率λ大于切换所需要达到的平均到达率λ(μ)，则调整微服务部署于IaaS模式。本发明实现了动态部署IaaS模式和Serverless模式的切换。

技术领域

本发明涉及服务器技术领域，特别是涉及服务器管理技术领域。

背景技术

越来越多的公司和个人开始使用微服务架构来构建具有严格的服务质量(QoS)约束的用户应用程序，以获得高可维护性和可测试性。与传统的单片架构相比，采用微服务体系结构，可以使来自不同开发人员的多个松耦合细粒度服务共同构建。并且这些服务可以运行在不同的机器上，并通过网络相互通信。

细粒度的服务可以选择在云中基于IaaS(基础设施即服务)模式或Serverless(无服务器计算)模式部署。采用基于IaaS模式的部署，维护人员租用云中的服务器，在长期运行的虚拟机实例中部署和运行服务。采用基于Serverless模式的部署，维护人员为每个函数调用付费，而不是为整个基础架构付费。每次函数或服务的调用使用共享容器池中的容器执行。采用基于服务器的部署，然而，对于有着昼夜模式变化(低负载小于峰值负载的30％)的用户应用程序，这两种部署模式带来的结果要么是低资源利用率，要么是低峰值负载。对于微服务，如果采用基于IaaS模式的部署，其维护人员将租用足够的服务器来支持其峰值负载。在这种情况下，资源(例如内核和内存空间)在低负载下被浪费。相反，如果采用Serverless模式部署，由于其虚拟化的过程中引入了额外开销，加之运行环境、代码和数据的加载开销，会使得容器化运行比本地执行消耗更多的资源，从而降低了最大峰值负载。更糟糕的是，云提供商对于服务的一些限制可能会随着用户的需要日益增长，如并发请求阈值,并限制最大峰值负载。

直观地说，从服务维护者的角度来看，在用户负载较高时采用基于IaaS模式的部署，在负载较低时采用基于Serverless模式的部署，具有更高的成本效益。云供应商也能够从这个解决方案中受益，因为满足相同服务质量(QoS)的前提下，可以支持的租户更多。

但是，IaaS模式和Serverless模式何时切换是一个很难确定的问题，这是因为Serverless平台执行来自多个应用程序的函数调用，而容器池中的容器争用共享资源(例如核心、IO、网络)。微服务的负载、无服务器平台上的实时争用以及微服务对多个共享资源的敏感性共同决定了切换部署模式的时间点。传统的离线方法不适用于寻找合适的部署模式切换时机，因为负载会受到实时争用行为的影响。

发明内容

鉴于以上所述现有技术的缺点，本发明的目的在于提供一种基于服务质量的微服务调度方法、系统及电子设备，用于解决现有技术无法有效控制IaaS模式和Serverless模式切换时机的技术问题。

为实现上述目的及其他相关目的，本发明提供一种基于服务质量的微服务调度方法，包括：在Serverless模式下，根据运行时特征采集数据，获取当前微服务请求的实际平均到达率λ；根据决策函数、微服务请求的平均服务速率和服务质量目标，计算出切换所需要达到的平均到达率λ(μ)；若微服务请求的实际平均到达率λ小于等于切换所需要达到的平均到达率λ(μ)，则保持微服务部署于Serverless模式，若微服务请求的实际平均到达率λ大于切换所需要达到的平均到达率λ(μ)，则调整微服务部署于IaaS模式。