[发明专利]放大微服务网格的缩放弹性

说明书

选择网格型缩放器用于执行微服务网格的整体网格宽度缩放。利用网格型缩放器和一个或多个网格缩放规则缩放微服务网格，以生成一个或多个监测参数中的监测参数的预测值。选择单一服务型缩放器。利用单一服务型缩放器测量监测参数以生成测量值。对于与微服务网格相关联的单独的服务，使用预测值和测量值计算监测参数的目标值。将目标值与限定的阈值进行比较，以生成用于确定是否需要针对单独的服务进行缩放的缩放值。

背景技术

微服务架构中的应用程序(例如，在大规模云计算系统部署中)将消耗一组服务，其中该组服务可以再次消耗另一组服务(即，服务形成“服务网格”)。可以通过添加更多实例来向外缩放(scale-out)应用程序和服务(并通过删除实例来向内缩放(scale-in))。负载均衡器通常在应用程序和服务实例之间分配调用，因此每个服务的实例通常具有类似的操作系统用量。

可以使用监测基础结构监测服务(或微服务)网格，该监测基础结构将定期读取操作系统参数(例如，中央处理单元负载、存储器用量、网络输入输出、磁盘等待时间和块页移出)。在用量负载发生变化时，服务网格中的服务的许多实例可以由缩放组件根据监测基础结构提供的信息进行调整。这种情况下：1)如果用量负载增加，则需要添加实例，否则响应时间增加，且服务请求可能被延迟甚至拒绝，这会导致糟糕的用户体验，或2)如果用量负载减少，则应该删除实例，否则会浪费操作资源，且整体资源消耗高于要求，从而导致操作成本增加。这两个要求处于紧张状态：1)确保有足够的实例来确保高效的操作和用户满意度，但2)只有尽可能多的实例才能以尽可能低的成本操作。

发明内容

本公开描述了放大微服务网格的缩放弹性。

在实现方式中，选择网格型缩放器用于执行微服务网格的整体网格宽度缩放。利用网格型缩放器和一个或多个网格缩放规则缩放微服务网格，以生成一个或多个监测参数中的监测参数的预测值。选择单一服务型缩放器。利用单一服务型缩放器测量监测参数以生成测量值。对于与微服务网格相关联的单独的服务，使用预测值和测量值计算监测参数的目标值。将目标值与限定的阈值进行比较，以生成用于确定是否需要针对单独的服务进行缩放的缩放值。

所描述的主题可以使用计算机实现的方法来实现；一种非暂时性计算机可读介质，其存储计算机可读指令以执行计算机实现的方法；以及一种计算机实现的系统，包括一个或多个计算机存储器装置，其与一个或多个计算机彼此协作地耦接，且具有存储指令的有形的非暂时性机器可读介质，当由一个或多个计算机执行时，该指令执行计算机实现的方法/存储在非暂时性计算机可读介质上的计算机可读指令。

可以实施本说明书中描述的主题以实现以下优点中的一个或多个。首先，扩展自动缩放功能以感知服务(或微服务)网格以及服务网格之间的依赖关系。其次，在服务网格目标大小的计算中监测和评估附加的操作系统参数(例如，中央处理单元负载、存储器用量、网络输入/输出、磁盘等待时间和块页移出)。网格目标大小用于自动加速向外缩放或向内缩放，以便在变化的需求情况下更快地做出反应，以避免响应时间变慢。第三，所描述的方法允许在确保以下两者之间的平衡：确保有足够的实例来确保高效的操作和用户满意度，但只有尽可能多的实例才能以尽可能低的成本操作。

在具体实施方式、权利要求和附图中阐述了本说明书的主题的一个或多个实现方式的细节。根据具体实施方式，权利要求和附图，本主题的其他特征、方面和优点对于本领域普通技术人员而言将变得显而易见。

附图说明

图1是示出根据本公开的实现方式的在微服务架构中具有三个服务、应用程序/服务调用和OS监测基础结构的示例应用的框图。

图2是示出根据本公开的实现方式的关于图1的微服务架构中的不同时间点的每个服务的实例的数量的框图。

图3是示出根据本公开的实现方式的常规缩放器和OS监测基础结构相对于图1和2的微服务架构的使用的框图。

图4是示出根据本公开的实现方式的用于放大微服务网格的缩放弹性的计算机实现的方法的示例的流程图。