[发明专利]具有成本效益的高可用性的多单租户服务

说明书

VM的辅池用于运行辅服务或辅作业，所述辅服务或辅作业可能在相应的主VM发生故障时被驱逐。在检测到主资源发生故障时，将辅服务或辅作业从辅池资源中驱逐出，并且可以将辅池资源自动分配给发生故障的主资源的作业。在这方面，辅作业可以被认为是可抢占的作业，并且包括优先级比主资源上的服务或作业低的服务或作业。通过使用辅池中的计算资源来运行辅作业或可抢占的作业，这个技术利用了否则是空闲的资源。这有利地避免不得不为辅作业分配额外的和另外的计算资源，从而更有效地利用网络资源，并减少成本。

相关申请的交叉引用

本申请是在2019年3月8日提交的美国专利申请No.16/297,054的继续，其公开内容通过引用合并于此。

背景技术

多单租户(MST)服务在隔离环境中(诸如在分开的虚拟机(VM)中)运行个体服务实例。云SQL是此类服务的示例。因为个体服务实例在单个VM上运行，所以VM的故障将导致该服务实例不可用。故障可能是有计划的或者计划外的，但是都需要拆掉VM。计划内的故障示例是VM更新，诸如对内核的重要安全补丁。服务的控制平面可能能够检测VM故障，并将故障转移到新创建的VM。对于计划内的故障转移，可以通过在拆掉旧WM之前重新创建新的WM来减少WM的不可用时间。但是，这两种方法更倾向于引起VM缺货的情况，其中由于目标区域中所请求类型的机器容量不足，用户无法创建VM。这是不可接受的，因为它会使客户的现有服务实例在不确定的时间段内不可用。

发明内容

一些MST服务，诸如云SQL，提供高可用性(HA)解决方案，其中热备份辅VM始终保持在主要VM旁边，以避免在所述主要VM出现故障的情况下缺货，并且能够在主要VM发生故障或需要更新的情况下进行快速故障转移。通常将主要VM和辅VM放置在负载平衡器端点之后，使得实例的IP地址在整个故障转移期间保持稳定。对于需要这种主动-被动模型的服务，辅VM仅在故障转移期间使用，否则处于空闲状态。这是很昂贵的，因为它会使与单个服务实例相关联的计算资源翻倍，并且可能使服务成本增加将近一倍。对于这种增加的成本，辅VM通常每1-2年大约仅用于计划外故障一次，并且每季度用于计划内更新一次。

本公开提供了一种解决方案，该解决方案减少在HA解决方案中维护备用VM的成本而又不牺牲可用性特性，诸如正常运行时间、故障转移时间等。VM的辅池，或更一般地计算资源，用于运行辅服务或作业。在检测到给定VM发生故障时，从辅池资源中驱逐辅服务或作业，使得可以将这些辅池资源自动分配给发生故障的VM上的主作业或服务。在这方面，辅助工作可以被认为是可抢占的工作，并且包括比故障的服务或工作具有更低优先级的服务或工作。通过使用辅池中的计算资源来运行辅助或可抢占的作业，这个技术利用了否则是空闲的资源。这有利地避免必须为辅作业分配额外的和分开的计算资源。这导致网络资源的更有效使用，并潜在地减轻在其它情况下不得不产生潜在未充分利用的网络，其将导致高可用性(“HA”)成本的减少。

本公开的一个方面提供了一种用于管理用于在分布式系统中提供服务的池化计算资源的方法。该方法包括：由分布式系统的数据处理硬件确定被指定用于运行一个或多个主作业的计算资源的主池；由分布式系统的数据处理硬件确定被指定用于运行与一个或多个主作业不同的一个或多个辅作业的计算资源的辅池；在检测到与使用来自辅池的计算资源运行的一个或多个主作业中给定的一个相关联的故障情况时，抢占使用来自辅池的计算资源的一个或多个辅作业中的给定一个；以及将来自给定的辅作业的辅计算资源分配给与故障情况相关联的给定的主作业。