[发明专利]服务的负载平衡

说明书

背景技术

1.背景和相关技术

计算机系统和相关技术影响社会的许多方面。的确，计算机系统处理信息的能力已转变了我们生活和工作的方式。计算机系统现在通常执行在计算机系统出现以前手动执行的许多任务(例如，文字处理、日程安排和账目管理等)。最近，计算机系统已彼此耦合并耦合到其它电子设备以形成计算机系统和其它电子设备可以在其上传输电子内容的有线和无线计算机网络。因此，许多计算任务的执行被分布在多个不同的计算机系统和/或多个不同的计算组件上。

在许多环境内，多个远程用户通过集中式远程位置访问应用和数据。例如，多个客户机机器能通过因特网访问Web服务。在许多环境内，并且尤其对于具有增加的工作负载的服务(或其他应用)，服务(或应用)的多个实例被创建以提供更好的用户体验。然而，如果总体工作负载没有被相对均匀地跨服务的多个实例分布，那么具有服务的多个实例获益很少。例如，如果一个实例(或实例的小的子集)是过载的而与此同时其他实例未被充分使用，那么具有多个实例的益处被显著降低。

由此，多个实例服务器环境通常包括某些类型的负载平衡技术来更均匀地在跨服务的实例之间分布工作负载。例如，当接收到对于服务的通信时，负载平衡器能将通信路由到具有已降低的负载的服务的实例。由此，服务的总体工作负载能在跨服务的多个实例更均匀地分布。

然而，确定如何路由新接收到的通信主要是基于当接收到新的通信时的实例工作负载。例如，可存在一具有与服务的特定实例的先前关于服务的进行中的使用的通信的客户机。然而，当客户机发送新的关于服务的进行中的使用的通信时，基本上仅仅基于当该新的通信被接收到时的工作负载来将该新的通信路由到服务的不同实例。这对于较长时间运行和/或有状态服务而言不是最优的。

在客户机和有状态服务之间的通信能包括一系列请求/回复序列。在各个请求/回复序列之间，服务能保持关于通信的某些状态，诸如例如，在等待进一步的客户机请求的同时维护中间值。然而，如果保持了状态的服务的实例经历了随后在请求/回复序列之间的高工作负载，则负载平衡器可向服务器的不同实例发送进一步的客户机请求。不幸的是，当通信从服务的一实例切换到服务的另一实例时，服务的该另一实例可能不知道通信的已保持的状态。如此，该另一实例被请求重新计算已保持的状态。

相比于允许保持了状态的实例处理通信中的下一客户机请求，在新的实例上重新加载(已经保持的)状态消耗更多的资源。由此，将通信转向新的实例会不必要地增加服务的总体工作负载。进一步，由于已保持的状态不被用于与客户机的进一步通信，因此保持了状态的实例的存储器资源实质上被浪费。

简要概述

本发明涉及用于服务的负载平衡的方法、系统和计算机程序产品。在某些实施例中，应用负载平衡器接收被定向到应用第一客户机发起消息。第一客户机发起消息是被包括在消息序列中的多个消息里的第一消息(例如，激活消息)。应用负载平衡器基于第一客户机发起消息的特征向包括在消息序列中的多个消息指派指定标识符。应用负载平衡器确定所指派的标识符没有被映射到应用的实例。

应用负载平衡器根据负载平衡算法将指定标识符映射到应用的指定实例。映射帮助跨应用的多个实例平衡应用的负载。应用负载平衡器将消息发送到应用的指定实例。

应用负载平衡器在接收到第一客户机发起消息之后接收被定向到应用的第二客户机发起消息。应用负载平衡器基于第二客户机发起消息的特征向第二客户机发起消息指派指定标识符。应用负载平衡器基于指定标识符到应用的指定实例的映射，将第二客户机发起消息和第一客户机发起的息相关联(例如，产生与激活消息相关联的相关消息)。应用负载平衡器响应于该相关联，向应用的指定实例发送第二客户机发起消息。

在其他实施例中，应用负载平衡器从应用的多个实例的指定实例接收应用实例发起消息。应用实例发起消息被定向到另一应用。应用负载平衡器基于应用实例发起消息的特征向应用实例发起消息指派指定标识符。应用负载平衡器将指定标识符映射到应用的指定实例以跨应用的多个实例平衡应用的负载。映射帮助跨应用的多个实例平衡应用的负载。

应用负载平衡器将消息发送到该另一应用。应用负载平衡器从该另一应用接收被定向到应用的返回消息。应用负载平衡器基于返回消息的特征向返回消息指派指定标识符。应用负载平衡器基于指定标识符到应用的指定实例的映射，将返回消息与应用实例发起消息相关联。应用负载平衡器将返回消息发送到应用的指定实例。