[发明专利]高效消息交换系统

说明书

本发明提供了包括编码在计算机存储介质上的计算机程序的方法、系统和设备，用于：从多个源进程接收多个消息；标识与所述消息中的各消息相关联的相应目的地节点以及该目的地节点上的目的地进程；将所述消息中的各消息存储在针对与所述消息相关联的目的地进程和目的地节点的相应的缓冲器中；标识所述缓冲器中的一个或多个缓冲器，其中所标识的缓冲器中的各缓冲器中所存储的所有消息的总计大小超过阈值；以及对于所标识的各缓冲器，将该缓冲器中所存储的所有消息成批地发送至与该缓冲器中所存储的消息相关联的目的地节点上的目的地进程。

相关申请的交叉引用

本申请要求提交于2016年5月19日的美国专利申请15/159,447的优先权，其全部内容通过引用而并入于此。

背景技术

本说明书涉及数据通信系统，特别地涉及用于实现实时、可扩展的发布-订阅消息传送的系统。

发布-订阅模式(或者“PubSub”)是利用软件系统实现的数据通信消息传送布置，其中，所谓的发布者发布将消息发布到主题，并且所谓的订户接收与他们所订阅的特定主题有关的消息。每个主题可以存在一个或多个发布者，并且发布者一般不知道什么样的订户(如果有的话)将接收到所发布的消息。一些PubSub系统不缓存消息或者具有小的缓存，这意味着订户可能不会接收到在订阅特定主题之前所发布的消息。在消息发布激增期间、或者随着特定主题的订户的数量增加，PubSub系统可能易受到性能不稳定性的影响。

发明内容

一般来说，本说明书中所描述的主题的一个方面可以体现在如下的方法中，该方法包括利用一个或多个计算机来进行以下动作：从多个源进程接收多个消息；标识与所述消息中的各消息相关联的相应目的地节点以及该目的地节点上的目的地进程；将所述消息中的各消息存储在针对与所述消息相关联的目的地进程和目的地节点的相应的缓冲器中；标识所述缓冲器中的一个或多个缓冲器，其中所标识的缓冲器中的各缓冲器中所存储的所有消息的总计大小超过阈值；以及对于所标识的各缓冲器，将该缓冲器中所存储的所有消息成批地发送至与该缓冲器中所存储的消息相关联的目的地节点上的目的地进程。该方面的其它实施例包括相应的系统、设备和计算机程序。

这些和其它方面的实现可以可选地包括以下特征中的一个或多个。用于存储与特定目的地进程和特定目的地节点相关联的消息的第一缓冲器可以驻留在与所述特定目的地节点不同的第一节点上。用于存储与特定目的地进程和特定目的地节点相关联的消息的第一缓冲器可以驻留在所述特定目的地节点上。特定目的地节点可以是虚拟机。将所述缓冲器中所存储的所有消息成批地发送至与该缓冲器中所存储的消息相关联的目的地进程和目的地节点可以包括：将所述缓冲器中所存储的所有消息汇集在第一消息中；以及将所述第一消息发送至所述目的地节点上的目的地进程。该方面还可以包括：标识特定缓冲器，其中自从该特定缓冲器发送了任意消息之后已经经过了一定时间量；以及将该缓冲器中所存储的所有消息成批地发送至与该缓冲器中所存储的消息相关联的目的地进程和目的地节点。各缓冲器可以存储多个不同通道中的一个通道的消息，其中各通道包括有顺序的多个消息。源进程可以与用于根据所述顺序来存储特定通道的消息、并且具有相应存活时间的相应的第二缓冲器相关联。目的地进程可以与用于根据所述顺序来存储特定通道的消息、并且具有相应存活时间的相应的第二缓冲器相关联。

可以实施本说明中所描述的主题的特定实施例，以实现以下优点中的一个或多个优点。在消息传送系统中，源进程通过首先例如通过一次一个的方式将消息存储在数据缓冲器中，来将消息发送至目的地节点上的目的地进程。所述数据缓冲器存储来自源进程的消息，直到所存储消息的总计大小超过阈值为止。然后，所述数据缓冲器将所存储消息成批地发送至所述目的地节点上的目的地进程。以这种方式，可以使将各消息发送至所述目的地进程的开销最小化，并且可以提高发送消息的总吞吐量。由于对于各消息来说、任何系统调用进入到TCP栈中可能存在显著的开销，因此对消息进行“批处理”节省了显著的开销并实现更快的消息传递。

在附图和以下的描述中详细阐述了本说明书中所描述的主题的一个或多个实施例。根据说明书、附图和权利要求，本主题的其它特征、方面和优点将变得明显。