[发明专利]TCP长连接服务器负载均衡系统及方法

说明书

该发明针对终端与服务器通讯需要采用TCP长连接通讯的应用场景，实现了在服务器端进行通讯负载均衡管理的系统和方法。通过服务器端的负载均衡，一方面可以实施更为灵活的负载均衡策略，同时，也避免了目前在大量终端使用TCP长连接通讯时所采用的静态负载分配、终端随机选择服务器等其他负载分配方式的不足之处。该发明实现的系统和方法可以广泛运用于银行、证券等需要通过TCP长连接接入大量终端，并对系统整体可靠性要求较高的系统。

技术领域

本发明解决了服务器集群与终端通讯中，采用TCP长连接作为通讯方式时的在服务器端实现负载均衡的问题。可以广泛运用于银行、证券等需要通过TCP 长连接接入大量终端，并对系统整体可靠性要求较高的系统。

背景技术

TCP通讯是目前被广泛采用的系统间通讯方式。其中，很多系统在终端与服务器间选用TCP长连接作为通讯方式，即在终端与服务器通讯时，TCP链路通过三次握手建立完成后，一直保持这一链路用于与服务器之间的后续报文通讯。TCP长连接在安全性、效率等方面较短连接(即每次通讯均建链、断链的通讯方式)都有一定优势。但同时，由于服务器需要为每台联机的终端保持TCP链路，当终端数量较多时，受服务器操作系统限制以及服务器资源限制，服务器能够同时保持的链接数量有限，当系统规模扩大，为支持更多的终端接入，通常在服务器端需要部署多个专门用于通讯的TCP网关应用。这时需要采用一定的负载均衡策略将终端分散连接到各个TCP网关应用。目前常见的TCP长连接的负载均衡实现方式有：

·硬件负载均衡

即采用在终端与服务器TCP网关之间部署硬件负载均衡设备，例如F5。

优点：负载均衡算法灵活可配，且对应用完全透明。

缺点：由于TCP链接长期保持，大量占用硬件负载均衡设备的资源。成本非常高。

·静态负载均衡

即事先分配终端连接的TCP网关。

优点：实现方式简单，不需要对现有应用作改造。

缺点：一旦一个TCP网关故障，所有指向该网关的终端均无法使用。

·终端负载均衡

在终端保存TCP网关的列表，终端在准备建立连接时按照一定的策略选择其中一个发起建链请求。当一个TCP网关连接失败时，自动选择另一个TCP 网关尝试建链。

优点：克服了服务器端单点故障问题。

缺点：终端应用需要单独代码以支持以上逻辑。另外，当TCP网关发生变化 (增加/减少)时，还需要实现额外机制通知到每一台终端，进一步增加了终端应用的复杂程度。

本发明综合考虑服务器和终端应用的特点，有效避免上述常见负载均衡的缺点，实现了面向TCP长连接通讯的服务器端动态负载均衡系统，可以支持独立于现有应用部署。

发明内容

该发明针对大量终端采用TCP长连接与服务器系统通讯的系统，实现面向 TCP长连接基于服务器负载的动态负载均衡系统。该系统主要包括三个服务模块(参见图1)：

TCP网关服务

TCP网关管理服务

TCP代理服务

上述服务模块分别部署在服务器和终端中，介于终端应用和服务器应用之间。其中，TCP网关服务和TCP网关管理服务部署在服务器端，TCP代理服务部署在终端。各服务模块的功能如下：

TCP网关服务

1.提供TCP套接字服务器接口，管理并保持终端应用或者在终端运行的 TCP代理服务建立的TCP长连接通讯链路。