[发明专利]一种针对应用程序内控制请求响应速率的系统和方法

说明书

一种针对应用程序内控制请求响应速率的系统和方法，包括收敛器、EPOLL管理器、请求统计器、发送队列、接收队列、队列负载统计、业务模块连接池和若干个业务模块，用户通过接入网关系统接入到后台系统时，如果客户端发送的请求数据比较多或频率过快，将致使接入层来不及处理，数据堆积在接入层的连接管理模块，导致数据丢失，甚至使接入层进程崩溃。同时各个业务模块的处理能力各不一样，一种业务请求在接入层发送过快，其他业务请求不应该受到影响。本发明的目的在于设计一套对应用程序内部子模块间请求响应速率进行控制的方法和装置，避免不同业务请求之间相互影响，避免因处理不过来而丢弃数据包，避免应用程序因请求速率过快而崩溃。

技术领域

本发明涉及传输控制规程，涉及接入网关应用程序内部请求响应速率的协调和控制，尤指一种针对应用程序内控制请求响应速率的系统和方法。

背景技术

流量控制：指点对点通信量的控制，是端到端正的问题。流量控制所要做的就是抑制发送端发送数据的速率，以便使接收端来得及接收。解释如下：

滑动窗口机制

主要针对成块数据流，利用滑动窗口机制可以很方便地在TCP连接上实现对发送方的流量控制。

参见图2，设A向B发送数据。在连接建立时，B告诉了A：“我的接收窗口是rwnd＝400字节”(这里的rwnd表示receiver window滑动窗口)。因此，发送方的发送窗口不能超过接收方给出的接收窗口的数值。TCP连接建立时的窗口协商过程在图中没有显示出来。再设每一个报文段为100字节长，而数据报文段序号的初始值设为1。大写ACK表示首部中的确认位ACK，小写ack表示确认字段的值ack。

从图中可以看出，B进行了三次流量控制。第一次把窗口减少到rwnd＝300，第二次又减到了rwnd＝100，最后减到rwnd＝0，即不允许发送方再发送数据了。这种使发送方暂停发送的状态将持续到主机B重新发出一个新的窗口值为止。B向A发送的三个报文段都设置了ACK＝1，只有在ACK＝1时确认号字段才有意义。

拥塞控制

参见图3，拥塞控制就是防止过多的数据注入网络中，这样可以使网络中的路由器或链路不致过载。拥塞控制是一个全局性的过程，和流量控制不同，流量控制指点对点通信量的控制。拥塞控制的方式主要有：快重传、慢开始、快恢复和拥塞避免。

请求过载保护方案

过载是指负载已经超过了系统的最大处理能力。例如，系统每秒能够处理的请求是100个，但实际每秒的请求量却是1000个，就可以判定系统出现了过载。在系统部署上线之前，预估好系统的处理能力，限定最大同时能够处理的请求量、流量或者连接数。当请求量快接近于最大处理能力时，则告警，超过范围，则触发拒绝请求机制。由此可见对于阈值的设置是一个很关键的环节，阈值过高，依然可能导致过载，阈值过低，则又导致负载上不去。阈值的设置也会是一个不断调优的过程

背景技术的缺点：

1)TCP流量拥塞控制只是针对传输层字节流量控制，不能针对应用程序内部进行数据包请求响应速率的限制。

2)过载保护的请求阈值设置很难把握，请求阈值无法应对多业务类型的请求。

发明内容

针对现有技术的缺点，本发明的目的在于提供一种针对应用程序内控制请求响应速率的系统和方法。旨在发明一套对应用程序内部子模块间请求响应速率进行控制的系统和方法，避免不同业务请求之间相互影响，避免因处理不过来而丢弃数据包，避免应用程序因请求速率过快而崩溃。

本发明解决其技术问题所采用的技术方案是：提供一种针对应用程序内控制请求响应速率的系统和方法，其系统的特征在于：

包括收敛器、EPOLL管理器、请求统计器、发送队列、接收队列、队列负载统计、业务模块连接池和若干个业务模块，其中：