[发明专利]服务器、基于延时队列的限流保护系统及方法

说明书

本发明提供一种基于延时队列的限流保护方法，包括收集并分析服务器的性能参数，从而获取队列中的请求数量的阀值及请求的占位时间；判断队列中的请求数量是否超过阀值；若延时队列中的请求数量未超过阀值，则将请求加入延时队列，并在请求满足占位时间时，让请求离开延时队列；以及若延时队列的请求数量超过阀值，则发送繁忙信息至用户终端。本发明还提供一种服务器及基于延时队列的限流保护系统。本发明的服务器、基于延时队列的限流保护系统及方法能满足用户请求随机分布的情况及服务器处理能力过剩的情况。

技术领域

本发明涉及计算机通信技术领域，尤其涉及一种服务器、基于延时队列的限流保护系统及方法。

背景技术

目前，对于高并发请求，服务器为了进行过载保护通常会设置先入先出(FirstInput First Output，FIFO)队列。

为了限制并发请求的处理数量可以进行信号量控制，其中，拿到信事情令牌的请求则允许服务器进入处理，没有拿到信事情令牌的请求则视为过载而返回繁忙信息。此外，进一步地，还可以通过计数器和时间控制固定时间区间内通过的请求量进行限流保护。

但现有的队列保护策略只能针对服务器处理能力不足的情况，不能满足服务器处理能力过剩而受限于例如网卡流量资源等的情况，而通过计数器和时间控制固定时间区间内通过的请求量进行限流保护时，由于时间区间是固定的，不能满足用户请求随机分布的情况。

发明内容

有鉴于此，本发明提供一种能满足用户请求随机分布的情况及服务器处理能力过剩的情况的基于延时队列的限流保护方法。

本发明实施例提供一种基于延时队列的限流保护方法，所述基于延时队列的限流保护方法包括收集并分析服务器的性能参数，从而获取延时队列中的请求数量的阀值及请求的占位时间；接收用户终端发送的请求；判断所述延时队列中的请求数量是否超过阀值；若所述延时队列中的请求数量未超过阀值，则将所述请求加入所述延时队列，并在所述请求满足所述占位时间时，让所述请求离开所述延时队列；以及若所述延时队列的请求数量超过阀值，则发送繁忙信息至所述用户终端。

本发明实施例还提供一种服务器，所述服务器包括获取模块、流量控制模块。所述获取模块用于收集并分析所述服务器的性能参数，从而获取延时队列中的请求数量的阀值及请求的占位时间；所述流量控制模块用于接收用户终端发送的请求，并在所述延时队列中的请求数量未超过阀值时，将所述请求加入所述延时队列，且在所述延时队列中的所述请求满足所述占位时间时，让所述请求离开所述延时队列。

本发明实施例还提供一种基于延时队列的限流保护系统，所述基于延时队列的限流保护系统包括用户终端及服务器；所述用户终端用于发送请求至所述服务器；所述服务器用于收集并分析所述服务器的性能参数，从而获取延时队列中的请求数量的阀值及所述请求的占位时间，并在所述延时队列中的请求数量未超过阀值时，将所述请求加入所述延时队列，且在所述延时队列中的所述请求满足所述占位时间时，让所述请求离开所述延时队列。

本发明的服务器、基于延时队列的限流保护系统及方法能实时根据延时队列中的请求的数量响应用户终端的请求，能满足用户请求随机分布的情况，且在延时队列中的所述请求满足所述占位时间时才将延时队列中的请求数量相应地减少，能满足服务器处理能力过剩的情况。

为让本发明的上述和其他目的、特征和优点能更明显易懂，下文特举较佳实施例，并配合所附图式，作详细说明如下。

附图说明

图1为本发明第一实施例提供的服务器的结构示意图。

图2示出一种延时队列的结构示意图。

图3示出一种用户终端的结构框图。

图4为本发明第二实施例提供的基于延时队列的限流保护系统的结构示意图。