[发明专利]流量控制方法和流量控制系统

说明书

本申请公开一种流量控制方法和流量控制系统，包括：接收第一时间段内的物流数据处理的请求；判断第一时间段内的所述请求的数目是否超出该第一时间段内所能执行的第一阀值；当判断所述请求的数目超出所述第一阀值时，判断超出所述第一阀值的请求的数目是否超出等待阀值；当超出所述第一阀值的请求的数目未超出所述等待阀值时，将所述超出所述第一阀值且未超出等待阀值的请求加入等待队列；当超出所述第一阀值的请求的数目超出所述等待阀值时，拒绝所述超出等待阀值的请求。本申请实施例通过设置等待队列，实现了容纳更高的瞬时流量，避免了现有技术将超出热点队列限流值的请求直接拒绝的缺陷。

技术领域

本申请涉及互联网领域，尤其涉及一种流量控制方法和流量控制系统。

背景技术

在互联网业务中，电商系统的稳定性和响应的及时性是决定用户体验好坏的重要因素。而在特定的时间，例如“双十一”期间，大量的用户可能同时向服务器提交请求，导致峰值大流量的产生。峰值大流量对业务系统直接冲击会造成系统瞬时瘫痪、数据库连接数耗空、应用容器处理缓慢甚至进程死掉等问题，对系统的稳定性和性能造成极大的挑战。

现有技术中，通常使用单机流量控制的方法对流量进行控制。单机流量控制的主要思想在于为每一台客户端限定一个流量的最大值。此处的流量可以为每秒请求量(qps，query per second)，也可以是其他单位时间刻度内的请求数。超过这一最大值的客户端发出的请求会被拒绝，即服务器会返回请求失败的信息至客户端。

现有的单机流量控制方法至少存在如下问题：瞬时和长时间大流量可能造成系统瘫痪，导致稳定性降低；软负载不均导致集群中个别机器的流量超出上述最大值而误杀；低阀值、大集群无法有效进行流量控制；不具有容错机制等。

发明内容

鉴于上述问题，提出了本申请实施例以便提供一种克服上述问题或者至少部分地解决上述问题的流量控制方法和流量控制系统。

为解决上述问题，本申请一实施例公开一种流量控制方法，包括：

接收第一时间段内的物流数据处理的请求；

判断第一时间段内的所述请求的数目是否超出该第一时间段内所能执行的第一阀值；

当判断所述请求的数目超出所述第一阀值时，判断超出所述第一阀值的请求的数目是否超出第一等待阀值；

当超出所述第一阀值的请求的数目未超出所述第一等待阀值时，将所述超出所述第一阀值且未超出第一等待阀值的请求加入等待队列；

当超出所述第一阀值的请求的数目超出所述第一等待阀值时，拒绝所述超出第一等待阀值的请求。

为解决上述问题，本申请另一实施例公开一种流量控制方法，包括：

接收第二时间段内的物流数据处理请求；

判断所述第二时间段内的接收的请求数目与等待队列中的请求数目的总和是否超出该第二时间段所能执行的第二阀值；

当判断所述总和超出该第二阀值时，判断超出第二阀值的请求的数目是否超出第二等待阀值；

当所述超出第二阀值的请求的数目未超出所述等待阀值时，将所述超出所述第二阀值且未超出等待阀值的请求加入等待队列；

当所述超出第二阀值的请求的数目超出所述等待阀值时，拒绝所述超出等待阀值的请求。

为解决上述问题，本申请再一实施例提出一种流量控制方系统，包括：

第一接收模块，用于接收第一时间段内的物流数据处理的请求；

第一判断模块，用于判断第一时间段内的所述请求的数目是否超出该第一时间段内所能执行的第一阀值；