[发明专利]业务请求的处理方法及装置

说明书

本说明书实施例提供一种业务请求的处理方法及装置，在业务请求的处理方法中，接收业务请求，确定业务请求所属的类型。从线程池中统计出分配给该类型的业务请求的线程的数量。判断统计的线程的数量是否超过在当前时间窗口内分配给该类型的业务请求的线程的上限值。如果未超过上限值，则分配线程池中的空闲线程，以处理该业务请求。如果超过上限值，则将该业务请求加入等待队列。

技术领域

本说明书一个或多个实施例涉及计算机技术领域，尤其涉及一种业务请求的处理方法及装置。

背景技术

传统技术中，业务请求的处理方法为：服务器接收业务请求方发送的业务请求。从线程池中分配空闲的线程，以处理该业务请求。向业务请求方返回处理结果。线程池中维护多个线程，线程是程序执行流的最小单元，是被操作系统独立调度和分派的基本单位。由此可以看出，传统技术中，服务器是按照接收业务请求的顺序自由化分配线程的。

发明内容

本说明书一个或多个实施例描述了一种业务请求的处理方法及装置，可以提高线程的利用率。

第一方面，提供了一种业务请求的处理方法，包括：

接收业务请求；

确定所述业务请求所属的类型；

从线程池中统计出分配给所述类型的业务请求的线程的数量；所述线程池中维护多个分配给不同类型的业务请求的线程；

判断所述线程的数量是否超过在当前时间窗口内分配给所述类型的业务请求的线程的上限值，所述上限值是根据在上一时间窗口内分配给不同类型的业务请求的线程的数量以及所述类型的业务请求被分配到线程的概率来确定的；

如果未超过所述上限值，则分配所述线程池中的空闲线程，以处理所述业务请求；

如果超过所述上限值，则将所述业务请求加入等待队列。

第二方面，提供了一种业务请求的处理装置，包括：

接收单元，用于接收业务请求；

确定单元，用于确定所述接收单元接收的所述业务请求所属的类型；

统计单元，用于从线程池中统计出分配给所述确定单元确定的所述类型的业务请求的线程的数量；所述线程池中维护多个分配给不同类型的业务请求的线程；

判断单元，用于判断所述统计单元统计的所述线程的数量是否超过在当前时间窗口内分配给所述类型的业务请求的线程的上限值，所述上限值是根据在上一时间窗口内分配给不同类型的业务请求的线程的数量以及所述类型的业务请求被分配到线程的概率来确定的；

分配单元，用于如果所述判断单元判断未超过所述上限值，则分配所述线程池中的空闲线程，以处理所述业务请求；

加入单元，用于如果所述判断单元判断超过所述上限值，则将所述业务请求加入等待队列。

本说明书一个或多个实施例提供的业务请求的处理方法及装置，接收业务请求，确定业务请求所属的类型。从线程池中统计出分配给该类型的业务请求的线程的数量。判断统计的线程的数量是否超过在当前时间窗口内分配给该类型的业务请求的线程的上限值。如果未超过上限值，则分配线程池中的空闲线程，以处理该业务请求。如果超过上限值，则将该业务请求加入等待队列。由此，可以避免由于某类型的业务请求的响应速度慢且请求量高时，导致大量线程被阻塞，从而降级线程的利用率的问题。

附图说明

为了更清楚地说明本说明书实施例的技术方案，下面将对实施例描述中所需要使用的附图作简单地介绍，显而易见地，下面描述中的附图仅仅是本说明书的一些实施例，对于本领域普通技术人员来讲，在不付出创造性劳动的前提下，还可以根据这些附图获得其它的附图。

图1为本说明书提供的业务请求的处理方法的应用场景示意图；