[发明专利]一种队列调度方法以及节点设备

说明书

本申请实施例公开了一种队列调度方法以及节点设备，可以使得业务请求消息被尽快执行，从而减少业务请求的时延过长。本申请实施例方法部分包括：节点设备接收业务请求消息；节点设备确定业务请求消息是否属于当前调度线程所对应的服务实例；若是，则节点设备将业务请求消息添加入第一队列，第一队列用于接收当前调度线程所对应的服务实例的业务请求消息；若否，则节点设备将业务请求消息添加入第二队列，第一队列与第二队列为不同的队列，第一队列的调度优先级高于第二队列的调度优先级；节点设备按照调度优先级调度第一队列以及第二队列中的业务请求消息。

技术领域

本申请涉及服务化系统领域，尤其涉及一种队列调度方法以及节点设备。

背景技术

服务化架构因为其组建独立部署、升级、模块解耦和其去中心化结构，在分布式架构中得到越来越多的应用。以微服务(Microservice)架构为例，微服务架构是一种服务化架构模式，它提倡将单一应用程序划分成一组小的服务，服务之间相互协调、相互配合，为用户提供最终的服务。其中，每个服务运行在对应的独立的进程中。在微服务系统中，微服务系统包含多个计算机节点，组成一个集群。每个计算机节点包含一个或多个处理器，计算机节点内运行服务容器进程，服务容器进程包含多个调度线程，每个调度线程与每个处理器核进行绑核，调度线程运行调度器。集群中部署多个服务类型，每个服务类型可以对应一个或多个服务实例，每个服务实例与调度线程进行绑定。调度线程中的调度器调度与该调度线程对应服务实例接收的请求。

即一次业务操作通常要经过多个服务实例进行处理，存在较多的远程调用，业务的时延是服务系统的重要指标。如图1所示，为现有技术中微服务系统的一种业务消息调度示意图，定制队列根据优先级(英文全称：Custom Queue：缩写：CQ)对业务请求消息进行分类，分别插入对应的优先级队列中。其中，CQ的优先级队列，可以按用户的定义分配各个优先级队列中，业务消息调度数量的比例。CQ调度算法按照优先级配比进行轮询调度(英文全称：Round-Robin，缩写：RR)调度。具体的，以存储业务场景下的调度过程为例，假设每个优先级配额(quota)大于4，假设内核一(core_1)的消息队列中有4个输出/输出(英文全称：Input/Output，缩写：IO)请求消息(IO_1、IO_2、IO_3以及IO_4、)，则采用现有技术的调度方法，对应的调度顺序如图2所示，即每个微服务实例在对I/O请求消息进行处理时，需要IO请求消息进行排队，再根据RR算法对每个IO请求消息进行轮询调度，接着再送到下一个微服务实施例进行同样的排队处理，从而造成一个完整的IO请求消息处理时的时延过长。即现有技术中业务请求消息执行过程中每次微服务实例对业务请求消息进行处理需要对业务请求从新排队，从而导致业务请求的时延过长。

发明内容

本申请实施例提供了一种队列调度方法以及节点设备、可以使得业务请求消息被尽快执行，从而减少业务请求的时延过长。

有鉴于此，本申请实施例第一方面提出了一种队列调度方法，该队列调度方法主要包含以下流程：节点设备接收业务请求消息，节点设备确定业务请求消息是否属于当前调度线程所对应的服务实例；若是，则节点设备将业务请求消息添加入第一队列，第一队列用于接收当前调度线程所对应的服务实例的业务请求消息；若否，则节点设备将业务请求消息添加入第二队列，第一队列与第二队列为不同的队列，第一队列的调度优先级高于第二队列的调度优先级；节点设备按照调度优先级调度第一队列以及第二队列中的业务请求消息。

由此可见，在本申请实施例中，与现有技术相比，在业务请求消息执行过程中，根据业务请求消息是否属于当前调度线程所对应的服务实施例，将属于当前调度线程所对应的服务实施例的业务请求消息添加至第一队列，不属于当前调度线程所对应的服务实施例的请求消息添加至第二队列，对业务请求进行处理需要对业务请求不需要重新排队，优先调度第一队列中的业务请求消息，可以使得业务请求消息被尽快执行，从而减少业务请求的时延过长。