[发明专利]用于支持分布式数据网格中的动态线程池大小确定的系统和方法

说明书

一种系统和方法支持适合在多线程处理环境(诸如，分布式数据网格)中使用的动态线程池大小确定。动态线程池大小调整利用线程池吞吐量和工作者线程利用率的测量结合对先前线程池大小调整动作的功效的分析，以确定是否在当前大小调整动作中向线程池添加工作者线程或从中去除工作者线程。此外，动态线程池大小调整系统和方法可以取决于系统的需要加快或减慢迭代的大小调整分析和工作者线程添加和去除的速率。引入了优化以防止停滞在局部最大吞吐量上。动态线程池大小确定/大小调整系统和方法由此响应于工作负荷和处理器可用性的改变而提供对线程池大小的快速和响应式的调整。

版权声明：

本专利文档的公开内容的一部分包含受版权保护的素材。版权拥有者不反对任何人对专利文档或专利公开内容按照它在专利商标局的专利文件或记录中出现的那样进行传真复制，但是除此之外在任何情况下都保留所有版权。

技术领域

本发明一般而言涉及计算机系统，并且具体而言涉及分布式数据网格。

发明内容

本文描述的是可以支持分布式数据网格中的线程池大小确定(sizing)和大小调整(resizing)的系统和方法。如在随后的分布式数据网格的描述中所描述的，由分布式数据网格的节点提供的服务通常使用一个服务线程来提供服务的特定功能。一些服务可选地支持可以被配置成向服务线程提供附加的处理资源的工作者线程的线程池。本公开描述了一种可以被配置成向服务线程提供附加的处理资源的工作者线程的可伸缩线程池以及一种用于可伸缩线程池的动态大小调整的系统和方法。本文描述的动态线程池大小确定和大小调整的系统和方法也可适用于各种各样的其它多线程处理环境。

在实施例中，本公开描述了支持适合在多线程处理环境(诸如，分布式数据网格)中使用的动态线程池大小确定的系统和方法。可以例如在与分布式数据网格中的服务线程相关联的可伸缩线程池中执行动态线程池大小调整。动态线程池大小调整利用线程池吞吐量和工作者线程利用率的测量结合对先前线程池大小调整动作的功效的分析，以确定是否在当前大小调整动作中向线程池添加工作者线程或从线程池中去除工作者线程。此外，动态线程池大小调整系统和方法可以取决于系统的需要加快或减慢大小调整的分析，并且因此加快或减慢工作者线程添加和去除的速率。结合了优化以防止停滞在局部最大吞吐量上。动态线程池大小调整系统和方法从而响应于工作负载和处理器可用性的改变而提供对线程池大小的快速和响应式的调整。

在实施例中，本公开描述了可以支持分布式数据网格中的动态线程池大小确定的系统和方法。该系统可以测量在一段时间内的线程池的总吞吐量。然后，该系统可以确定线程池的总吞吐量自上一个时段的改变，并且如果满足一个或多个标准，那么可以将线程池的大小调整随机的量。此外，系统可以基于在上一个时段中线程池的大小调整的有效程度来确定下一个时段的长度。

在特定实施例中，本公开描述了用于支持包括多线程处理系统中的多个工作者线程的线程池的动态线程池大小调整的方法、系统或非瞬态介质。该方法、系统和非瞬态介质中的每一个通过执行大小调整作业来支持线程池的动态线程池大小调整。大小调整作业包括测量当前时段中的线程池的吞吐量(T.now)，并且根据T.now和在先前时段中测得的线程池的吞吐量(T.last)计算线程池的吞吐量的改变(T.delta)。大小调整作业还包括执行大小调整动作，该动作包括以下之一：使得向线程池添加一个或多个工作者线程、使得从线程池中去除一个或多个工作者线程、以及使得线程池不发生改变。大小调整作业还包括基于在上一个时段之后执行的先前大小调整动作的功效(如由T.delta所指示的那样)计算下一个时段的持续时间，然后调度要在下一个时段期满之后执行的下一个大小调整作业。

当在附图的启发下阅读时，根据各种实施例的以下描述，本发明的这些和其它目的和优点对于本领域技术人员将变得显而易见。

附图说明

图1图示根据本发明的实施例的分布式数据网格。

图2图示根据本发明的实施例的可伸缩线程池系统。