[发明专利]用于动态工作队列管理的技术

说明书

用于动态工作队列管理的技术包括通信地耦合到消费者计算设备的生产者计算设备。消费者计算设备被配置为发送弹出请求(例如，单侧拉取请求)，其包括指示从生产者计算设备中拉取的工作量的消费约束(例如，从生产者的工作队列返回的工作元素的可接受分数的范围)。生产者计算设备被配置为确定是否可以满足弹出请求并生成响应，该响应包括确定结果的指示以及一个或者多个生产者度量，所述生产者度量可以由消费者计算设备用于确定消费者计算设备在接收到响应消息时要执行的后续动作。本文描述并要求保护其他实施例。

政府权利条款

本发明是在由国防部授予的合同号H98230-13-D-0124下由政府支持完成的。政府对本发明享有一定的权利。

相关美国专利申请的交叉引用

本申请要求于2016年3月31日提交的题为“TECHNOLOGIES FOR DYNAMIC WORKQUEUE MANAGEMENT的美国专利申请序列号15/087,536的优先权。

背景技术

个人、研究人员和企业对计算设备的计算性能和存储容量的增加的需求导致已经开发了各种计算技术来满足这些需求。例如，计算密集型应用(例如，基于企业云的应用(例如，软件即服务(SaaS)应用)、数据挖掘应用、数据驱动建模应用、科学计算问题解决应用等)通常依赖于复杂的、大规模计算环境(如，高性能计算(HPC)环境和云计算环境)用于执行计算密集型应用，以及存储大量数据。这种大规模计算环境可以包括通过高速互连连接的数万个多处理器/多核计算设备。

通常，由于在任何给定时间产生的不可预测的工作量，此类应用需要持续的动态负载平衡以实现可缩放的性能和可用性。因此，已经开发了各种负载平衡技术(例如，域名系统(DNS)负载平衡、云负载平衡、图分区、主管-工作者平衡等)，以在各种计算设备上高效地分配动态可分配的工作负载。通常在HPC环境中使用的一种这样的负载平衡方法通常被称为工作窃取，其中计算设备产生工作，然后将工作添加到本地队列。继而，其他计算设备从生产者的队列中读取或者“窃取”工作，以便消费或者以其他方式执行被盗工作。

附图说明

在此描述的概念在附图中以示例而非限制的方式示出。为了说明的简单和清楚起见，图中所示的元件不一定按比例绘制。在认为合适的地方，附图标记在图中重复以指示相应或者类似的元件。

图1是用于动态工作队列管理的系统的至少一个实施例的简化框图，该系统包括通信地耦合到多个消费者计算设备的生产者计算设备；

图2是图1的系统的生产者计算设备的至少一个实施例的简化框图；

图3是图1的系统的消费者计算设备的至少一个实施例的简化框图；

图4是图1和图3的消费者计算设备的环境的至少一个实施例的简化框图；

图5是图1和图2的生产者计算设备的环境的至少一个实施例的简化框图；

图6是用于可以由图1和图3的消费者计算设备执行的从图1和图2的生产者计算设备请求工作的至少一个实施例的简化流程图；以及

图7和图8是用于可以由图1和图2的生产者计算设备执行的处理来自图1和图3的消费者计算设备的弹出请求的至少一个实施例的简化流程图。

具体实施方式

虽然本公开的概念易于进行各种修改和替代形式，但是其具体实施例已经在附图中通过示例的方式示出，并且将在本文中进行详细描述。然而，应当理解，不意图将本公开的概念限制为所公开的特定形式，而是相反，意图是覆盖与本公开和所附权利要求一致的所有修改方案、等同方案和替代方案。