[发明专利]预测计算设备中的包寿命的排队系统

说明书

本公开涉及预测计算设备中的包寿命的排队系统。公开了用于网络设备的排队系统的技术。在一个示例中，网络设备包括多个存储器与连接至多个存储器的处理电路。多个存储器包括处理电路的本地存储器和到处理电路的外部存储器。处理电路被配置为接收待处理的传入网络包，其中，在处理之前，网络包保存在队列中，并且基于队列的出列速率确定网络包的预测寿命。处理电路被进一步配置为基于预测寿命从多个存储器中选择第一存储器并且响应从多个存储器中选择第一存储器而将网络包存储在第一存储器中。

优先权

本申请要求保护于2018年6月27日提交的美国专利申请号16/020,842的权益，通过引用将其全部内容结合在此。

技术领域

本公开整体涉及计算设备，并且具体地，涉及网络设备中的排队。

背景技术

计算机网络是能够交换数据并且共享资源的互连网络设备的统称。示例性网络设备包括路由器、交换机、以及其他的在开放系统互连(OSI)参考模型的第二层(即，数据链接层)内操作的第二层(L2)网络设备、以及在OSI参考模型的第三层(即，网络层)内操作的第三层(L3)网络设备。计算机网络内的网络设备通常包括为网络设备提供控制平面功能的控制单元和用于路由或切换数据单元的转发组件。

计算机网络的网络交换机可以使用队列来帮助提供发送器与接收器之间的带宽匹配。更具体地，网络交换机以相对快的速率接收来自发送器的包。网络交换机以相对慢的速率将从发送器接收的包的一部分发送至接收器并且将接收包的其余部分存储在队列中。在发送接收包的一部分之后，网络交换机以相对慢的速率将存储在队列中的包发送至接收器。

发明内容

总体上，本公开描述了用于改善网络设备中的排队系统的技术。在包转发引擎之间进行内部切换之前，或在通过网络发送包之前，诸如路由器或交换机的网络设备可以在一个或多个队列中对包进行重新排队。可以将队列的包存储在延迟带宽缓冲器中，延迟带宽缓冲器可以实现为包括本地存储器(例如，片上存储器)和外部存储器(例如，高带宽存储器(HBM))的“混合存储器”。

相应地，本公开的技术描述了一种预测包“寿命”(本文中也被称为“预测寿命”)的用于网络设备的排队系统，以在本地存储器与外部存储器之间进行选择。寿命是预期包停留在延迟带宽缓冲器中的时间的预测。根据所描述的技术，网络设备将具有“短”寿命的包(例如，及时快速地写和读的包)存储在本地存储器中并且将具有“长”寿命的包(例如，相较于具有短寿命的包，及时地写、但读要晚许多的包)存储在外部存储器中。

本公开的技术通过预期包的延迟带宽缓冲器需求并且将包放入包的预测寿命的“最佳”缓冲器中以使用寿命来优化混合存储器性能。例如，网络设备可以将进入并且退出延迟带宽缓冲器的包快速地存储在本地存储器中，并且将“逗留”的包存储在外部存储器中。本文中描述的技术可以通过测量队列长度(本文中也被称为“Qlength”)和出列速率(本文中也被称为队列的“DQrate”(例如，发送速率))来预测队列延迟。延迟测量是预期包停留在队列中的时间。此外，技术可以确定队列拥堵并且在等待队列长度和延迟增长之前将经历拥堵的队列移至外部存储器，这可以有助于避免本地存储器的使用过于珍贵。

在一个示例中，本公开描述了一种方法，包括：通过网络设备的处理电路接收待处理的传入网络包，其中，在处理之前，网络包保存在队列中；由处理电路基于队列的出列速率确定网络包的预测寿命；由处理电路基于预测寿命从网络包的多个存储器中选择第一存储器，其中，多个存储器包括处理电路的本地存储器和到处理电路的外部存储器；并且响应于从多个存储器中选择第一存储器，由处理电路将网络包存储在第一存储器中。