[发明专利]使用交换机来连接加速器资源

说明书

本公开描述了与用于实现互连交换机以在诸如CPU的节点资源与用于缓存的加速器资源之间提供可切换的低时延旁路的设备和技术相关的多个实施例。资源管理器可以用于接收对多个节点中的一个节点的指示以及对多个加速器资源中的要连接到该节点的一个加速器资源的指示。如果所指示的加速器资源被连接到多个节点中的另一节点，则向互连交换机发送一个或多个热移除命令。然后，资源管理器可以向互连交换机发送一个或多个热添加命令，以连接节点资源和加速器资源。

本申请是2018年7月20日提交的申请号为201810803098.2的同名专利申请的分案申请。

技术领域

本公开的实施例总体上涉及计算系统领域。更具体地，实施例涉及用于切换一个或多个节点资源的设备和方法，该节点资源可以包括具有一个或多个加速器资源的中央处理单元(CPU)。

背景技术

在过去几年中，数据中心内的工作负载需求已大大增加。作为响应，数据中心变得更大；已经包括具有各种资源的附加数据中心机架(rack)，这些附加数据中心机架可以以各种方式彼此互连，以满足日益增加且波动的工作负载需求。

附图说明

通过以下具体实施方式，结合附图，将容易理解实施例。为了便于该描述，相同的附图标记表示相同的结构元素。通过示例的方式而非通过限制的方式在附图的图中示出了实施例。

图1是根据各种实施例的用于将节点资源与加速器资源连接的互连交换机的示例实现方式的图。

图2是根据各种实施例的包括互连交换机端口的示例互连交换机的图。

图3是根据各种实施例的互连交换机端口的示例实现方式的图。

图4是示出根据各种实施例的用于使用互连交换机来实现对节点资源与加速器资源之间的连接进行管理的过程的框图。

图5示出了根据各种实施例的适用于实践本公开的方面的示例计算设备。

图6是示出根据各种实施例的计算机可读介质的图，该计算机可读介质具有用于使用互连交换机来实践对节点资源与加速器资源之间的连接进行管理的指令。

具体实施方式

可以在本文中公开可以通过使用低时延交换机来允许加速器资源与可以位于机架或机架组(pod)内的节点资源共享的方法、装置和系统。在实施例中，每个加速器资源可以在给定时间与一个节点资源耦合。在实施例中，加速器资源可以是现场可编程门阵列(FPGA)、图形处理单元(GPU)、专用集成电路(ASIC)、输入/输出(I/O)加速器或其他资源。在实施例中，加速器资源可以实现存储器或其他高速缓存。在实施例中，节点资源可以是CPU。

包括多个数据中心机架的数据中心操作可以受益于在没有来自运营商的物理干预的情况下将加速器资源的连接在数据中心机架或机架组内从一个节点资源向另一节点资源添加、移除或移动的灵活性。在实施例中，当与节点资源连接时，加速器资源可以涉及一致性和存储器扩展。I/O加速器可能具有加载-存储语义。

一致性扩展允许加速器缓存由节点托管的系统存储器，以较低功率实现更高性能。存储器扩展使节点资源能够以类似于系统存储器的方式访问由加速器托管的存储器，从而实现节点与加速器之间更好共享，以获得更好的性能。加载-存储语义可以允许CPU或设备直接作为加载命令(例如，读取)或作为存储命令(例如，写入)来访问存储器映射的资源。

在传统实现方式中，当节点资源可能属于不同的一致性域时，在多个节点资源之中共享加速器资源是具有挑战性的。这可能是由于一致性域中的资源紧密耦合以及跨域的故障隔离要求。这些传统方法的缺点可能包括将某些计算任务限制到可能具有现有所需功能的特定节点资源(即，现有的已耦合加速器资源)。其他缺点可能包括数据中心可能过度配置资源以准备最坏情况的计算场景任务或其他操作要求。这可能导致已部署的加速器资源过多，并且导致数据中心中的加速器资源利用不足。