[发明专利]用于多核系统中的对象速率限制的系统和方法

说明书

本专利文件的公开的一部分包括受版权保护的内容。版权所有人不反对任何人对专利商标局的文件或记录中存在的专利文件或专利公开进行传真复制，但除此之外，保留所有版权。

相关申请

本申请要求在2009年12月23日提出的、标题为“Systems and Meth ods For Object Rate Limiting In A Multi-Core System”的美国非临时申请NO.12/645,860的权益和优先权，该申请通过引用被全部包含于此。

技术领域

本申请总的涉及数据通信网络。本申请具体涉及用于多核系统中的对象速率限制的系统和方法。

背景技术

典型的企业可经由网络通信系统向许多用户提供对服务器的访问。随着诸如音乐和视频媒体之类的网络内容的激增，服务器可能面临许多服务请求，其传递各种不同的网络内容对象。某些被请求的对象可能很大，而某些可能很小。因此，一些对象比其他对象可能消耗更多的网络资源和带宽。在某些情况下，用户可请求与另一被请求对象相比应该以更高优先级传递的对象。例如，在企业中，访问某些对象比访问其他对象对于操作来说可能更加重要，例如，比起与企业历史相关或非业务相关的内容，企业可为与投资和融资信息相关的内容分配更高的优先级。在某些情况下，企业网的用户可请求非业务相关的对象，并且对这些类型的对象的请求可能影响被分配了更高优先级的对象的传送。由于各种各样的用户、大量的用户请求，以及不同类型的对象，管理用户对网络内容对象的访问具有相当的挑战性。

发明内容

本申请涉及控制对在网络中的网络资源的访问和/或请求的速率。具体来说，在多个客户机和多个服务器之间的网络中部署中间装置。该中间装置可以接收来自多个客户机的、对一个或多个网络资源的请求，并且转发该请求到一个或多个服务器，或者通过由所述中间装置维护的网络资源副本来服务该请求。在一些实施例中，中间装置包含处理来自客户机的对某些网络资源的请求的多个核。中间装置的一个核可被指定为由客户机请求的特定资源的所有者，并且可以监控对该资源的请求的速率。当所有者核识别出已经超出关于该资源的限制时，所有者核可阻塞或延迟对该资源的请求。

公开了用于管理对在服务器和一个或多个客户机之间经由多核中间装置传输的对象的请求的速率的方法。在某些实施例中，多个核的部分具有在其上运行的分组处理引擎，该分组处理引擎被配置为处理来自多个客户机的、对由多个服务器提供的多个网络资源或对象的请求。所述方法可在设备上执行以管理或控制对在服务器和一个或多个客户机之间传输的资源或对象的请求的速率。在不同的实施例中，所述方法包括由第一分组处理引擎接收来自于客户机的对服务器的多个对象或资源的第一对象或资源的请求的步骤，该第一分组处理引擎在中间装置的多个核的第一核上执行，该中间装置部署在多个客户机和一个或多个服务器之间。所述方法还可以包括由所述中间装置指定第一核作为所述第一对象的所有者核，并且由所述第一分组处理引擎建立用于存储关于所述第一对象的速率相关计数器的、在多个核可访问的共享存储器中的位置。共享存储器可以是全局高速缓存或主存储器。所述方法还可包括由在多个核的第二核上执行的第二分组处理引擎接收对第一对象的第二请求，以及由第二分组处理引擎从第一分组处理引擎接收速率相关计数器在共享存储器中的位置。在不同的实施例中，所述方法包括由所述第二分组处理引擎经由从所述共享存储器中的位置获取的速率相关计数器，来确定是否已经达到所述第一对象的速率限制。还公开了可在其上执行所述方法的各种实施例的系统和装置。

附图说明

通过参考下述结合附图的描述本发明的前述和其它目的、方面、特征和优点将会更加明显并更易于理解，其中：

图1A是客户机通过设备访问服务器的网络环境的实施例的框图；

图1B是通过设备从服务器传送计算环境到客户机的环境的实施例的框图；

图1C是通过设备从服务器传送计算环境到客户机的环境的另一个实施例的框图；

图1D是通过设备从服务器传送计算环境到客户机的环境的另一个实施例的框图；

图1E到1H是计算装置的实施例的框图；

图2A是用于处理客户机和服务器之间的通信的设备的实施例的框图；

图2B是用于优化、加速、负载平衡和路由客户端和服务器之间的通信的设备的另一个实施例的框图；