[发明专利]服务器负载管理

说明书

系统和方法用于收集通信连接到服务器的一个或多个客户端的一个或多个参数值。基于所收集的一个或多个参数的值构造模型，从而作为时间的函数对所述一个或多个客户端的所述一个或多个参数的值将改变例如在服务器处被视为明显的量的概率进行建模。从客户端之一接收所述一个或多个参数的更新。响应于接收更新，模型被用来计算用于来自所述客户端之一的值的下一次更新的定时。所计算的用于下一次更新的定时被发送到所述客户端之一。

背景技术

随着计算变得对于运行任何交易或服务而言主流且必需，大量服务器正被用于不同类型的服务（例如银行业、客户服务、人力资源管理等）。典型地，服务器被定制成提供特定类型的服务。例如，在银行业应用中，一个或多个服务器由银行托管，并且银行的客户、合作伙伴和关联者连接到这些服务器以执行银行业任务。在基于因特网的应用中，客户典型地使用因特网浏览器来连接到一个或多个服务器。然而，专用客户端应用通常也用于具体类型的应用。例如，数以百万的Skype^TM客户端应用连接到服务器以用于认证、寻找信息、发送要路由到其它客户端的信息等。

典型地，为了服务大量用户，更多服务器在后端添加，并且典型地，负载平衡系统被用来跨多个后端服务器分布（spread）负载。

发明内容

提供本发明内容来以简化的形式引入以下在具体实施方式中进一步描述的概念的选择。本发明内容不意图标识所要求保护的主题的关键特征或必需特征，也不意图被用于限制所要求保护的主题的范围。

在客户端-服务器应用中，服务器可能会发现具有关于连接到它的客户端的状态的数据是有用的。例如，服务器可以基于客户端的状态做出针对通过网络的业务量的路由决定。然而，客户端的状态可能随时间而变化。因此，如果服务器正在从一个或多个客户端连续收集改变数据值，则客户端可能通常需要在例如发生事件时向服务器更新其状态或者呼叫服务器以执行服务。这样的更新可以通过在属性值改变时从客户端发送更新来完成。然而，在该机制中，服务器不具有对所生成的业务量的控制。客户端还可以通过向服务器发送定期更新来更新服务器。在该方法中，尽管业务量是更易于预测的，但是服务器容量需要被设置为比所需要的计算能力的预留更高的高要求，因为甚至在没有更新是必要的时（例如因为自从上一次更新之后没有发生客户端状态的改变），更新也将根据定期定时来发送。该问题随着系统中的客户端的数目增加而加剧。例如，可以存在千万量级的客户端。

本文所描述的实施例公开了客户端向服务器发送更新并且作为响应服务器提供下一次更新应当发送的定时。以此方式，服务器可以控制来自客户端的更新的定时，例如在逐个客户端的基础上。

可以收集关于对客户端的参数值的客户端侧改变的数据，并且可以分析所收集的数据以建立模型，该模型用于作为时间的函数对客户端的参数值将改变被服务器（基于历史）视为明显的量的概率进行建模。改变被视为明显的，例如在服务器处如果它们将会影响服务器将做出的决定的话。例如，如果可用于客户端的带宽改变将会影响服务器做出的路由决定（例如以避免所述客户端）的量，则该改变将会被服务器视为明显的。模型在来自客户端的一个或多个呼叫之后可以用于计算针对特定客户端的下一次更新的最高效的回叫时间。例如，基于模型，服务器确定客户端的参数的值不倾向于在特定时间间隔内偏离超出预选范围，因此服务器可以指令客户端采取大于特定时间间隔的用于参数值的下一次更新的定时。在影响客户端状态的多变用户行为和流行应用的情况下，服务器侧上的节约（由于降低的业务量）可以是大量的。在一个实施例中，提供应用编程接口（API）以查询模型。API可以封装在可以被本地或远程客户端使用的服务中。

在一个实施例中，公开了一种用于收集通信连接到服务器的一个或多个客户端的一个或多个参数的值的方法。基于所收集的一个或多个参数值构造模型，从而作为时间的函数对一个或多个客户端的一个或多个参数值将改变例如在服务器处被视为明显的量的概率进行建模。从一个客户端接收更新，该更新为所述一个客户端的一个或多个参数值的更新。响应于接收到所述更新，模型被用于计算用于来自所述一个客户端的值的下一次更新的定时，并且用于下一次更新的所计算的定时被发送给所述一个客户端。