[发明专利]负荷控制装置及其方法

说明书

本申请为2007年4月25日递交的、申请号为2007800127797、发明名称为“负荷控制装置及其方法”的专利申请的分案申请。

技术领域

本发明用于一种装置，该装置，被配置在客户机和服务器之间，从客户机接收请求向服务器传送，向客户机传送对于该请求从服务器返回的应答。特别是，涉及请求的调度。另外，在本说明书中，将着眼于Web服务器进行说明，但是不一定限制本发明的对于其他服务器的应用。

背景技术

伴随因特网的普及，已经能够通过网络利用各种服务。邮件、主页的阅览、检索、在线交易、IP电话、点播视频等，是这些服务的例子。这些网络服务能够以各种形态提供，但是近年来，作为与客户机的接口，Web服务器的利用成为主流。

使用Web服务器的服务(Web服务)的基本的结构如下。首先，客户机对于Web服务器发送赋予了识别希望取得的内容的URL(统一资源定位器)的请求。当Web服务器接收到请求时，把与请求中的URL对应的内容作为应答向客户机回送。通过该请求-应答的重复，提供Web服务。

作为传送请求-应答的通信协议，使用HTTP(超文本传输协议)。在本说明书中，把进行Web服务的服务器系统全体称为Web服务器，把在Web服务器上处理HTTP协议的功能称为HTTP服务器，把生成与请求对应的内容的功能称为Web应用。

另外，作为通过Web服务提供的内容现在广泛使用视频和声音的流。流的基本的结构如下。

首先，客户机的Web浏览器从Web服务器取得流内容的元文件。在元文件中，记述流内容的URL。同时，Web浏览器起动与元文件的扩展符关联的播放器(流再生用程序)。然后，根据在从Web服务器取得的元文件中表示的URL，播放器对于流服务器请求流内容的发送。最后，流服务器对于播放器发送流数据。

在流中服务器一般在流内容的再生控制中使用RTSP(实时流协议)协议。RTSP协议是以HTTP协议为基础的协议，在客户机和服务器之间，通过收发请求和对于请求的应答，再生控制流内容。

作为RTSP的请求能够使用的主要的方法，有初始设定(SETUP)、再生(PLAY)、停止(TEARDOWN)等。在RTSP中，因为同时控制多个流，所以有对话的概念。亦即在RTSP中，把从播放器发送SETUP请求到发送TEARDOWN请求、流结束视作为一次对话。

于是，当流服务器从播放器接收SETUP请求时，发行唯一的对话ID。把对话ID赋予应答，通知客户机。通过把通知播放器的对话ID赋予后续的请求，能够识别在流服务器中成为控制对象的对话。

随着Web服务的普及，为舒适地利用服务的课题也日益变得明确起来。作为该课题之一，可以举出服务利用集中时的对过剩通信的应对。

作为服务利用集中的例子，有由于人气高的名牌的股票或者票据的买卖而引起的请求集中、或者灾害发生时的慰问电话等。另外，也有由有恶意的客户机大量发送F5攻击等的无意义的请求的场合。由于这些原因，当向服务器过剩地发送请求时，服务器的请求处理性能会降低。

请求过剩时服务器的请求处理性能降低的原因如下。亦即，第一，伴随服务器处理不完的请求的接收的，诸如中断、TCP/IP处理这样的输入输出开销增加。第二，处理请求的线程或者进程数增大，作为线程或者进程的切换处理所需要的开销的上下文切换开销表面化。第三，因为向客户机返回应答的应答时间增加，所以等待不来应答的客户机会中途撤消请求。这些结果，就会产生服务器越是拥挤，服务器的处理性能越是降低这样的问题。

图1是表示由于请求过剩引起的Web服务器的处理性能降低的实验结果。横轴表示输入请求率，纵轴表示通过量。在图1中，对于某Web服务器，变化输入请求率即每单位时间的请求数(rps)来发送请求。然后，测量通过量，即Web服务器每单位时间能够完成的请求数(rps)。如图1所示，如果输入请求率在一定范围内，则通过量对于输入率成比例(图1直线(a))。但是，当达到Web服务器的最大通过量时，通过量转而降低(图1直线(c))。所以，即使在接收超过Web服务器的最大性能的请求的场合，可以说也需要能够沿图1虚线(b)、维持Web服务器的最大性能的技术。为参考起见，图2表示出理想的通过量的举动。

为防止由于过剩的通信量引起服务器性能降低，提出了预先限制向服务器发送的请求量的方法。作为限制请求量的指标，使用(a)TCP连接数、(b)服务器负荷状态、(c)带宽、(d)并列度等。