[发明专利]一种CDN节点过载的调度方法及系统

说明书

本发明提供一种CDN节点过载的调度方法及系统，其特征在于，所述方法包括：以预定频率探测CDN节点内的硬件资源使用情况，并根据所述硬件资源使用情况确定CDN节点内的硬件资源利用率；根据所述硬件资源利用率，结合预设负载调整算法更新跳转调度策略；每间隔设定时间段查询当前的跳转调度策略，根据查询到的跳转调度策略确定是否需要对当前时间段内接收到的用户请求进行调度；若需要，则根据查询到的用户请求调度比例确定需要跳转的用户请求，并将需要跳转的用户请求跳转到目标节点。通过此方法，可以解决现有应对CDN节点过载调度技术中预警不够及时、预测不准以及调度生效延迟的问题。

技术领域

本发明涉及通信技术领域，具体涉及一种CDN节点过载的调度方法及系统。

背景技术

CDN(内容分发网络)通过在世界各地部署服务节点，使用户能够就近快速访问互联网资源。一般来说，CDN具备一套全局流量调度系统，其根据设定的策略，将不同地区和运营商的用户访问请求调度至不同的服务节点；其另外一个主要工作是在用户访问质量与节点运营成本之间取得平衡。在现实网络环境中，由于CDN承载的业务类型繁多，且不同业务具有不同的流量分布和变化特征，可能导致部分服务节点的容量(服务能力)与实际的访问流量之间出现短时的或长时的不匹配，例如一个突发的区域性的社会热点事件可能会引起相关地区的用户访问流量突增，导致相关节点负载急剧升高，进而导致节点服务质量和用户体验的下降。随着互联网业务的快速发展和不断变化，节点过载问题出现的愈发频繁，这对CDN调度系统提出了一个挑战：能够快速发现节点过载的情况，并及时将相关节点无法承载的流量调度至其他节点。

针对这一问题，现有的解决技术方案包括两种：1、节点预警加DNS调度：一般来讲CDN会根据各节点的网络质量、网络容量以及客户的服务等级等几个因素，来对各个客户的业务流量进行提前规划，以满足用户的访问质量要求，并尽量降低节点运营成本。在满足上述条件的同时，CDN还要保证各节点在日常情况下有一定程度的网络冗余来应对小幅的突发流量；当节点的网络冗余较多时，节点过载的发生概率就比较低；这种情况下，可以通过节点预警的方式来触发手动或自动的DNS调度服务，提前将一部分流量调度至其他空闲节点，来避免相关的节点出现过载问题；2、流量预测加DNS调度：随着机器学习等技术的兴起，CDN的流量调度系统也开始引入流量预测的技术。调度系统通过采集各节点的历史流量等信息，进行分析、学习、计算；以此来预测未来一段时间后各节点的流量，并根据预测结果提前自动调整全局调度策略，用以避免出现过载问题。

在实现本发明过程中，申请人发现现有技术中至少存在如下问题：

上述方案1中，预警系统虽然可以提前发现可能出现的过载节点，但无法准确预估相关节点需要调度出去的流量有多少，因为节点预警功能只能告知运维人员(或自动化运维系统)该节点即将过载，但是无法预估节点接下来可能会增加多少流量，因此，运维人员(或自动化运维系统)只能根据预设的方案尝试将部分流量(例如10％)调度至其他节点。如果调度出去的流量过少，则无法解除过载的情况，因此会再次触发预警并需要再次调整调度；如果调度出去的流量过多，则降低了节点的利用率，提高了运营成本，也需要再次调整策略，将一部分调度出去的流量再调度回来。另外由于流量调度系统需要使用DNS调度进行调整，新的调度生效的延迟取决于DNS生效延迟，由于DNS协议的原生缺陷，一般来说生效延迟会有5到10分钟，因此在已知即将发生过载的情况下，调度系统可能仍无法及时将流量调度至其它节点，节点仍有较大可能发生过载；

上述方案2(流量预测加DNS调度)相比方案1更加智能，该方案通过提前预测节点流量，来提前精准部署新的调度策略，针对一般的流量变化场景可以较好地维持网络服务质量和节点利用率的平衡。但由于现实世界的复杂性，流量预测算法实际上无法应对所有流量突发场景，当预测结果失真时，仍然可能面临较大的节点过载风险。也就是说，此方案能够降低节点过载的发生概率，但不能完全解决。另外，由于此方案也仍然主要使用DNS进行调度，也存在生效缓慢的问题，也就是说即使能够相对准确预测，也可能无法及时将流量调度至其它节点。

发明内容