[发明专利]基于多评价指标的动态负载均衡框架

说明书

技术领域

本发明涉及一种应用在高并发访问分布式系统之上的动态负载均衡框架，属于互联网技术领域。

背景技术

负载均衡机制是建立在分布式系统结构之上，为集群系统提供了一种有效透明的方法，用来扩展网络设备和服务器的带宽、增加吞吐量、加强网络数据处理能力、提高系统灵活性和可用性的一种技术。它的目标是把用户端的任务合理地分配到集群的各个节点，以达到整个分布式系统的负载均衡，保障系统有高效的数据处理能力和服务质量。

目前存在的一些负载均衡框架，仅仅通过一些简单的负载均衡算法进行任务的调度，并没有非常准确地根据节点的实时负载进行任务的分配，同时，单个负载均衡节点需要完成如节点信息采集，负载决策和任务调度等一系列的工作，大量的信息在该节点的积聚会产生较高的开销和延迟，使得前端的负载调度成为整个集群系统的性能瓶颈，从而降低了系统的处理效率。

发明内容

本发明的目的是克服现有技术中存在的不足，提供一种新的负载均衡框架，该框架采用的是一种基于多评价指标的动态负载均衡算法，同时，为了减低负载均衡节点的工作压力，我们将评价指标的采集工作转移到分布式系统的各自的节点上完成。

按照本发明提供的技术方案，所述基于多评价指标的动态负载均衡框架包括：分布式系统节点、评价指标存储节点、负载均衡节点及其备份节点和用户访问端，所述分布式系统节点用来完成该节点负载信息的采集工作，该节点上部署的信息采集模块将节点的负载评价指标数据周期性（比如每5-10秒）地写入到评价指标存储节点的关系型数据库中，即评价指标数据库；所述负载均衡节点用来从评价指标数据库中收集数据并进行节点综合负载的计算，针对负载均衡节点采用双机热备技术，增加一个备份节点，在负载均衡主节点无法工作的时候，由备份节点自动接管后续的系统负载工作；所述用户访问端是整个框架的访问入口，用户的请求首先发送至负载均衡节点，负载均衡节点根据优先队列中维护的节点负载轻重的数据，挑选出最佳的服务节点，然后将用户请求直接转发至该节点，由该节点响应前端的用户请求。

所述负载均衡节点采用的多评价指标的动态负载均衡算法是：根据节点的多个负载评价指标，包括系统的CPU利用率、I/O利用率和内存利用率，并赋予每个评价指标不同的权值，利用线性加权方法，计算出每个节点的综合负载，并以此选出合适的服务节点，进行任务的计算或访问。

所述的负载均衡节点包括评价指标收集模块，负载计算模块和负载列表更新模块，所述评价指标收集模块按照用户设定的频率去访问评价指标存储节点以获取各个存储节点的最新评价指标，并且将数据传入负载计算模块；所述负载计算模块根据评价指标收集模块定期传来的数据，进行综合负载的计算，然后对比设定的负载指标阈值判别每个节点的负载轻重程度；所述负载列表更新模块中始终维护一个节点负载轻重的优先队列，根据负载计算模块的判别结果，用来进行队列的更新。所述优先队列常驻内存中，同时采用Nosql数据库进行备份。

本发明的优点：将负载信息收集模块部署在分布式系统的各自节点上，而不是集中部署在负载均衡节点，并采用了一种基于多评价指标的动态负载均衡算法；同时，在负载均衡节点实时维护节点负载均衡数据的优先队列，减短负载均衡节点的响应时间。本发明稳定性高、效率快，不但解决了用户访问端高并发数据访问的效率瓶颈，同时避免了因为负载均衡节点负载过重而造成的处理性能问题。

附图说明

图1为本发明框架的结构图。

图2为本发明框架中负载均衡节点的模块划分图。

图3 为本发明框架内的工作流程示意图。

具体实施方式

下面结合具体附图和实施例对本发明作进一步说明。

为了减小负载均衡节点的负载，本方案采用在分布式系统每个节点上部署负载信息采集模块的方案进行节点负载数据的监控；在负载均衡节点中始终维护负载优先队列来减小负载均衡节点的响应时间。

如图1所示，所述的动态负载均衡框架包括分布式系统节点、评价指标存储节点、负载均衡节点及其备份节点和用户访问端组成。

所述分布式系统节点用来完成该节点负载信息的采集工作，该节点上部署的信息采集模块将节点的负载评价指标数据周期性地写入到关系型数据库中。为了使得数据库中新近保存的数据能够尽量接近该节点此刻的真实数据，应该把该周期的数值设定的尽量小一些，但也不能过小，否则频繁的采集动作会增加节点的系统运行负担，一般将周期设置为5-10秒最佳。