[发明专利]一种基于异构集群的请求分类处理的动态负载均衡方法

说明书

本发明公开了一种基于异构集群的请求分类处理的动态负载均衡方法，通过历史周期数据和当前周期的数据准确评估下一周期内异构集群各节点性能，由节点性能和请求类型对请求做均衡调度。在优化传统负载均衡策略在异构集群场景下容易出现负载不均、资源利用率低的问题同时，建立混合动/静请求的负载动态模型。对于静态资源的请求，根据其资源消耗特点，构建静态负载模型，准确计算节点静态负载状况；对于动态资源请求，使用基于周期性的性能评估模型计算各节点分配动/静资源后的相关数据，预测下一周期各个节点的负载率，最终算出每个节点的分配权重并根据此权重对动态请求进行分配，最终解决的集群局部负载过高问题。

技术领域

本发明属于服务器负载均衡技术领域，尤其涉及基于对异构web服务器集群请求的动态调度技术优化的负载方法。

背景技术

如今互联网通信技术不断发展，我国已建成全球最大规模光纤和移动通信网络，通光纤和4G比例均超过98％。同时，各种网络应用也降低了互联网使用门槛。截至2020年3月，我国网民规模为9.04亿。因此互联网用户的日活跃量也非常巨大，从而给服务器带来了巨大的压力。面对此问题很多企业都选择通过集群技术解决此问题。集群技术是一种将多台服务器协同工作、统一对外提供服务的技术，对外界透明，在用户看来与访问单台服务器没有区别。通过集群可以解决单一服务器遇到大量请求时的性能限制问题。其中负载均衡是实现集群的关键技术。负载均衡技术是一种在计算机集群、网络、CPU、磁盘驱动器或其他资源中分配负载，以达到最优化的资源使用、最大化吞吐率、最小化响应时间、同时避免过载的目的。负载均衡服务通常是基于物理设备的负载均衡器或专用负载均衡软件或协议来完成。主要作用是将大量作业合理地分摊到多个操作单元上进行执行，用于解决互联网架构中的高并发和高可用的问题，从而提升整体吞吐量和响应时间。常用的负载均衡服务器如硬件负载服务器F5，以及软负载Nginx、LVS等等。

从算法角度来说负载均衡的实现技术可以分为静态负载均衡和动态负载均衡。

静态负载均衡算法的优点是简单，但是由于不考虑服务器节点的性能以及当前负载状态，长久运行易出现负载不均。代表算法有轮训算法、一致性哈希算法等。

轮训算法会按一定的顺序逐个将请求转发到各服务器中。如果集群服务器性能相同，其资源利用率也会非常高。但是实际环境中异构集群十分普遍，且服务器在运行过程中性能也实时变化。这种情况下算法均衡性不佳，集群性能利用率低。一致性哈希算法(Consistent Hashing)通过设计哈希函数计算虚拟哈希环空间，将集群中服务器节点通过哈希函数映射到环上等。对用户请求通过哈希函数计算其键值，在哈希环中按顺时针方向找到第一个服务器节点，并将请求分配给该服务器，如下图所示。该算法在服务器节点较少时，会造成负载倾斜。

动态算法可以实时或周期性获取服务器状况，自适应调整请求到集群服务器的顺序，从而提高了集群性能和资源利用率。常用算法主要有最小连接数算法、加权最小连接调度算法等。最小连接算法根据服务器的连接数量来将请求交给连接数最少的服务器进行处理，算法虽然动态获取了服务器负载情况，但只关注连接数而没有关注服务器硬件环境等其他因素。加权最小连接算法在初始化时，根据服务器硬件性能计算了相应的权值，运行过程中该算法会将请求转发到当前连接数和权值较小的服务器上。此算法虽然考虑了服务器硬件环境但是在运行过程中仍然只关注连接数，参考点因素单一，运行较久会出现连接数小但服务器资源消耗高的情况。

由上面介绍可以了解到当前常用的负载均衡算法的不足，即静态算法只是在算法层面尽量做到任务的散列，集群性能无法详细获取。动态算法虽然对集群节点进行了考虑，但衡量标准单一，也缺乏一定的客观性。在局部时间内有产生负载不均衡和性能下降的可能。