[发明专利]一种基于动态概率模型的负载均衡方法、装置和系统

说明书

本发明提出的一种基于动态概率模型的负载均衡方法，包括以下步骤：周期性获取所有服务节点的状态信息；根据服务节点的状态信息对服务节点进行评分，获取与各服务节点对应的评分值；根据各服务节点的评分值计算对应的命中概率；根据命中概率将区间(0，1]划分为与各服务节点对应的命中区间；根据服务请求，在区间(0，1]范围内生成均匀分布随机数作为投射值；获取投射值所在命中区间对应的服务节点作为本次服务的负载节点。本发明提出的负载均衡方法，不需要完全依赖服务器的瞬时状态，并且能有效地利用次优节点的信息，能有效优化高并发下节点访问的峰值问题，避免硬判决，使各服务节点的负载变得均衡而平滑。

技术领域

本发明涉及分布式服务技术领域，尤其涉及一种基于动态概率模型的负载均衡方法、装置和系统。

背景技术

分布式服务部署当前已经被广泛使用，比如当前热门的微服务架构，在实际生产中一个服务通常会有多个实际运行的服务器，而当用户真正调用某一个服务时，这一任务具体该被分发到哪一个服务节点实体就属于负载均衡的范畴。常用的负载均衡方法包括轮询、最少连接数、最快响应时间、优先权重、源信息哈希等，它们依赖各服务器节点状态信息或者申请者的源信息来判决此次服务的归属节点。而上述策略中，轮询策略均衡性效果差，其他策略均存在瞬时峰值的问题；瞬时峰值主要由于瞬时状态依赖以及硬判决导致，其中瞬时状态依赖是由于服务节点的负载信息(比如连接数、响应时间)并不能被瞬时感知，而是必须依赖于服务节点周期性的消息交互来获取，在服务器并发程度高、瞬时访问量巨大，因为状态信息无法瞬时更新，依赖这些状态信息的负载策略会导致大批量用户可能瞬时内分配到同一个节点，造成瞬间峰值；硬判决由于每次只会选择某一策略下的最优节点，而忽略了次优节点，造成了有效信息的丢失。

现有负载均衡方法因为瞬时状态依赖性和硬判决的缺点，在实际应用中存在瞬时峰值的问题，而在一些瞬时业务极高的场景，比如“秒杀”场景、抢票场景中尤为突出，服务器节点的瞬间极大访问峰值可能直接造成节点瘫痪，进而严重影响服务质量。

发明内容

基于背景技术存在的技术问题，本发明提出了一种基于动态概率模型的负载均衡方法、装置和系统。

本发明提出的一种基于动态概率模型的负载均衡方法，包括以下步骤：

S1、周期性获取所有服务节点的状态信息；

S2、根据服务节点的状态信息对服务节点进行评分，获取与各服务节点对应的评分值；

S3、根据各服务节点的评分值计算对应的命中概率；

S4、根据命中概率将区间(0，1]划分为与各服务节点对应的命中区间；

S5、根据服务请求，在区间(0，1]范围内生成均匀分布随机数作为服务请求对应的投射值；

S6、获取投射值所在命中区间对应的服务节点作为本次服务请求的负载节点。

优选的，步骤S1中，通过心跳机制周期性获取所有服务节点的状态信息，各服务节点的状态信息由所述服务节点上传的心跳包携带。

优选的，步骤S2具体为：根据状态信息对服务节点进行筛选，对连接状态正常的服务节点的状态信息进行量化和归一化，并加权评分获取与各服务节点对应的评分值；

优选的，步骤S1中获取的服务节点的状态信息包括：连接数、响应时间和优先级。

优选的，步骤S2中，对连接数和优先级进行线性归一化处理，并对响应时间进行非线性归一化处理；

优选的，步骤S2中，连接数和优先级的归一化模型如下：

其中，C_max为预定义的最大连接数，P_max为预定义的最大权重；

优选的，步骤S2中，响应时间的归一化模型如下：