[发明专利]一种防御微服务雪崩效应的方法

说明书

本发明涉及云平台微服务技术领域，特别是一种防御微服务雪崩效应的方法。本发明方法包括如下步骤：1：设置负载均衡权重调度规则，支持对微服务优先级的升降；2：设置熔断机制；3：微服务异常时启动熔断机制；4：微服务失败时启动负载均衡权重调度规则；5：微服务恢复时关闭熔断机制；6：微服务恢复时启动负载均衡默认调度规则。本发明解决了微服务雪崩效应带来系统瓶颈、甚至整个平台崩溃等问题；可应用于云平台的微服务管理。

技术领域

本发明涉及云平台微服务技术领域，特别是一种防御微服务雪崩效应的方法。

背景技术

一般的云计算平台上有数量庞大的服务程序，而每个计算节点或控制节点上可能存在多个正在运行的微服务程序；而计算节点也运行着多个虚拟机。每个虚拟机上同样都可能运行了一个或多个微服务程序。由于许多虚拟机的微服务程序可能都可能交叉调用，此时若一个微服务出现异常超时，请求会消耗占用系统的线程、IO等资源。当该类请求越来越多，占用的计算机资源也越来越多；会导致系统瓶颈出现，造成其他微服务的请求同样不可用；最终导致整个平台崩溃。

发明内容

本发明提供一种防御微服务雪崩效应的方法，解决上述现有技术问题；支持熔断机制并且支持动态负载均衡调度、避免出现系统瓶颈的方式，有效降低服务异常时给系统带来的资源消耗，能够防御微服务雪崩效应。

本发明解决上述现有技术问题的技术方案是：

所述的方法包括如下步骤：

步骤1：设置负载均衡权重调度规则，支持对微服务优先级的升降；

步骤2：设置熔断机制；即微服务自身调用其他特定微服务异常次数的单位时间、阈值和错误信息；

步骤3：微服务异常时启动熔断机制；即异常达到阈值时微服务熔断调用特定微服务的请求，并返回错误信息；

步骤4：微服务失败时启动负载均衡权重调度规则；在单位时间内将微服务优先级降低；

步骤5：微服务恢复时关闭熔断机制；指微服务自身请求特定微服务恢复正常，此时关闭熔断机制，正常请求特定微服务；

步骤6：微服务恢复时启动负载均衡默认调度规则。

所述的负载均衡是指将用户请求分摊到多个微服务上进行执行，从而共同完成工作任务，快速响应用户请求；默认调度规则是最佳响应时间规则；

所述的权重调度规则，是指单位时间内失败次数超过阈值的微服务优先级降到最低，然后再按照最佳响应时间规则选择其他优先级更高的微服务；单位时间可以设置，默认是5分钟，阈值默认是20次；

所述的最佳响应时间规则，是指根据同一个优先级各个微服务响应时间排序，优先发送请求给响应时间最快的微服务。

所述的设置熔断机制的微服务异常次数的单位时间和阈值，是指单位时间内响应超时或通信异常次数超过阈值，默认单位时间为5秒，阈值为20个请求。

所述的熔断调用，是指将微服务降级，不再向特定微服务发送请求；并且所有请求直接返回调用失败的错误信息。

所述的步骤6中，负载均衡在单位时间之后，重新选择刚恢复的微服务，统计微服务请求失败次数在单位时间内已经不满足阈值，提升微服务优先级；当所有微服务优先级一致的时候，调整负载均衡规则为默认调度规则,即最佳响应时间规则，再次平衡各个微服务的负载。