[发明专利]限流方法及装置

说明书

本发明提供的一种限流方法及装置，通过利用服务器最新时间区间内的状态数据和运行数据，对应生成系统健康状态得分和交易健康状态得分，并且结合状态数据和运行数据来确定限流调整算法，从而可以针对性地进行限流操作，可以实现自适应限流，大大提高限流的便携性、精确性和可靠性。

技术领域

本发明涉及物品传送技术领域，尤其涉及一种限流方法及装置。

背景技术

本部分旨在为权利要求书中陈述的本发明实施例提供背景或上下文。此处的描述不因为包括在本部分中就承认是现有技术。

IT系统的处理和负载能力是有限的。特别是对于大规模分布式微服务集群架构时代，倡导微服务的正确拆分、复用和组合。非常常见的场景是各个服务互相之间嵌套调用，调用链路更加错综复杂。为了保障系统的安全性和可靠性，能有效避免突发流量对整个系统的影响，必须进行不同维度和规则的限流来提升应用的稳定性。目前业界限流方案中，限流值的确定方法大多为基于存量交易量评估或压力测试确定，很难做到准确评估，也无法根据生产实时访问情况和系统实时的健康程度等关键指标进行实时、动态的限流调整。因此需要实现一种基于实时动态调整限流的装置及方法来实现自动化实时计算和调整限流值，以在保障系统在提供最大处理能力的情况下保障系统的安全性和可靠性。

发明内容

为了解决上述问题的至少一个，本发明实施例提供了一种限流方法，包括：

采集服务器最新时间区间内的状态数据和运行数据；

基于所述状态数据和运行数据选取限流调整算法，并根据所述状态数据和运行数据生成系统健康状态得分和交易健康状态得分；

根据所述系统健康状态得分、所述交易健康状态得分以及对应的权重，生成限流步长；

结合所述限流调整算法和所述限流步长对所述服务器中的应用程序进行限流操作。

在优选的实施例中，还包括:

按照预设的重要性程度与应用程序的对应关系，对所述服务器内的每个应用程序按照重要性程度从小到大进行排序，生成应用程序序列；

所述结合所述限流调整算法和所述限流步长对所述服务器中的应用程序进行限流操作，包括：

根据所述应用程序序列中每个应用程序的预设步长系数，结合所述限流步长生成对应每个应用程序的单个限流步长；

根据每个应用程序的单个限流步长，对每个应用程序进行限流。

在优选的实施例中，还包括：

根据当前响应时间、持续时间以及控制周期调节所述权重。

在优选的实施例中，所述根据当前响应时间、持续时间以及控制周期调节所述权重，包括：

判断当前响应时间是否小于设定响应时间，当前TPS是否小于TPS上限，当前持续时间是否超过指定控制周期；

若均为是，则以线性增长的方式调高所述运行数据对应的权重。

在优选的实施例中，所述根据当前响应时间、持续时间以及控制周期调节所述权重，包括：

若当前控制周期内，cpu和内存占比均大于警报平均阈值，小于警报最大值，则以指数级增长的方式调高所述状态数据对应的权重。

在优选的实施例中，所述基于所述状态数据和运行数据选取限流调整算法，包括：

将所述状态数据和所述运行数据输入到预设的选取神经网络模型，所述选取神经网络模型输出所述限流调整算法的唯一标识；

根据所述唯一标识选取对应的所述限流调整算法。

在优选的实施例中，还包括：