[发明专利]流量控制方法、装置、容器和存储介质

说明书

本公开实施例公开了一种流量控制方法、装置、容器和存储介质。该方法包括：确定单位时间内微服务对服务请求的平均调度时延；其中，所述服务请求是通过服务网格代理转发给所述微服务的请求；根据所述平均调度时延，确定所述微服务对应的目标限流阈值，并利用所述目标限流阈值对所述微服务进行流量控制。该方法能够通过计算单位时间内微服务对服务请求的平均调度时延，自动探测微服务当前负载信息，从而自动化决策微服务对应的限流阈值，提高了对微服务限流的灵活性。

技术领域

本公开涉及互联网技术领域，尤其涉及一种流量控制方法、装置、容器和存储介质。

背景技术

微服务化将单体应用拆分成多个高内聚、低耦合的小服务，提高了系统开发效率和扩展性，故其应用范围越来越广泛。而对于微服务的治理也带来了新的挑战，其中，微服务的流量控制是主要考虑的问题之一。

目前主要使用令牌桶算法或者漏桶算法对微服务进行限流操作，但是，该方式需要针对每种微服务进行压测，在微服务数量庞大时，压测工作量非常大，且无法适应微服务的迭代，导致对微服务限流的灵活性较差。

发明内容

针对传统方式存在的技术问题，本公开提供一种流量控制方法、装置、容器和存储介质。

第一方面，本公开实施例提供了一种流量控制方法，应用于微服务所在容器中的服务网格代理中，所述方法包括：

确定单位时间内所述微服务对服务请求的平均调度时延；其中，所述服务请求是通过所述服务网格代理转发给所述微服务的请求；

根据所述平均调度时延，确定所述微服务对应的目标限流阈值，并利用所述目标限流阈值对所述微服务进行流量控制。

第二方面，本公开实施例提供一种流量控制装置，集成于微服务所在容器中的服务网格代理中，所述装置包括：

第一确定模块，用于确定单位时间内所述微服务对服务请求的平均调度时延；其中，所述服务请求是通过所述服务网格代理转发给所述微服务的请求；

第二确定模块，用于根据所述平均调度时延，确定所述微服务对应的目标限流阈值；

控制模块，用于利用所述目标限流阈值对所述微服务进行流量控制。

第三方面，本公开实施例提供一种容器，所述容器中部署有服务网格代理和微服务；

所述微服务，用于对所述服务网格代理转发的服务请求进行处理；

所述服务网格代理，包括存储器和处理器，所述存储器存储有计算机程序，所述处理器执行所述计算机程序时实现本公开实施例第一方面提供的流量控制方法的步骤。

第四方面，本公开实施例提供一种计算机可读存储介质，其上存储有计算机程序，所述计算机程序被处理器执行时实现本公开实施例第一方面提供的流量控制方法的步骤。

本公开实施例提供的技术方案，微服务所在容器中的服务网格代理能够在微服务运行过程中，通过计算单位时间内微服务对服务请求的平均调度时延，自动探测微服务当前负载信息，从而自动化决策微服务对应的限流阈值，且在探测微服务当前负载信息的过程中，并不影响微服务的正常运行，提高了对微服务限流的灵活性。同时，指标“微服务对服务请求的平均调度时延”与具体的微服务本身无关，即上述指标对于所有微服务来说都是适用的，通过上述指标可以探测每种微服务的当前负载信息，无需针对每种微服务单独调整限流参数，能够适应微服务的迭代，满足了微服务的各种限流场景，从而提高了本方案的普适性。

附图说明

结合附图并参考以下具体实施方式，本公开各实施例的上述和其他特征、优点及方面将变得更加明显。贯穿附图中，相同或相似的附图标记表示相同或相似的元素。应当理解附图是示意性的，原件和元素不一定按照比例绘制。

图1为本公开实施例提供的流量控制方法应用的一种架构图；