[发明专利]微服务的流量处理方法、装置及电子设备

说明书

本发明公开了一种微服务的流量处理方法、装置及电子设备。涉及云计算领域，该方法应用于流量处理模块，流量处理模块集成于微服务的微服务框架中，该方法包括：统计目标微服务完成处理的N个访问请求，得到第一访问请求集合；确定第一访问请求集合中每个第一访问请求对应的处理时间；从第一访问请求集合中筛选出M个访问请求，得到第二访问请求集合；基于每个第一访问请求的处理时间以及每个第二访问请求的处理时间，确定目标流量处理规则；基于目标流量处理规则处理待处理流量。本发明解决了现有技术中基于静态阈值确定微服务的流量处理方法，并基于该微服务的流量处理方法处理流量造成的处理准确性低的技术问题。

技术领域

本发明涉及云计算领域，具体而言，涉及一种微服务的流量处理方法、装置及电子设备。

背景技术

分布式场景下，微服务的数量成百上千，服务之间的调用更是错综复杂，如何对各个服务的流量进行调度和治理，如何对各服务的流量进行治理和调度，以达到如最佳的流量负载、高效网络、服务故障发现隔离转发等目标，是目前微服务盛行时代亟需解决的问题。

目前的流量处理方法基本都是采用配置下发的策略，即根据某个或者某几个参数静态阈值，判断拒绝访问请求还是接受访问请求，这种方式存在较大的不确定性。如同一个微服务部署在不同的服务器上，CPU的型号也可能有所不同，有些cpu可以处理50的并发请求，但是有些型号的CPU可能就无法承载50的并发请求，而且，即使是同一型号的cpu，运行在其上的微服务处理能力也会受到内存，磁盘，网络的影响。因此通过静态阈值的流量治理策略存在较大的缺陷，可能会出现停止为性能容量还存在空余的微服务转发请求，或是为性能容量不足的微服务持续转发请求的现象，进而导致流量处理的处理准确性低的问题。

针对上述的问题，目前尚未提出有效的解决方案。

发明内容

本发明实施例提供了一种微服务的流量处理方法、装置及电子设备，以至少解决现有技术中基于静态阈值确定微服务的流量处理方法，并基于该微服务的流量处理方法处理流量造成的处理准确性低的技术问题。

根据本发明实施例的一个方面，提供了一种微服务的流量处理方法，微服务的流量处理方法应用于流量处理模块，流量处理模块集成于微服务的微服务框架中，方法包括：统计目标微服务完成处理的N个访问请求，得到第一访问请求集合，其中，N个访问请求的结束处理时间晚于目标微服务处理的所有其他访问请求的处理时间，目标微服务为流量处理模块所对应的微服务，微服务用于处理流量，流量由至少一个访问请求组成，N为正整数；确定第一访问请求集合中每个第一访问请求对应的处理时间；从第一访问请求集合中筛选出M个访问请求，得到第二访问请求集合，其中，M为正整数，且M小于N，M个访问请求的结束处理时间晚于目标微服务处理的第一访问请求集合中的其他访问请求的处理时间；基于每个第一访问请求的处理时间以及每个第二访问请求的处理时间，确定目标流量处理规则，其中，第二访问请求为第二访问请求集合中的请求；基于目标流量处理规则处理待处理流量。

进一步地，微服务的流量处理方法还包括：基于每个第一访问请求的处理时间，确定目标正态分布图；基于目标正态分布图和每个第二访问请求的处理时间，确定目标流量处理规则。

进一步地，微服务的流量处理方法还包括：基于每个第二访问请求的处理时间，确定每个第二访问请求的处理时间在目标正态分布图中的分布情况；基于分布情况，确定目标正态分布图中每个分布区间对应的第二访问请求的请求数量；基于每个分布区间对应的第二访问请求的请求数量，确定目标流量处理规则。

进一步地，微服务的流量处理方法还包括：获取目标管理模块发送的第一流量处理规则，其中，目标管理模块用于管理目标微服务；基于第一流量处理规则和目标流量处理规则处理待处理流量。

进一步地，微服务的流量处理方法还包括：确定目标部署包中是否配置有第二流量处理规则，其中，目标部署包为目标微服务运行时所需文件的集合；若目标部署包中配置有第二流量处理规则，则基于第二流量处理规则和目标流量处理规则处理待处理流量。