[发明专利]负载均衡方法、装置、系统及存储介质

权利要求书

1.一种负载均衡方法，其特征在于，应用于负载均衡系统，所述负载均衡系统包括服务器集群；所述方法包括：

将所述服务器集群中具有相同数据处理能力的服务器进行分组，得到多个服务器组；

确定所述多个服务器组对应的数据处理能力之间的比例状况信息；

根据所述多个服务器组对应的数据处理能力之间的比例状况信息向各个所述服务器组分配数据处理请求，其中，各个所述服务器组对应的数据处理请求数量与该服务器组对应的数据处理能力的比例大小成正比。

2.根据权利要求1所述的负载均衡方法，其特征在于，所述将所述服务器集群中具有相同数据处理能力的服务器进行分组，得到多个服务器组，包括：

根据所述服务器中的图形处理器GPU卡的型号和卡数将所述服务器集群中具有相同处理能力的服务器进行分组，得到多个服务器组，其中，将具有相同型号和卡数的服务器划分为一组，相同型号单张GPU卡的数据处理能力相同；将每个服务器组分别映射成一个表的一行，每个服务器对应的地址前缀为IP_k，k用于表示处理数据的优先级。

3.根据权利要求2所述的负载均衡方法，其特征在于，所述确定所述多个服务器组对应的数据处理能力之间的比例状况信息，包括：

根据各个所述服务器组中的服务器数量、单个服务器具有的GPU卡的卡数、和GPU卡对应的数据处理能力确定对应服务器组的总处理能力，得到各个所述服务器组的总处理能力；

根据各个所述服务器组中的总处理能力确定所述多个服务器组对应的数据处理能力之间的比例状况信息。

4.根据权利要求3所述的负载均衡方法，其特征在于，所述方法还包括：

在负载运行过程中，获取各个所述服务器组的负载；

根据各个所述服务器组的负载确定所述服务器集群中服务器之间的负载失衡度；

若所述负载失衡度大于或等于预设的负载失衡度阈值，根据各个所述服务器组的负载、各个所述服务器组的服务器平均负载和空闲服务器的处理能力信息优化后续数据处理请求的分配。

5.根据权利要求4所述的负载均衡方法，其特征在于，所述获取各个所述服务器组的负载，包括：

获取各个所述服务器组中各个服务器在某一时刻同时处理的请求连接记录；

根据所述请求连接记录确定各个所述服务器组的总活动连接数；

根据各个所述服务器组的数据处理请求对所述服务器负载的影响变量和对应服务器组的总活动连接数确定对应服务器组的负载，得到各个所述服务器组的负载。

6.根据权利要求4所述的负载均衡方法，其特征在于，所述获取各个所述服务器组的负载，包括：

按照周期对所述各个服务器组的负载进行多次采样，得到多次采样下的各个所述服务器组的负载；

所述根据各个所述服务器组的负载确所述服务器集群中服务器之间的负载失衡度，包括：

根据多次采样下的各个所述服务器组的负载确定多次采样时间内各个所述服务器组的服务器平均负载；

根据所述服务器平均负载确定服务器集群中服务器之间的负载失衡度。

7.根据权利要求4-6任一项所述的负载均衡方法，其特征在于，所述根据各个所述服务器组的负载、各个所述服务器组的服务器平均负载和空闲服务器的处理能力信息优化后续数据处理请求的分配，包括：

根据各个所述服务器组的负载、各个所述服务器组的服务器平均负载和空闲服务器的处理能力信息确定各个服务器组在多次采样时间内不同的路由优先级，根据各所述服务器组在多次采样时间内不同的路由优先级构建负载梯度下降矩阵；

确定所述负载梯度下降矩阵中多列中每一列的下降梯度，得到多个下降梯度；

根据所述多个下降梯度确定各列的下降梯度比例；

根据所述下降梯度比例将新的数据处理请求分配给各个所述服务器组，各个所述服务器组对应的数据处理请求数量与该服务器组对应的下降梯度比例大小成正比；

根据各个所述服务器组中的空闲服务器的数量和空闲GPU卡的数量将各个所述服务器对应的数据处理请求分配至各空闲服务器中的空闲GPU卡。