[发明专利]一种负载均衡方法及系统

说明书

本申请提供了一种负载均衡方法及系统，负载均衡方法应用于负载均衡系统，负载均衡系统包括负载均衡节点和多个计算节点，方法包括：负载均衡节点接收客户端针对一条目标会话发送的节点获取请求；负载均衡节点基于获取的筛选参考数据，从多个计算节点中筛选出目标计算节点，并将目标计算节点的信息发送至客户端，其中，筛选参考数据至少包括多个计算节点的当前运行状态数据，目标计算节点接收客户端发送的目标会话的音频计算任务，并对目标会话的音频计算任务进行计算。本申请提供的负载均衡方法提高了系统整体资源的使用率，降低了系统性能波动，且解决了负载均衡节点的流量瓶颈问题。

技术领域

本申请涉及分布式计算技术领域，更具体地说，涉及一种负载均衡方法及系统。

背景技术

应用系统数据量的增长，使得数据处理请求和计算强度相应地增长，而日益增长的数据处理请求和计算强度对系统的规模和处理能力提出了更高的要求。为了应对这样的趋势，出现了分布式系统。分布式系统即利用大量计算节点完成单个节点无法完成的计算、存储任务，分布式系统中大量计算节点的存在使得负载均衡变得尤为重要。

负载均衡指的是，如果一组计算节点提供同质化的服务，那么对服务的请求就应该均匀分摊到这些节点上。负载均衡的意义在于，让所有的节点以最小的代价、最好的状态对外提供服务。负载均衡提高了系统的可靠性，降低了单个节点过载、宕机之后对整个系统的影响。

实时语音计算系统是目前比较常用的一种分布式的应用系统，由于实时语音计算系统处理的是音频流，因此，其具有流式密集计算的特点。目前的负载均衡方法并没有考虑实时语音计算系统的特点，即目前的负载均衡方法在实时语音计算系统上的应用效果并不理想。

发明内容

有鉴于此，本申请提供了一种负载均衡方法及系统，用以提供一种面向实时语音计算的负载均衡方案，其技术方案如下：

一种负载均衡方法，应用于负载均衡系统中的负载均衡节点，所述方法包括：

接收客户端针对一条目标会话发送的节点获取请求，所述节点获取请求用于请求获取所述负载均衡系统中处理所述目标会话的目标计算节点；

基于获取的筛选参考数据，从所述负载均衡系统中的多个计算节点中筛选出所述目标计算节点，其中，所述筛选参考数据至少包括所述多个计算节点的当前运行状态数据；

将所述目标计算节点的信息发送至所述客户端，以使所述客户端基于所述目标计算节点的信息将所述目标会话的音频计算任务直接发送至所述目标计算节点进行计算。

可选的，所述筛选参考数据还包括：所述目标会话的会话时长预测值和发包频率预测值；

其中，所述目标会话的会话时长预测值和发包频率预测值采用与所述目标会话对应的场景标识和用户标识所对应的会话参数预测模型预测得到。

可选的，所述负载均衡方法还包括：

按预设的采集周期采集各计算节点的运行状态数据并记录；或者，接收各计算节点按预设的上报周期上报的自身的运行状态数据并记录；

任一计算节点的当前运行状态数据为所述负载均衡节点记录的该计算节点的最新运行状态数据。

可选的，任一计算节点的当前运行状态数据包括以下数据中的一种或多种：当前CPU使用率、当前GPU使用率、当前的任务并发量、当前的最佳任务并发量。

可选的，所述筛选参考数据还包括：各个计算节点当前处理会话的发包频率和/或各个计算节点当前处理会话的发起时刻。