[发明专利]一种负载均衡方法及系统

权利要求书

1.一种负载均衡方法，其特征在于，应用于负载均衡系统中的负载均衡节点，所述方法包括：

接收客户端针对一条目标会话发送的节点获取请求，所述节点获取请求用于请求获取所述负载均衡系统中处理所述目标会话的目标计算节点；

基于获取的筛选参考数据，从所述负载均衡系统中的多个计算节点中筛选出所述目标计算节点，其中，所述筛选参考数据至少包括所述多个计算节点的当前运行状态数据，一计算节点的当前运行状态数据至少包括当前最佳任务并发量，所述当前最佳任务并发量由该计算节点处理完上一音频计算任务后，根据以其处理的上一音频计算任务是否为首个音频计算任务为依据确定的最佳任务并发量，以及处理上一音频计算任务时的实时率和响应时间确定；

将所述目标计算节点的信息发送至所述客户端，以使所述客户端基于所述目标计算节点的信息将所述目标会话的音频计算任务直接发送至所述目标计算节点进行计算。

2.根据权利要求1所述的负载均衡方法，其特征在于，所述筛选参考数据还包括：所述目标会话的会话时长预测值和发包频率预测值；

其中，所述目标会话的会话时长预测值和发包频率预测值采用与所述目标会话对应的场景标识和用户标识所对应的会话参数预测模型预测得到。

3.根据权利要求1所述的负载均衡方法，其特征在于，还包括：

按预设的采集周期采集各计算节点的运行状态数据并记录；或者，接收各计算节点按预设的上报周期上报的自身的运行状态数据并记录；

任一计算节点的当前运行状态数据为所述负载均衡节点记录的该计算节点的最新运行状态数据。

4.根据权利要求1～3中任意一项所述的负载均衡方法，其特征在于，任一计算节点的当前运行状态数据还包括以下数据中的一种或多种：

当前CPU使用率、当前GPU使用率、当前的任务并发量。

5.根据权利要求4所述的负载均衡方法，其特征在于，所述筛选参考数据还包括：

各个计算节点当前处理会话的发包频率和/或各个计算节点当前处理会话的发起时刻。

6.一种负载均衡方法，其特征在于，应用于负载均衡系统中的多个计算节点中的目标计算节点，所述目标计算节点为所述负载均衡系统中的负载均衡节点在接收到客户端针对一条目标会话发起的节点获取请求时，基于筛选参考数据从所述负载均衡系统中的多个计算节点中筛选出的计算节点，所述筛选参考数据至少包括所述多个计算节点的当前运行状态数据，一计算节点的当前运行状态数据至少包括当前最佳任务并发量；

所述方法包括：

接收所述客户端发送的、所述目标会话的音频计算任务；

对所述音频计算任务进行计算；

处理完所述音频计算任务时，以所述目标会话的音频计算任务是否为首个任务，以及处理所述目标会话的音频计算任务时的实时率和响应时间为依据，确定当前最佳任务并发量，以提供给所述负载均衡节点。

7.根据权利要求6所述的负载均衡方法，其特征在于，还包括：

在接收到所述目标会话的音频计算任务时，和/或，处理完所述目标会话的音频计算任务时，获取自身的当前运行状态数据；

将获取的当前运行状态数据上报至所述负载均衡节点，以使所述负载均衡节点对其针对所述目标计算节点记录的运行状态数据进行更新。

8.根据权利要求7所述的负载均衡方法，其特征在于，所述当前运行状态数据还包括以下数据中的一种或多种：

当前CPU使用率、当前GPU使用率、当前的任务并发量。

9.根据权利要求7或8所述的负载均衡方法，其特征在于，还包括：

在接收到所述目标会话的音频计算任务时，和/或，处理完所述目标会话的音频计算任务时，获取自身当前处理会话的发包频率和/或当前处理会话的发起时刻；

将自身当前处理会话的发包频率和/或当前处理会话的发起时刻上报至所述负载均衡节点。