[发明专利]流量控制方法、装置、设备和计算机存储介质

权利要求书

1.一种流量控制方法，应用于包含M个等级的计算资源，每个计算资源对应有至少N个队列，所述M为正整数，所述N为大于1的正整数；该方法包括：

接收服务请求；

确定所述服务请求适用的计算资源等级；

依据所述服务请求的产品形式、应用形式以及服务等级中的至少一种，从所述计算资源等级对应的至少N个队列中确定对应的队列；

将所述服务请求发送至确定的队列；

其中，所述各队列被配置有权值，以便计算资源对对应的各队列按照权值进行轮询；

在所述确定所述服务请求适用的计算资源等级之前，还包括：按照等级从高到低的顺序，依次针对各计算资源等级执行以下熔断处理：

判断计算资源等级是否触发熔断状态，如果否，则从该计算资源等级及其之下的服务等级中执行确定所述服务请求适用的计算资源等级；如果是，则基于请求拒绝概率值确定是否对所述服务请求进行拒绝处理；

若不对所述服务请求进行拒绝处理，则从该计算资源等级及其之下的服务等级中执行确定所述服务请求适用的计算资源等级；

若对所述服务请求进行拒绝处理，则针对下一级计算资源等级转至执行所述判断计算资源等级是否触发熔断状态。

2.根据权利要求1所述的方法，其中，确定所述服务请求适用的计算资源等级包括：

按照等级从高到低的顺序，判断计算资源等级对应的令牌桶中是否存在足够的令牌数，如果是，确定该计算资源等级为所述服务请求适用的计算资源等级；否则，对下一级计算资源等级执行所述判断。

3.根据权利要求2所述的方法，还包括：

若所有计算资源等级对应的令牌桶均不存在足够的令牌数，则拒绝所述服务请求。

4.根据权利要求2所述的方法，其中，所述判断计算资源等级对应的令牌桶中是否存在足够的令牌数包括：

依据所述服务请求的每秒字节数BPS确定要消耗的令牌数；

判断所述计算资源等级对应的令牌桶内当前令牌数是否大于或等于所述要消耗的令牌数，如果是，则确定存在足够的令牌数。

5.根据权利要求2所述的方法，还包括：

周期性地和/或基于事件触发地探知各等级的计算资源的可用性；

依据探知结果维护各计算资源等级对应的令牌桶内的令牌数。

6.根据权利要求1所述的方法，其中，所述判断计算资源等级是否触发熔断状态包括：

判断最近预设时长内该计算资源等级的请求失败比例是否大于或等于预设的比例阈值，如果是，则触发熔断状态。

7.根据权利要求1所述的方法，其中，所述基于请求拒绝概率值确定是否对所述服务请求进行拒绝处理包括：

按照最近预设时长内该计算资源等级的接收服务请求数、响应成功请求数以及预设的该计算资源等级的敏感度参数，确定所述请求拒绝概率值；

按照所述请求拒绝概率值，确定是否对所述服务请求进行拒绝处理。

8.根据权利要求1至7中任一项所述的方法，其中，所述服务请求包括翻译请求；

所述计算资源为翻译服务资源。

9.根据权利要求8所述的方法，其中，确定所述服务请求适用的计算资源等级包括：

确定所述翻译请求所请求翻译的文本长度；

若文本长度大于或等于预设第一长度阈值，则从第一等级开始确定所述翻译请求适用的计算资源等级；

若文本长度小于预设的第二长度阈值，则从第二等级开始确定所述翻译请求适用的计算资源等级；

所述第一长度阈值大于或等于所述第二长度阈值，所述第一等级高于所述第二等级。