[发明专利]流量控制方法、装置、设备和计算机存储介质

说明书

本申请公开了一种流量控制方法、装置、设备和计算机存储介质，涉及人工智能技术领域中的深度学习技术。应用于包含M个等级的计算资源，每个计算资源对应有至少N个队列，所述M为正整数，所述N为大于1的正整数；具体实现方案为：接收服务请求；确定所述服务请求适用的计算资源等级；依据所述服务请求的产品形式、应用形式以及服务等级中的至少一种，从所述计算资源等级对应的至少N个队列中确定对应的队列；将所述服务请求发送至确定的队列；其中，所述各队列被配置有权值，以便计算资源对对应的各队列按照权值进行轮询。本申请能够合理地实现流量控制，降低计算资源的浪费和部署成本。

技术领域

本公开涉及计算机应用技术领域，尤其涉及人工智能技术领域中的深度学习技术。

背景技术

机器翻译是利用计算机将自然语言转换为另外一种自然语言的过程，是人工智能的重要目标，具有重要的科学研究价值。同时，机器翻译又具有重要的实用价值。随着经济全球化及互联网的飞速发展，机器翻译技术在促进政治、经济、文化交流以及人们的生产生活等方面起到越来越重要的作用。

随着机器翻译进入深度学习时代以来，翻译质量显著提升，但其来带的问题也是明显的。为了提供线上服务需要部署大量的计算资源，但随着翻译服务产品形式和应用形式具有多样性，各产品和应用形式都有着无法预期的流量上涨，给每个产品、每种应用形式采用独立部署计算资源的方式来获得产品、应用之间的隔离性，从而实现合理地流量控制，会带来极大的计算资源的浪费，且致使成本太高。

发明内容

有鉴于此，本公开提供了一种流量控制方法、装置、设备和计算机存储介质，以便于合理地实现流量控制，降低计算资源的浪费和部署成本。

根据本公开的第一方面，提供了一种流量控制方法，应用于包含M个等级的计算资源，每个计算资源对应有至少N个队列，所述M为正整数，所述N为大于1的正整数；该方法包括：

接收服务请求；

确定所述服务请求适用的计算资源等级；

依据所述服务请求的产品形式、应用形式以及服务等级中的至少一种，从所述计算资源等级对应的至少N个队列中确定对应的队列；

将所述服务请求发送至确定的队列；

其中，所述各队列被配置有权值，以便计算资源对对应的各队列按照权值进行轮询。

根据本公开的第二方面，提供了一种流量控制装置，应用于包含M个等级的计算资源，每个计算资源对应有至少N个队列，所述M为正整数，所述N为大于1的正整数；该装置包括：

请求接收单元，用于接收服务请求；

自适应限流单元，用于确定所述服务请求适用的计算资源等级；

多队列隔离单元，用于依据所述服务请求的产品形式、应用形式以及服务等级中的至少一种，从所述计算资源等级对应的至少N个队列中确定对应的队列；将所述服务请求发送至确定的队列；

其中，所述各队列被配置有权值，以便计算资源对对应的各队列按照权值进行轮询。

根据本公开的第三方面，提供了一种电子设备，包括：

至少一个处理器；以及

与所述至少一个处理器通信连接的存储器；其中，

所述存储器存储有可被所述至少一个处理器执行的指令，所述指令被所述至少一个处理器执行，以使所述至少一个处理器能够执行如上所述的方法。

根据本公开的第四方面，提供了一种存储有计算机指令的非瞬时计算机可读存储介质，其中，所述计算机指令用于使所述计算机执行如上所述的方法。