[发明专利]任务处理的方法、设备和计算机程序产品

说明书

本公开的实施例涉及任务处理的方法、电子设备和计算机程序产品。该方法包括：响应于接收到目标任务，由第一设备利用部署的第一模型来处理目标任务；获取由第一模型确定的第一结果，第一结果具有第一置信度；响应于确定第一置信度低于第一阈值，使第二设备利用部署的第二模型处理目标任务；以及获取由第二模型确定的第二结果，其中第一模型是通过压缩第二模型而被构建的。基于这样的方式，可以保证任务处理的准确度。

技术领域

本公开的实施例涉及计算机领域，并且更具体地，涉及任务处理的方法、设备和计算机程序产品。

背景技术

随着计算机技术的发展，机器学习技术已经被逐渐被运用于人们生活中的各个方面。计算设备可以利用机器学习模型可以执行各种各样的任务。

近年来，为了提高模型处理的精度，机器学习模型的复杂度越来越高，这导致其对于计算资源的需求也越来越高。例如，一些较为复杂的模型可能难以被部署到计算资源有限的设备中，例如移动设备。这导致人们很难实现模型处理精度与模型处理效率之间的平衡。

发明内容

本公开的实施例提供一种用于任务处理的方案。

根据本公开的第一方面，提出了一种任务处理的方法。该方法包括：响应于接收到目标任务，由第一设备利用部署的第一模型来处理目标任务；获取由第一模型确定的第一结果，第一结果具有第一置信度；响应于确定第一置信度低于第一阈值，使第二设备利用部署的第二模型处理目标任务；以及获取由第二模型确定的第二结果，其中第一模型是通过压缩第二模型而被构建的。

根据本公开的第二方面，提出了一种电子设备。该设备包括：至少一个处理单元；至少一个存储器，该至少一个存储器被耦合到该至少一个处理单元并且存储用于由该至少一个处理单元执行的指令，该指令当由该至少一个处理单元执行时，使得该设备执行动作，该动作包括：响应于接收到目标任务，由第一设备利用部署的第一模型来处理目标任务；获取由第一模型确定的第一结果，第一结果具有第一置信度；响应于确定第一置信度低于第一阈值，使第二设备利用部署的第二模型处理目标任务；以及获取由第二模型确定的第二结果，其中第一模型是通过压缩第二模型而被构建的。

在本公开的第三方面，提供了一种计算机程序产品。该计算机程序产品被存储在非瞬态计算机存储介质中并且包括机器可执行指令，该机器可执行指令在设备中运行时使该设备执行根据本公开的第一方面所描述的方法的任意步骤。

提供发明内容部分是为了以简化的形式来介绍对概念的选择，它们在下文的具体实施方式中将被进一步描述。发明内容部分无意标识本公开的关键特征或必要特征，也无意限制本公开的范围。

附图说明

通过结合附图对本公开示例性实施例进行更详细的描述，本公开的上述以及其它目的、特征和优势将变得更加明显，其中，在本公开示例性实施例中，相同的参考标号通常代表相同部件。

图1示出了本公开的实施例可以在其中被实现的示例系统的示意图；

图2示出了根据本公开的一些实施例的资任务处理的方法的流程图；

图3示出了根据本公开的又一些实施例的任务处理的方法的流程图；以及

图4示出了可以用来实施本公开的实施例的示例设备的框图。

具体实施方式

下面将参照附图更详细地描述本公开的优选实施例。虽然附图中显示了本公开的优选实施例，然而应该理解，可以以各种形式实现本公开而不应被这里阐述的实施例所限制。相反，提供这些实施例是为了使本公开更加透彻和完整，并且能够将本公开的范围完整地传达给本领域的技术人员。