[发明专利]用于处理机器学习模型的方法、设备和计算机程序产品

说明书

本公开的实施例涉及用于处理机器学习模型的方法、设备和计算机程序产品。该方法包括获得由源语言编写的机器学习模型的中间表示，该中间表示与源语言和目标语言无关并且包括结构化的文本。该方法还包括基于中间表示生成计算图，计算图中的节点表示与机器学习模型有关的函数，计算图中的有向边表示函数之间的依赖关系。该方法还包括将计算图划分为有顺序的多个部分，使得多个部分将按照顺序被执行并且每个部分中的节点所对应的函数能够被并行执行。通过采用上述方法，在处理机器学习模型时不需要考虑深度学习模型的层间通信和层内通信，也不需要划分张量数据，并且该处理方法在时间和空间上更有效。

技术领域

本公开的实施例涉及人工智能领域，具体地涉及用于处理机器学习模型的方法、设备和计算机程序产品。

背景技术

近年来，随着人工智能技术的进步，机器学习或深度学习(DL)已经推动了许多领域的发展。与此同时，机器学习模型也变得越来越复杂，需要使用数据集越大，因此执行这样的机器学习模型需要更多的计算资源。目前，由于CPU的计算能力以及与外围计算设备之间通信带宽的限制，单个机器的计算能力往往难以满足大规模机器学习模型的要求。因此，如何有效地部署机器学习模型已经成为当前关注的焦点。

发明内容

本公开的实施例提供一种用于处理机器学习模型的方法、设备和计算机程序产品。

根据本公开的第一方面，提供了一种用于处理机器学习模型的方法。该方法包括获得由源语言编写的机器学习模型的中间表示，中间表示与源语言和目标语言无关并且包括结构化的文本。该方法还包括基于中间表示生成计算图，计算图中的节点表示与机器学习模型有关的函数，计算图中的有向边表示函数之间的依赖关系。该方法还包括将计算图划分为有顺序的多个部分，使得多个部分将按照顺序被执行并且每个部分中的节点所对应的函数能够被并行执行。

根据本公开的第二方面，提供了一种用于处理机器学习模型的电子设备。该电子设备包括处理器；以及存储器，存储有计算机程序指令，处理器运行存储器中的计算机程序指令控制电子设备执行动作，该动作包括：获得由源语言编写的机器学习模型的中间表示，中间表示与源语言和目标语言无关并且包括结构化的文本；基于中间表示生成计算图，计算图中的节点表示与机器学习模型有关的函数，计算图中的有向边表示函数之间的依赖关系；以及将计算图划分为有顺序的多个部分，使得多个部分将按照顺序被执行并且每个部分中的节点所对应的函数能够被并行执行。

根据本公开的第三方面，提供了一种计算机程序产品。该计算机程序产品被有形地存储在非易失性计算机可读介质上并且包括机器可执行指令，该机器可执行指令在被执行时使机器执行本公开的第一方面中的方法的步骤。

附图说明

通过结合附图对本公开示例性实施例进行更详细的描述，本公开的上述以及其它目的、特征和优势将变得更加明显，其中，在本公开示例性实施例中，相同的参考标号通常代表相同部件。

图1图示了根据本公开的实施例的设备和/或方法可以在其中被实施的示例环境100的示意图；

图2图示了根据本公开的实施例的计算图200的示意图；

图3图示了根据本公开的实施例的用于处理机器学习模型的方法300的流程图；

图4图示了根据本公开的实施例的用于将计算图划分为多个部分方法400的流程图；

图5图示了适于用来实施本公开内容的实施例的示例设备500的示意性框图。

在各个附图中，相同或对应的标号表示相同或对应的部分。

具体实施方式