[发明专利]计算图处理、模型运行方法及装置、设备、服务器及终端

说明书

本申请实施例提供一种计算图处理、模型运行方法及装置、电子设备、服务器及边缘终端。其中，方法包括如下的步骤：确定机器学习模型对应的第一计算图；其中，所述第一计算图包括多个节点；基于所述多个节点分别对应的对象类型，按照标识设置规则，确定所述多个节点分别对应的张量标识；对所述第一计算图中具有相同张量标识的节点进行替代处理，获得所述机器学习模型的第二计算图。本申请实施例通过优化计算图提高机器学习模型的运行效率。

技术领域

本申请涉及计算机技术领域，尤其涉及一种计算图处理、模型运行方法及装置、电子设备、服务器及边缘终端。

背景技术

机器学习模型是人工智能及模式识别领域的共同研究点，其理论以及方法被广泛应用于解决工程应用和科学领域的复杂问题。机器学习模型以深度学习为代表，使用多分层结构，多神经元的连接交互信息的分析机制，以实现自适应、自学习的强大并行信息处理能力。

现有技术中，机器学习模型结构较为复杂，在实际应用过程中，为了提高计算效率，机器学习研究者通常致力于机器学习模型的结构的简化。例如，机器学习模型的计算结构中存在多层级的复杂计算处理过程，一般针对机器学习模型的多层级计算结构本身进行算法优化。

但是，采用对机器学习模型结构本身进行优化的方式，对机器学习模型的优化是有限的，并不能解决对机器学习模型的加速优化问题。

发明内容

本申请实施例提供了一种计算图处理、模型运行方法及装置、电子设备、服务器及边缘终端，用以解决现有技术中机器学习模型结构优化并不能解决机器学习模型在运行过程中的计算效率的技术问题。

于是，在本发明的一个实施例中，提供了一种计算图处理方法，包括：

确定机器学习模型对应的第一计算图；其中，所述第一计算图包括多个节点；

基于所述多个节点分别对应的对象类型，按照标识设置规则，确定所述多个节点分别对应的张量标识；

对所述第一计算图中具有相同张量标识的节点进行替代处理，获得所述机器学习模型的第二计算图。

在本发明的一个实施例中，提供了一种模型运行方法，包括：

确定训练获得的机器学习模型；

运行所述机器学习模型，并在获取所述机器学习模型的第一计算图时，中止所述机器学习模型的运行；其中，所述第一计算图包括多个节点；

基于所述多个节点分别对应的对象类型，按照标识设置规则，确定所述多个节点分别对应的张量标识；

对所述第一计算图中具有张量标识的节点进行替代处理，获得所述机器学习模型的第二计算图；

将输入数据输入所述第二计算图，计算获得所述机器学习模型的运行指令；

运行所述运行指令，获得所述机器学习模型的输出数据。

在本发明的又一个实施例，提供了一种计算图处理装置，包括：

第一确定模块，用于确定机器学习模型对应的第一计算图；其中，所述第一计算图包括多个节点；

标识确定模块，用于基于所述多个节点分别对应的对象类型，按照标识设置规则，确定所述多个节点分别对应的张量标识；

计算优化模块，用于对所述第一计算图中具有相同张量标识的节点进行替代处理，获得所述机器学习模型的第二计算图。

在本发明的又一个实施例中，提供了一种模型运行装置，包括：

模型确定模块，用于确定训练获得的机器学习模型；