[发明专利]一种数据处理方法、装置、计算机设备及存储介质

说明书

本申请实施例公开了一种数据处理方法、装置、计算机设备及存储介质，当神经网络模型中存在可以优化的结构时，通过对神经网络模型执行多种优化操作中的至少一个优化操作，可以实现针对神经网络模型的优化，提高神经网络模型的整体性能。当接收到机器学习处理任务的请求时，调用优化后的神经网络模型可以减少冗余计算，继而减少计算机设备的资源消耗。

技术领域

本申请涉及信息处理技术领域，尤其涉及一种数据处理方法、装置、计算机设备及存储介质。

背景技术

神经网络是一种模仿动物神经网络行为特征，进行分布式并行信息处理的算法数学模型，这种网络由大量的节点(或称神经元)之间星湖连接构成，通过调整内部大量节点之间相互连接的关系，利用输入数据、权值产生输出数据模拟人脑的信息处理过程处理信息并生成模式识别之后的结果。

现有中，算法设计者在对神经网络模型进行设计时，往往出于神经网络模型在描述上的整洁和简洁的目的，在神经网络模型中引入了“胶水”算子。这里，“胶水”算子是指算子本身并不涉及任何计算逻辑，其输入数据和输出数据不管是数的数量，亦或是数值本身都没有发生变化。然而，不合理的“胶水”算子的引入和组合可以导致在更高一级的计算图层面上在神经网络模型的执行过程中加入了一些不必要、不合理的访存行为，影响了人工智能处理器针对神经网络模型的计算部分在硬件结构和指令设计上进行针对优化所带来的优异的性能的提升，降低了神经网络模型的整体性能。那么，当计算机设备在运行上述包含可以优化的“胶水”算子的神经网络模型时，这无疑加大了计算机设备的资源消耗。

发明内容

本申请实施例提供一种数据处理方法、装置、计算机设备及存储介质，可以优化神经网络模型，提高神经网络模型的整体性能。此外，在计算机设备运行优化后的神经网络模型时，可以减少计算机设备的资源消耗。

为实现上述目的，第一方面，本申请实施例提供了一种数据处理方法，该方法包括：

通用处理器获取神经网络模型对应的计算图；其中，所述计算图中包含胶水算子；所述胶水算子用于对所述计算图中的张量数据的参数进行调整；

所述通用处理器根据所述计算图中胶水算子的逻辑关系对所述计算图进行优化，获得优化结果；其中，所述胶水算子的逻辑关系包括concat算子间的逻辑关系，或，所述concat算子与其他算子的逻辑关系；所述其他算子包括reshape算子、transpose算子、split算子中的任意一种算子；

所述通用处理器根据所述优化结果获取对应的二进制指令，以分配至对应人工智能处理器上执行任务。

为实现上述目的，第二方面，实施例提供了一种数据处理装置，该装置包括用于执行上述第一方面的方法的单元。具体地，该装置可以包括：

获取单元，获取神经网络模型对应的计算图；其中，所述计算图中包含胶水算子；所述胶水算子用于对所述计算图中的张量数据的参数进行调整；

优化单元，用于根据所述计算图中胶水算子的逻辑关系对所述计算图进行优化，获得优化结果；其中，所述胶水算子的逻辑关系包括concat算子间的逻辑关系，或，所述concat算子与其他算子的逻辑关系；所述其他算子包括reshape算子、transpose算子、split算子中的任意一种算子；

执行单元，用于根据所述优化结果获取对应的二进制指令，以分配至对应人工智能处理器上执行任务。

为实现上述目的，第三方面，本申请实施例提供了一种计算机设备，包括多个异构处理器和存储器，所述处理器和存储器相互连接，其中，所述处理器包括通用处理器和人工智能处理器，所述存储器用于存储支持计算机设备执行上述方法的计算机程序，所述计算机程序包括程序指令，所述处理器被配置用于调用所述程序指令，执行上述第一方面的方法。