[发明专利]数据处理方法、装置、计算机设备以及存储介质

说明书

本公开涉及一种数据处理方法、装置、计算机设备以及存储介质。所述产品包括处理器，所述处理器包括多个处理单元以及存储单元，多个处理单元用于执行更新计算图以及处理数据等指令序列，存储单元用于存储数据，可包括随机存储器(RAM，Random Access Memory)和寄存器堆。处理器中的多个处理单元既可共用部分存储空间，例如共用部分RAM存储空间和寄存器堆，又可同时拥有各自的存储空间。通过使用以上处理器，本公开可以提高相关产品在进行神经网络模型的运算时的运算效率。

技术领域

本公开涉及计算机技术领域，特别是涉及一种数据处理方法、装置、计算机设备以及存储介质。

背景技术

随着计算机技术的发展，出现了数据流编程技术，为了方便编程以及灵活性，使用了细粒度的算子来模拟计算以及拼接为深度神经网络。这也意味着在一个深度神经网络进行推理时需要依次执行网络中成百上千个节点，每执行一个算子都需要通过处理器调用它的内核函数并且需要将数据从全局内存拷贝到片上，所以它的性能开销除了计算之外还有每个节点间的数据拷贝以及内核启动的开销。为了减少这些开销，通常可将这些细粒度的并且都能在同一设备上执行的节点在实际进行计算之前先融合为一个大的融合节点。在执行时只需要执行这个融合节点，这样就减少了内核函数调用次数，同时融合节点内部的数据拷贝开销也减少了。而在计算图的多个节点中，可能存在不支持融合的节点，从而造成融合的分段使得优化效果下降。

发明内容

基于此，有必要针对上述技术问题，提供一种能够提升运算效率的数据处理方法、装置、计算机设备和存储介质。

根据本公开的一方面，提供了一种数据处理方法，包括：根据计算图中多个节点的类型，确定计算图中不支持融合的第一常量节点；根据所述第一常量节点进行常量消除处理，获得消除结果；根据消除结果对所述计算图进行更新，获得更新后的计算图。

在一种可能的实现方式中，根据所述第一常量节点进行常量消除处理，获得消除结果，包括：去除第一常量节点、第一常量节点的输入边和输出边，获得所述消除结果。

在一种可能的实现方式中，所述第一常量节点包括第三常量节点，其中所述第三常量节点的输出边指向的节点中包含非常量节点，所述去除第一常量节点、第一常量节点的输入边和输出边，包括：根据输入所述计算图的待处理数据，获得第三常量节点的输出信息；保存所述第三常量节点的输出信息；去除第三常量节点、第三常量节点的输入边和输出边。

在一种可能的实现方式中，所述第一常量节点包括第二常量节点，其中，所述第二常量节点的输出边指向的节点均为第一常量节点，所述去除第一常量节点、第一常量节点的输入边和输出边，包括：直接去除第二常量节点、第二常量节点的输入边和输出边。

在一种可能的实现方式中，所述第一常量节点包括第二常量节点和第三常量节点，所述去除第一常量节点、第一常量节点的输入边和输出边，包括：同时去除所述第二常量节点和所述第三常量节点，以及所述第二常量节点和所述第三常量节点的输入边和输出边。

在一种可能的实现方式中，所述根据计算图中多个节点的类型，确定计算图中不支持融合的第一常量节点，包括：根据所述计算图中多个节点的类型，在所述计算图的多个节点中确定预设类型的第一目标节点；对所述第一目标节点的输出节点进行常量判别处理，获得输入信息为常量的第二目标节点，所述第一目标节点的输出节点包括直接输出节点和间接输出节点，所述直接输出节点包括所述第一目标节点的输出边直接指向的节点，所述间接输出节点包括所述第一目标节点的输出边经由其他节点间接指向的节点；根据所述第一目标节点和所述第二目标节点，获得所述第一常量节点。