[发明专利]一种用于图计算并行执行的中间表示方法及装置

权利要求书

1.一种用于图计算并行执行的中间表示方法，其特征在于，包括以下步骤：

步骤S1：将神经网络编译为计算图；

步骤S2：定义计算图中张量变量的分支状态；

步骤S3：定义计算图中张量变量的数据依赖关系；

步骤S4：定义计算图中张量变量的控制依赖关系；

步骤S41：定义分支控制变量：所述分支控制变量为布尔类型变量，所述分支控制变量为包含分支指令操作分支跳转的计算节点，当分支控制变量的值为真时，则执行流跳转到子图分支，反之，则执行包含分支指令操作分支跳转的计算节点的后继节点；

步骤S42：定义控制依赖关系：当赋予张量变量的值依赖于由所述分支控制变量控制的子图分支，则所述张量变量是控制依赖于所述分支控制变量；

步骤S43：定义计算图子图分支之间的后支配关系：当且仅当执行流从子图B_i分支执行至计算图终止节点过程中的每条路径都经过子图B_j分支，则子图B_j分支后支配子图B_i分支；

步骤S44：定义分支控制变量的影响区域：所述分支控制变量的影响区域起始于所述分支控制变量所在子图分支，终止于所述分支控制变量所在分支的后支配子图分支，且所述后支配子图分支需要同步所述分支控制变量所在分支处发散的不同分支的线程；

步骤S45：定义控制依赖关系：当且仅当张量变量位于所述分支控制变量的影响区域内，且张量变量能够传播至所述后支配子图分支，则张量变量控制依赖于所述分支控制变量，所述后支配子图分支对分支上发散的不同分支上的线程进行隐式同步；

步骤S5：构建计算图中张量变量的数据依赖关系图；

步骤S6：构建计算图中张量变量的控制依赖关系图；

步骤S7：将控制依赖转换为数据依赖。

2.如权利要求1所述的一种用于图计算并行执行的中间表示方法，其特征在于，所述步骤S2具体包括以下子步骤：

步骤S21：定义张量变量的发散的分支状态：当计算图中的张量变量在不同的并行线程中具有不同的值，则所述张量变量为发散的分支状态；

步骤S22：定义张量变量的统一的分支状态：当计算图中的张量变量在不同的并行线程中具有相同的值，则所述张量变量为统一的分支状态。

3.如权利要求1所述的一种用于图计算并行执行的中间表示方法，其特征在于，所述步骤S3具体为：当计算图节点包含输出张量变量和输入张量变量的赋值关系为输出张量变量是关于输入张量变量之间的关系表达式，则输出张量变量的数据依赖于输入张量变量。

4.如权利要求1所述的一种用于图计算并行执行的中间表示方法，其特征在于，所述步骤S5具体包括以下子步骤：

步骤S51：创建数据依赖关系图的节点：按照计算图的拓扑结构顺序依次为计算图中每个张量变量构建一个节点；

步骤S52：创建数据依赖关系图的边：当张量变量v的数据依赖于张量变量u，则构建一条由张量变量u指向张量变量v的连边，若干所述连边构成数据依赖关系图。

5.如权利要求1所述的一种用于图计算并行执行的中间表示方法，其特征在于，所述步骤S6具体包括以下子步骤：

步骤S61：分析分支控制变量所在分支的后支配子图分支；

步骤S62：分析分支控制变量的影响区域；

步骤S63：构建控制依赖关系图中影响区域中的张量变量控制依赖于分支控制变量的连边。

6.如权利要求1所述的一种用于图计算并行执行的中间表示方法，其特征在于，所述步骤S7具体包括以下子步骤：

步骤S71：分支控制变量扩增张量变量正确定义路由选择器；

步骤S72：同步分支控制变量影响区域外不同线程的张量变量；

步骤S73：构建将分支控制变量影响区域外的张量变量的控制依赖，进行转换得到数据依赖的连边。