[发明专利]基于参数服务器架构的图数据与参数数据的混合划分方法

权利要求书

1.一种基于参数服务器架构的图数据与参数数据的混合划分方法，其特征在于，包括：

步骤1：在原始图数据中构建初始顶点，包括：

步骤1.1：通过使用广度优先遍历，将原始图数据ID进行重新编号；

步骤1.2：将重新编号后的所有顶点ID划分为大小均等的P个区间，计算每个ID分区内编号的中间值计算公式如下：

式中，x_r表示每个编号区间的右端点值，x_l表示每个编号区间的左端点值，表示向下取整运算；

步骤1.3：选取每个ID分区的中间值所对应的顶点作为初始顶点；

步骤2：以初始顶点作为初始分区对图数据进行邻域分区；

步骤3：计算每个分区的参数权重向量，根据P个分区的参数权重向量对图神经网络模型参数按行划分为P个分区，将参数行划分至需要使用其进行图神经网络计算的顶点数量最多的分区中。

2.根据权利要求1所述的一种基于参数服务器架构的图数据与参数数据的混合划分方法，其特征在于，所述步骤2包括：

步骤2.1：根据公式(2)定义图数据G(V,E)中每个分区X的邻居顶点集合B(X)；

B(X)＝{u|u∈V\X,v∈X,e_v,u∈E} (2)

式中，V表示图数据中所有顶点的集合，E表示顶点之间边的集合，v∈X表示分区X中的顶点，u∈V\X表示属于集合V但不属于集合X的顶点，e_v,u表示顶点v、u之间的边；

步骤2.2：从分区X的初始顶点开始不断搜索分区X的邻居顶点集合中的顶点，选择增加分区网络开销最小的顶点加入到分区X中，直到分区X中的顶点个数超过预设上限值，并将选择过的顶点从集合V中删除；

步骤2.3：针对每个初始顶点和集合V中剩余的顶点，重复步骤2.2继续划分分区，如果得到的分区数小于P且剩余的集合V中不存在初始顶点时，任意指定其他顶点为初始顶点继续划分分区，直到得到P个分区。

3.根据权利要求2所述的一种基于参数服务器架构的图数据与参数数据的混合划分方法，其特征在于，所述步骤2.2中选择增加分区网络开销最小的顶点加入到分区X中，包括：

步骤2.2.1：将分区X中所有稀疏性向量累计得到参数权重向量ζ：

式中，n′表示分区X中的顶点数量，η_i表示第i个顶点对应的稀疏性向量；

步骤2.2.2：将参数权重向量中的每个元素与每个顶点的稀疏性向量中的对应元素一一相减，相减后的向量中负数元素的个数记为与分区X内顶点特征稀疏性不一致的维度的数量m；

步骤2.2.3：对分布式系统运行图神经网络算法时，图数据中的顶点间通信代价C_edge、参数通信代价C_parameter分别表示为：

式中，n表示顶点u加入到分区X时分区与邻域之间边数量的变化值，f表示顶点的特征向量维度，j表示图神经网络模型的参数矩阵的列数量，m表示与分区X内顶点特征稀疏性不一致的维度的数量，C_int表示网络传输中整型变量所占字节数，C_float表示网络传输中单精度变量所占字节数；

步骤2.2.4：利用公式(5)计算分区X的邻域内每个顶点的代价分数S(u)；

S(u)＝2n(fC_float+C_int)+2m(jC_float+C_int) (5)

步骤2.2.5：根据代价分数对分区X邻域顶点排序，将最小代价分数所对应的顶点作为增加分区网络开销最小的顶点。

4.根据权利要求1所述的一种基于参数服务器架构的图数据与参数数据的混合划分方法，其特征在于，所述步骤3中根据P个分区的参数权重向量对图神经网络模型参数按行划分为P个分区，包括：

步骤3.1：对比所有图数据分区的参数权重向量ζ₁,ζ₂,…,ζ_P在第0维度的值，找出最大值对应的参数权重向量ζ_t，将图神经网络模型的第0行参数划分至第t个参数分区；

步骤3.2：检查第t个参数分区的参数行数量，若达到上限，则将参数权重向量ζ_t全部值更改为0；

步骤3.3：针对参数权重向量的剩余维度，重复步骤3.1与步骤3.2，直至划分完毕图神经网络模型的所有参数行。