[发明专利]一种基于插值算法面向计算通信联合优化的负载均衡方法

权利要求书

1.一种基于插值算法的面向计算通信联合优化的负载均衡方法，该方法分初始划分和动态调整两个阶段，其特征在于，初始划分阶段包括以运算的实测计算量和通信量作为基础值，利用插值算法以计算时间和责任通信时间的实测值推算计算量累加函数和通信量变化率函数的近似函数，然后以这两个函数为参照通过多次迭代获得最佳的数据划分方案；动态调整阶段包括并行程序运行过程，监视每次运算的计算量和通信量变化，分析处理器的负载均衡状况并预测负载均衡的趋势，当负载均衡的效率或预测值低于设定的阈值时，根据当前的计算量和通信量的实测值再次计算量累加函数和通信量变化率函数的近似函数，并对数据块的划分进行动态调整，所述责任通信时间为通信时间标准，为不包括等待时间和与计算重叠的时间的信通时间。

2.如权利要求1所述方法，其特征在于，所述初始划分阶段具体包括以下步骤：

步骤1-1)采用空间填充曲线法对多维空间分布的数据元素进行排序，对处理器编号；设N个数据元素从多维空间映射到一维空间，映射后的N个数据元素排列记为x₁,x₂,…,x_N；设参与运算的处理器有M个，M<<N，将M个处理器编号，记为p₁,p₂,…,p_M；

步骤1-2)对数据元素平均划分的条件下，测量各处理器一个时间步的计算时间和责任通信时间；对平均划分的数据元素进行微调后，测量各处理器一个时间步的责任通信时间；具体包括：

第一次划分，将x₁,x₂,…,x_N平均分成M块，分配到各处理器并启动运行一个时间步，得到各处理器计算时间T_Cj，责任通信时间T_Rj1；第二次划分，对第一次划分的各数据块进行微调，依次将第一次划分的数据块的后面k个元素移到下一个数据块，最后一个数据块只接收前一个数据块；将微调后的数据块分配到各处理器并启动运行一个时间步，得到各处理器责任通信时间T_Rj2；

步骤1-3)根据实测的各处理器的计算时间，利用插值法求解计算量累加函数；具体实现为：

设在x₁,x₂,…,x_N排列下，数据元素x的计算量密度函数为f(t,x)，t为时间参数；在n个时间步内，n≤3，假设f保持不变，则计算量密度函数表示为与时间无关的函数f(x)；

(x_j1,x_j2)为处理器p_j负责的数据块，则处理器的计算时间为T_Cj表示为

全部处理器的计算时间为：

$\left\{\begin{array}{c}{\&Integral;}_{x_{11}}^{x_{12}}f\left(x\right)=T_{C1}\\ {\&Integral;}_{x_{21}}^{x_{22}}f\left(x\right)=T_{C2}\\ \mathrm{...}\\ {\&Integral;}_{x_{M1}}^{x_{M2}}f\left(x\right)=T_{C3}\end{array}\right.---\left(1\right)$

假设函数f(x)在x₁,x₂,…,x_N排列中选取的M个点X₁,X₂,…,X_M上有值；

对于X_i<x<X_i+1，得到f(x)的插值近似函数：

$f\left(x\right)=\frac{(x-X_i)f\left(X_{i+1}\right)+(X_{i+1}-x)f\left(X_i\right)}{X_{i+1}-X_i}---\left(2\right)$

将(2)式代入方程组(1)，得到以f(X₁),f(X₂),…,f(X_M)为未知数的线性方程组，求解可得f(x)在X₁,X₂,…,X_M处的值；利用插值算法求得计算量的累加函数F(x)，F(x)表示为X₁,X₂,…,X_M之间的分段形式；

步骤1-4)根据实测的各处理器的计算时间，利用插值法求解责任通信时间函数的导函数；具体实现为：

处理器p_j的责任通信时间函数为g(t,x_j1,x_j2)，x_j1,x_j2为处理器所负责的数据元素的起点和终点；在较少的n个时间步内，n≤3，假设g保持不变，则处理器p_j的责任通信时间函数表示为g(x_j1,x_j2)；

假设g(x)为连续函数且在x点有导数，求解g(x)在指定点的导数G'(x)；

g(x_j1,x_j2)代表某时间步处理器p_j的责任通信时间，元素x_j1+Δx为x_j1的右邻点，得到：

g(x_j1+Δx,x_j2)＝-G'(x_j1)Δx+g(x_j1,x_j2) (3)

g(x_j1,x_j2+Δx)＝G'(x_j2)Δx+g(x_j1,x_j2) (4)

(x_j1,x_j2)和(x_j3,x_j4)分别为处理器p_j在两次划分中所负责的数据块，两个数据块划分的大部分数据元素重叠，利用式(3)、(4)分别对处理器负责的数据块的左右两端做近似处理得：

$g(x_{j3},x_{j4})-g(x_{j1},x_{j2})=-G^{\&prime;}\left(\frac{x_{j1}+x_{j3}}{2}\right)(x_{j3}-x_{j1})+G^{\&prime;}\left(\frac{x_{j2}+x_{j4}}{2}\right)(x_{j4}-x_{j2})---\left(5\right)$

为计算通信时间函数，测试两次不同划分的责任通信时间；处理器p_j两次划分的责任通信时间分别为T_Rj1，T_Rj2，则，

$G^{\&prime;}\left(\frac{x_{j2}+x_{j4}}{2}\right)(x_{j4}-x_{j2})-G^{\&prime;}\left(\frac{x_{j1}+x_{j3}}{2}\right)(x_{j3}-x_{j1})=T_{Rj2}-T_{Rj1}---\left(6\right)$

假设函数G'(x)在x₁,x₂,…,x_N排列中选取的M个点X₁,X₂,…,X_M上有值；

对于X_i<x<X_i+1，得到G'(x)的插值近似函数：

$G^{\&prime;}\left(x\right)=\frac{(x-X_i)G^{\&prime;}\left(X_{i+1}\right)+(X_{i+1}-x)G^{\&prime;}\left(X_i\right)}{X_{i+1}-x_i}---\left(7\right)$

将式(7)代入形如式(6)的所有处理器的方程组，得到以G'(X₁),G'(X₂),…,G'(X_M)为未知数的线性方程组，求解得到G'(x)在X₁,X₂,…,X_M处的值，利用插值法求得G'(x)的近似函数，G'(x)表示为X₁,X₂,…,X_M之间的分段形式；

步骤1-5)根据计算量密度函数和责任通信时间函数，以及根据指定的数据块的平均计算量和通信量，为每个数据块分配数据元素；当分配不平均时，修改为数据块指定的平均计算量和通信量，迭代求解数据块划分方案；具体实现为：

根据已知的F(x)、G'(x)，在x₁,x₂,…,x_N上求一组X'₀,X'₁,…,X'_M其中X'₀＝x₁，X'₀＝x_N，使式(8)最小：

MAX(F(X'_j)-F(X'_j-1)+g(X'_j,X'_j-1)) (8)

F(X'_j)-F(X'_j-1)表示以X'_j-1和X'_j分别为起点和终点的数据块的计算量，g(X'_j,X'_j-1)则表示这个数据块的责任通信量；

步骤1-5-1)设为各处理器计算时间的平均值；g₀为各处理器责任通信时间的平均值；

步骤1-5-2)使用累加法求X'₁在数据元素x₁,x₂,…,x_N中使式(9)成立的最右的元素x_i；

$F\left({X^{\&prime;}}_1\right)-F\left({X^{\&prime;}}_0\right)+g(x_1,{X^{\&prime;}}_1)\&le;\stackrel{\&OverBar;}{F}+\frac{g_0}{2}---\left(9\right)$

其中F(X'₀)＝0，x₁₁,x₁₂分别为第一个数据块的起点和终点；

由式(9)得到的X'₁，则(x₁,X'₁)为第一个处理器p₁的预分配数据块，表示为(X'₀,X'₁)；

步骤1-5-3)根据已求得的X'₁，结合式(10)利用递推法依次求得剩余的数据块；

$F\left({X^{\&prime;}}_j\right)-F\left({X^{\&prime;}}_{j-1}\right)+g({X^{\&prime;}}_{j-1},{X^{\&prime;}}_j)\&le;\stackrel{\&OverBar;}{F}+\frac{g_0}{2}---\left(10\right)$

其中，

$g({X^{\&prime;}}_{j-1},{X^{\&prime;}}_j)=g(x_{i1},x_{i2})-G^{\&prime;}\left(\frac{{X^{\&prime;}}_{j-1}+x_{i1}}{2}\right)({X^{\&prime;}}_{j-1}-x_{i1})+G^{\&prime;}\left(\frac{{X^{\&prime;}}_j+x_{i2}}{2}\right)({X^{\&prime;}}_j-x_{i2})---\left(11\right)$

式(11)中，g(x_i1,x_i2)为测试值；

步骤1-5-4)根据具体情况，对参数g₀调整后重新进行数据块划分；

第一种情况，当递推法计算到第i步(i<M)，x₁,x₂,…,x_N中元素已经取尽，这时计算终止；新的g₀设为回到步骤1-5-2)，将g'₀代入式(9)重新开始迭代计算；

第二种情况，计算进行了M步，但x₁,x₂,…,x_N中的元素还没有取尽，设X_M＝x_k，新的g₀设定为回到步骤1-5-2)，将g'₀代入式(9)重新开始迭代计算；

第三种情况，当计算到第M步，X_M取值为x₁,x₂,…,x_N集合的最后一个元素，且小于一定的值(如)时，迭代停止，转步骤1-5-5)；

第四种情况，迭代达到设定的次数，说明计算量和通信量无法达到相对均衡，此时迭代停止，转步骤1-5-5)；

步骤1-5-5)当迭代停止时，求得一组X'₀,X'₁,…,X'_M，以X'₀,X'₁,…,X'_M作为分割点将数据元素排列x₁,x₂,…,x_N分成M个数据块，由此得到数据划分方案；

步骤1-6)将划分的数据块分配给所有的处理器，启动运行n个时间步，收集的计算时间和通信时间分析负载均衡的效率；如果负载均衡效率低于要求门限，收集最近一个时间步各处理器计算时间T_Cj，责任通信时间T_Rj1；对现有划分进行微调后，运行一个时间步，得到各处理器的责任通信时间T_Rj2；进入步骤1-3)重新进行数据块划分；如果负载均衡效率达到要求门限，则继续运行，进入第二阶段进行动态调整；

所述动态调整阶段，具体包括以下步骤：

步骤2-1)根据设定的时间间隔，定时查看负载均衡效率，收集n个时间步各处理器的计算时间和责任通信时间，n≤20，如果预测未来m个时间步的负载均衡效率平均值高于设定的阈值，则继续运行，等待下个时间间隔再继续检测，否则启动负载动态调整，执行步骤2-2)；

步骤2-2)收集最近一个时间步收集的各处理器计算时间T_Cj，责任通信时间T_Rj1；在不同划分情况下的通信时间的测试值；求解计算量密度函数f和通信量函数的导数G'；采用步骤1-2)相同的数据块划分微调方法对现有划分微调后，运行一个时间步，得到各处理器的责任通信时间T_Rj2；转入步骤1-3)继续运行，重新进行数据块划分。