[发明专利]一种基于磁盘的分布式图计算方法有效
| 申请号: | 201510988839.5 | 申请日: | 2015-12-24 |
| 公开(公告)号: | CN105653204B | 公开(公告)日: | 2018-12-07 |
| 发明(设计)人: | 王芳;程永利;冯丹;汪修能;张永选;戎佳磊 | 申请(专利权)人: | 华中科技大学 |
| 主分类号: | G06F3/06 | 分类号: | G06F3/06 |
| 代理公司: | 华中科技大学专利中心 42201 | 代理人: | 赵伟 |
| 地址: | 430074 湖北*** | 国省代码: | 湖北;42 |
| 权利要求书: | 查看更多 | 说明书: | 查看更多 |
| 摘要: | |||
| 搜索关键词: | 一种 基于 磁盘 分布式 计算方法 | ||
1.一种基于磁盘的分布式图计算方法,其特征在于,包括以下步骤:
(1)将图分割成P个能被装进各计算节点内存的子图;P>1;
(2)通过N次迭代完成一个图计算作业;N≥1;
所述步骤(2)具体包括如下子步骤:
(2.1)主节点采用哈希函数H(s)=s mod M将P个子图依次指派到M个计算节点;
(2.2)主节点采用哈希函数H(t)=t mod M把(N×P)个任务依次指派到各计算节点,各计算节点将收到的任务依次放入任务队列;
(2.3)计算节点采用哈希函数H(t)=t mod P将任务队列里的任务与所述子图关联起来;
(2.4)由主节点对(N×P)个任务进行调度,向各计算节点发出“开始执行”指令;
(2.5)各计算结点取出任务,并根据该任务关联的子图构建子图数据结构,并行处理该子图的所有顶点,按优先级发送并保存数据块;
其中,s为子图s的ID号,t为第t个任务的ID号,H(t)为任务所关联子图的ID;0≤t≤N×(P-1),1<M≤P;0≤s≤P-1;
(3)主节点将各计算节点的计算结果进行合并后输出。
2.如权利要求1所述的分布式图计算方法,其特征在于,所述步骤(2.5)具体包括以下子步骤:
(2.5.1)各计算节点从任务队列中取出一个任务,从磁盘加载该任务所关联的子图,并在内存中构建该子图的数据结构;
(2.5.2)判断前一个任务的计算阶段是否完成,若是,则进入步骤(2.5.3);若否,则等待,直到前一个任务的计算阶段完成,再进入步骤(2.5.3);
(2.5.3)计算节点根据用户定义并行处理该子图的所有顶点;
(2.5.4)计算节点根据各子图所依赖数据块的个数设置子图的优先级,并按优先级从高到低的顺序,将子图所依赖的数据块发送给其它(P-1)个子图;
(2.5.5)判断是否达到用户设定的结束条件或任务队列为空,若是,则向主结点发送本计算结点的计算结果;若否,则进入步骤(2.5.1)。
3.如权利要求2所述的分布式图计算方法,其特征在于,所述优先级,根据子图所依赖数据块的个数确定,子图所依赖数据块的个数越小,子图的优先级越高。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于华中科技大学,未经华中科技大学许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201510988839.5/1.html,转载请声明来源钻瓜专利网。
- 上一篇:一种闪存接口信息的实时解析方法和系统
- 下一篇:一种搜索的方法及终端





