[发明专利]基于局部迭代的MapReduce模型的图结点的权威值计算方法在审
| 申请号: | 201410060170.9 | 申请日: | 2014-02-21 |
| 公开(公告)号: | CN103793525A | 公开(公告)日: | 2014-05-14 |
| 发明(设计)人: | 王文 | 申请(专利权)人: | 江苏唯实科技有限公司 |
| 主分类号: | G06F17/30 | 分类号: | G06F17/30 |
| 代理公司: | 无锡市大为专利商标事务所(普通合伙) 32104 | 代理人: | 曹祖良 |
| 地址: | 214028 江苏省无锡*** | 国省代码: | 江苏;32 |
| 权利要求书: | 查看更多 | 说明书: | 查看更多 |
| 摘要: | |||
| 搜索关键词: | 基于 局部 mapreduce 模型 结点 权威 计算方法 | ||
1.一种基于局部迭代的MapReduce模型的图结点的权威值计算方法,其特征在于,包括下述步骤:
步骤a,数据预处理与子图划分,采取随机的划分方式和基于社团结构的划分方式来进行子图的划分;
步骤b,迭代执行MapReduce任务进行PageRank计算,Map阶段对各个子图进行独立的基于内存的PageRank计算,Reduce阶段reduce函数将各个子图产生的新的权威值按照结点ID进行归约求和,得到最终的结点的权威值;
步骤c,算法收敛检测,当数据集中的超过给定阈值的结点的权威值不再发生变化时,即算法收敛。
2.如权利要求1所述的基于局部迭代的MapReduce模型的图结点的权威值计算方法,其特征在于:
所述步骤a中,划分的各个子图的大小一致或尽量均衡。
3.如权利要求1所述的基于局部迭代的MapReduce模型的图结点的权威值计算方法,其特征在于:
所述步骤a中,随机的划分方式包括对图的邻接表进行水平划分和垂直划分相结合的划分方式。
4.如权利要求1所述的基于局部迭代的MapReduce模型的图结点的权威值计算方法,其特征在于:
步骤b中,所述迭代执行MapReduce任务进行PageRank计算,Map阶段对各个子图进行独立的基于内存的PageRank计算,具体包括:
把子图作为map函数输入的单位,根据公式(3),每一个子图的所有结点完成一次PageRank迭代的权威值传播;虽然各个子图之间存在链接关系,子图中结点的权威值计算可以并行进行计算;每个子图的数据结构包括该子图中的结点ID,该结点在子图中的邻居以及该结点的出度;Mapper缓存在mapper初始化时从HDFS文件系统读取上一次迭代该mapper处理的所有子图所对应的权威值表;
其中Bu(j)表示结点u的邻居结点中出现在子图j中的部分,d为随机选择下一个访问结点的概率,Nv为结点v的出度。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于江苏唯实科技有限公司,未经江苏唯实科技有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201410060170.9/1.html,转载请声明来源钻瓜专利网。
- 上一篇:一种提高理论线损计算完整性和准确性的方法
- 下一篇:一种数据同步方法和系统





