[发明专利]分布式计算处理方法及装置有效
申请号: | 201410020598.0 | 申请日: | 2014-01-16 |
公开(公告)号: | CN104794095B | 公开(公告)日: | 2018-09-07 |
发明(设计)人: | 吴百锋;封泽希 | 申请(专利权)人: | 华为技术有限公司;复旦大学 |
主分类号: | G06F15/16 | 分类号: | G06F15/16;G06F9/50 |
代理公司: | 北京同立钧成知识产权代理有限公司 11205 | 代理人: | 刘芳 |
地址: | 518129 广东*** | 国省代码: | 广东;44 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 分布式 计算 处理 方法 装置 | ||
1.一种分布式计算处理方法,其特征在于,包括:
读取分布式程序,所述分布式程序包括节点语法和管道语法;
根据所述分布式程序获取节点构造信息和管道构造信息;
根据所述节点构造信息和所述管道构造信息将所述分布式程序的节点分配给集群中执行所述节点的计算机;
根据所述节点构造信息和所述管道构造信息将管道通信过程转换成兼容所述管道两端节点的应用程序编程接口API的通信过程;
将所述节点的源代码编译成对应计算机上的可执行程序,分配到所述对应计算机上执行。
2.根据权利要求1所述的方法,其特征在于,所述根据所述分布式程序获取节点构造信息和管道构造信息,包括:
从所述分布式程序中识别节点声明语法、管道声明语法,查找所述节点声明语法中的声明节点的关键字和所述管道声明语法中声明管道的关键字;
根据所述声明节点的关键字将节点信息添加到节点信息表中以获取节点构造信息;
根据所述节点构造信息对所述节点信息表中两个节点的管道连接进行赋值以获取管道构造信息。
3.根据权利要求2所述的方法,其特征在于,所述根据所述节点构造信息和所述管道构造信息将所述分布式程序的节点分配给集群中执行所述节点的计算机之前,还包括:
获取所述集群中计算机的配置信息;
所述根据所述节点构造信息和所述管道构造信息将所述分布式程序的节点分配给执行所述节点的计算机,包括:
根据所述节点构造信息和所述管道构造信息将所述分布式程序的节点按照硬件资源类型进行分类;
根据所述集群中计算机的配置信息为每台计算机生成相应的分布式程序的模板;
根据所述节点的硬件资源类型将所述节点填写到对应计算机的分布式程序的模板中。
4.根据权利要求3所述的方法,其特征在于,所述获取所述集群中计算机的配置信息,包括:
查询本机的配置信息并存储于集群配置列表中,所述本机为所述集群计算机中的主机;
获取所述集群中其它计算机的配置信息并存储于集群配置列表中;或者,
查询本机的配置信息并存储于集群配置列表中;
向所述集群计算机的主机发送所述本机的配置信息。
5.根据权利要求4所述的方法,其特征在于,所述节点构造信息包括所述节点信息表和节点源代码;则所述根据所述节点构造信息和所述管道构造信息将所述分布式程序的节点按照硬件资源类型进行分类,包括:
根据所述节点信息表、所述节点源代码和所述管道构造信息对所述节点采用资源分配算法按照所需硬件资源类型进行分类。
6.根据权利要求5所述的方法,其特征在于,所述资源分配算法包括:
构建并初始化资源类型列表和资源项目列表,所述资源类型列表包括所述集群中计算机和所述计算机的资源类型,所述资源项目列表包括与所述资源类型列表中所述计算机对应的身份标识符ID、资源数量totalN和可执行节点的资源数量avaN;
选择初始节点并判断所述初始节点对应计算机的资源类型,从所述资源类型列表中选择对应所述计算机的资源项目;
检查所述初始节点对应的资源项目列表中的所述avaN不为0时,将所述资源项目列表中当前ID对应的计算机的内核分配给所述初始节点,并将所述计算机的avaN减1,在所述avaN减至0时开始分配资源项目列表中下一个计算机的资源。
7.根据权利要求3所述的方法,其特征在于,所述计算机的分布式程序的模板包括使用消息传递接口MPI通信方式或使用套接字Socket通信方式。
8.根据权利要求7所述的方法,其特征在于,所述根据所述节点构造信息和所述管道构造信息将管道通信过程转换成兼容所述管道两端节点的应用程序编程接口API的通信过程,包括:
根据所述管道两端节点所填写的模板类型和所述集群中计算机的配置信息为所述管道选择对应的通信协议和端口号;
将所述管道通信过程转换成进程间通信过程或网络通信过程。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于华为技术有限公司;复旦大学,未经华为技术有限公司;复旦大学许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201410020598.0/1.html,转载请声明来源钻瓜专利网。
- 上一篇:基于音频的数据标签发布系统及方法
- 下一篇:一种总线仲裁的方法、装置及系统