[发明专利]一种自动负载均衡的文件锁并行地震处理作业调度方法在审
申请号: | 201811214596.X | 申请日: | 2018-10-18 |
公开(公告)号: | CN109344135A | 公开(公告)日: | 2019-02-15 |
发明(设计)人: | 薛东川;张金淼;李维新;朱振宇;刘永江;张云鹏;王小六;黄小刚;糜芳;江南森 | 申请(专利权)人: | 中国海洋石油集团有限公司;中海油研究总院有限责任公司 |
主分类号: | G06F16/176 | 分类号: | G06F16/176;G06F9/50;G01V1/28 |
代理公司: | 北京纪凯知识产权代理有限公司 11245 | 代理人: | 徐宁;孙楠 |
地址: | 100010 北*** | 国省代码: | 北京;11 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 处理进程 索引文件 并行 文件锁 地震处理 地震数据 日志文件 信息写入 自动负载 作业调度 读取 均衡 地震数据处理 处理作业 高效处理 节点发送 偏移处理 同步机制 远程登录 运行效率 作业日志 地震道 磁盘 排队 共享 重复 检查 | ||
1.一种自动负载均衡的文件锁并行地震处理作业调度方法,其特征在于,包括以下步骤:
1)在共享磁盘上新建一个索引文件,该索引文件仅包含一个起始炮号,该炮号指定了下一个将要偏移处理的地震道集;
2)远程登录节点发送处理作业;
3)各个节点上的处理进程在文件锁同步机制下排队读取并修改索引文件,并将处理进程当前信息写入日志文件;
4)处理进程完成指定的地震数据处理,并在完成后将处理进程当前信息写入日志文件;
5)重复实施步骤3)~步骤4),直至全部数据被处理完成;
6)检查并行作业日志文件,重处理缺失的地震数据。
2.如权利要求1所述方法,其特征在于:所述步骤1)中,共享磁盘是高速网络上各个计算节点都能够访问的物理磁盘,并且各个计算节点对该磁盘上的共享索引文件都有读写权限。
3.如权利要求1或2所述方法,其特征在于:所述步骤1)中,索引文件为ASCII码书写的文本文件,其内容仅包含一个整型的起始炮号,该炮号为SHOT号、CDP号或OFFSET号,需要与地震数据的存储顺序保持一致。
4.如权利要求1所述方法,其特征在于:所述步骤2)中,远程登录节点发送处理作业如下:
2.1)建立一个节点列表:节点列表是一个文本文件,该文件的每一行记录着一个参与计算的节点的主机名;
2.2)通过编写一个脚本文件,循环利用Linux远程shell命令rsh或ssh逐一登录节点列表上的计算节点,并进入下一步启动处理。
5.如权利要求1所述方法,其特征在于:所述步骤3)中,当某一节点正在读取或改写索引文件时,该索引文件内容又被其它节点改写或读取时,在处理进程读写索引文件时给索引文件加上文件锁;加锁以后,索引文件操作流程变成:某处理进程从操作系统获得授权->文件解锁->读写操作->文件加锁->处理进程将授权退还操作系统;队列中的处理进程重复上述流程,直至队列中所有进程都完成了操作。
6.如权利要求5所述方法,其特征在于:所述队列中的处理进程从索引文件中读取的索引值指定了该进程要处理的地震数据道集,而修改后重新写入索引文件的索引值则指定了下一个需要处理的地震数据道集;处理进程读得索引值以后,需要将进程的当前信息写入日志文件,日志文件记录内容包含主机名、时间和日期、索引号和执行状态信息。
7.如权利要求1所述方法,其特征在于:所述步骤4)中,处理进程对指定的地震道集数据完成叠前逆时偏移处理;叠前逆时偏移计算量很大而网络开销较小,采用多节点数据并行处理能够获得很高的并行效率;单炮数据完成偏移处理后,处理进程需要将其当前信息写入日志文件,日志文件记录内容包含主机名、时间和日期、索引号和执行状态信息,供并行作业监控使用。
8.如权利要求1所述方法,其特征在于:所述步骤5)中,在地震数据处理过程中,始终未对计算节点具体分配处理任务,节点列表中的每个节点都是排队从索引文件中领取要处理的地震数据的索引号,在完成当前地震道集的处理以后,如果还有剩余数据没有处理,当前索引号小于或等于最大索引值,则重新到队列末尾排队领取地震数据,而倘若已无剩余数据未处理,则进程结束。
9.如权利要求8所述方法,其特征在于:所述地震数据处理过程中,如果不同节点的计算性能存在差异,那么计算性能低的节点处理数据速度慢,排队领取的地震数据的次数就较少,而计算性能高的节点处理数据速度快,排队领取的地震数据的次数就较多,且这种“能者多劳”的状态会随计算节点的实际负载情况实时调整,实现了多节点并行自动负载均衡,并在总体上达到最高的并行计算效率。
10.如权利要求1所述方法,其特征在于:所述步骤6)中,并行处理作业完成后,检查日志文件,核对每个道集数据的完成情况,找出那些因节点宕机或处理进程被杀死所导致的缺失数据;收集这些缺失数据的索引号,形成列表,待重新处理后补充到最终的成果数据中。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于中国海洋石油集团有限公司;中海油研究总院有限责任公司,未经中国海洋石油集团有限公司;中海油研究总院有限责任公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201811214596.X/1.html,转载请声明来源钻瓜专利网。