[发明专利]一种元数据服务器中日志段的处理方法及装置有效
申请号: | 201710638963.8 | 申请日: | 2017-07-31 |
公开(公告)号: | CN107402870B | 公开(公告)日: | 2020-10-16 |
发明(设计)人: | 张延良 | 申请(专利权)人: | 苏州浪潮智能科技有限公司 |
主分类号: | G06F11/30 | 分类号: | G06F11/30;G06F16/17 |
代理公司: | 北京集佳知识产权代理有限公司 11227 | 代理人: | 王宝筠 |
地址: | 215100 江苏省苏州市吴*** | 国省代码: | 江苏;32 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 一种 数据 服务器 日志 处理 方法 装置 | ||
本申请提供的一种元数据服务器中日志段的处理方法,当检测到元数据服务器中日志段的数量超过预设值时,判断序号最小的日志段中是否有子树根修改标记;若是,将所述序号最小的日志段的子树根单独进行落盘,并对所述序号最小的日志段进行解析,将得到的事件数据保存到磁盘中,删除所述序号最小的日志段;若否,不将所述子树根落盘,直接对所述序号最小的日志段进行解析,将得到的事件数据保存到磁盘中,删除所述序号最小的日志段。元数据服务器中的子树根单独落盘,不再跟随日志段落盘,减少了落盘数据和落盘频率,提升了落盘效率。
技术领域
本发明涉及分布式集群存储技术领域,更具体的,涉及一种元数据服务器中日志段的处理方法及装置。
背景技术
集群文件系统中,对于文件元数据的所有操作都是通过元数据服务器来进行响应处理的。当集群规模变大以后,单个元数据服务器不足以支撑消息的响应处理,因此增加为多个元数据服务器作为集群来处理请求响应。
元数据服务器为保证数据安全,需要将子树根作为一个整体存放在每个日志段的开头,跟随日志段一起落盘,以备在重启元数据服务器时候回放使用。但随着子树根的增多,每次需要落盘的数据量大大增加,严重影响了落盘效率,进而影响了元数据的其他处理流程,影响系统正常使用。
发明内容
有鉴于此,本发明提供了一种元数据服务器中日志段的处理方法,元数据服务器中的子树根单独落盘,不再跟随日志段落盘,减少了落盘数据和落盘频率,提升了落盘效率。
为了实现上述发明目的,本发明提供的具体技术方案如下:
一种元数据服务器中日志段的处理方法,包括:
当检测到元数据服务器中日志段的数量超过预设值时,判断序号最小的日志段中是否有子树根修改标记;
若是,将所述序号最小的日志段的子树根进行落盘,并对所述序号最小的日志段进行解析,将得到的事件数据保存到磁盘中,删除所述序号最小的日志段;
若否,对所述序号最小的日志段进行解析,将得到的事件数据保存到磁盘中,删除所述序号最小的日志段。
优选的,所述将所述序号最小的日志段的子树根进行落盘,包括:
从内存中读取所述序号最小的日志段的子树根;
将所述子树根保存到磁盘中;
删除所述内存中的所述子树根。
优选的,当所述元数据服务器重启或被接替后,所述方法还包括:
对所述元数据服务器中的多个日志段进行回放。
优选的,所述对所述元数据服务器中的多个日志段进行回放,包括:
将序号最大的日志段确定为当前日志段;
判断所述当前日志段中是否有子树根修改标记;
若是,从磁盘中读取与所述当前日志段序号相对应的子树根,并将所述子树根保存到内存;
若否,从磁盘中读取小于所述当前日志段序号的日志段中序号最大的日志段对应的子树根;
依次对所述当前日志段中的每个事件进行回放;
按日志段序号从大到小的顺序将所述当前日志段的下一个日志段确定为当前日志段,并返回执行所述判断所述当前日志段中是否有子树根修改标记这一步骤,直到所述元数据服务器中的所有日志段回放完成。
一种元数据服务器中日志段的处理装置,包括:
判断单元,用于当检测到元数据服务器中日志段的数量超过预设值时,判断序号最小的日志段中是否有子树根修改标记,若是,触发第一保存单元,若否,触发第二保存单元;
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于苏州浪潮智能科技有限公司,未经苏州浪潮智能科技有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201710638963.8/2.html,转载请声明来源钻瓜专利网。
- 上一篇:数据采集方法、装置和系统
- 下一篇:MMBF故障统计系统及方法
- 数据显示系统、数据中继设备、数据中继方法、数据系统、接收设备和数据读取方法
- 数据记录方法、数据记录装置、数据记录媒体、数据重播方法和数据重播装置
- 数据发送方法、数据发送系统、数据发送装置以及数据结构
- 数据显示系统、数据中继设备、数据中继方法及数据系统
- 数据嵌入装置、数据嵌入方法、数据提取装置及数据提取方法
- 数据管理装置、数据编辑装置、数据阅览装置、数据管理方法、数据编辑方法以及数据阅览方法
- 数据发送和数据接收设备、数据发送和数据接收方法
- 数据发送装置、数据接收装置、数据收发系统、数据发送方法、数据接收方法和数据收发方法
- 数据发送方法、数据再现方法、数据发送装置及数据再现装置
- 数据发送方法、数据再现方法、数据发送装置及数据再现装置