[发明专利]一种信息上报方法、装置及数据节点服务器有效
申请号: | 201410364737.1 | 申请日: | 2014-07-28 |
公开(公告)号: | CN104967639B | 公开(公告)日: | 2017-03-22 |
发明(设计)人: | 舒添翼;周明伟;翁健;王亮;陈伟;张兴明 | 申请(专利权)人: | 浙江大华技术股份有限公司 |
主分类号: | H04L29/08 | 分类号: | H04L29/08 |
代理公司: | 北京同达信恒知识产权代理有限公司11291 | 代理人: | 黄志华 |
地址: | 310053 浙江*** | 国省代码: | 浙江;33 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 一种 信息 上报 方法 装置 数据 节点 服务器 | ||
技术领域
本发明涉及通信技术领域,尤其涉及一种信息上报方法、装置及数据节点服务器。
背景技术
分布式对象文件系统用于管理海量存储资源,提供高速、稳定、线性扩展的服务。在分布式对象文件系统中,将每一个文件分为多个对象(Object),每个对象再划分为N个数据块(Block),这N个数据块分别存储于N个互不相同的数据节点服务器上。
分布式文件系统的结构如图1所示。其中,数据节点服务器(简称Data Node)用于存储数据块,以及这些数据块的元数据信息。元数据服务器(简称Metadata Server,MDS)用于存储数据库的元数据信息,所述元数据信息即用于描述数据块的信息,具体包括:数据块的大小、数据块的索引以及数据块的偏移量之类的信息。
现有的分布式文件系统中,当数据节点服务器向元数据服务器注册时,为保证数据节点服务器和元数据服务器之间的数据块的元数据信息一致,数据节点服务器需将位于该数据节点服务器的所有数据块的元数据信息完全同步至元数据服务器,即数据节点服务器向元数据服务器进行数据块的元数据信息的全量上报。
当数据节点服务器向元数据服务器注册时,需要向元数据服务器上报数据节点服务器上所有数据块对应的元数据信息,由于每个数据节点服务器上都存储着大量元数据信息,因此,当同时有较多的数据节点服务器向元数据服务器注册,或者数据节点服务器频繁的向元数据服务器注册,会进行大量的元数据信息的同步。
当元数据服务器启动或者主、备元数据服务器进行主备切换时,与元数据服务器关联的数据节点服务器会统一向元数据服务器发起注册,由于网络负载和元数据服务器处理的巨大压力,元数据信息同步将会耗费较长的时间,并且,在元数据信息同步完成之前,元数据服务器无法向外界提供基础的读写服务。
当数据节点服务器与元数据服务器上存储的数据块的元数据信息不一致时,元数据服务器需要对数据块的元数据信息进行大量的比对,以维护数据块的元数据信息的一致性,大量的元数据信息同步也会给元数据服务器的CPU、内存带来极大负担。其中,关于元数据服务器对数据块的元数据信息进行大量的比对,例如:数据节点服务器下线,然后拔掉数据节点服务器的磁盘,这样使得在数据节点服务器上,数据块的元数据信息有可能会丢失。但是,在元数据服务器上,数据块的元数据信息还是完整的。因此,需要进行数据块的元数据信息的比对,即比对所有数据节点服务器上的数据块的元数据信息和元数据服务器上存储的数据块的元数据信息是否一致。如果不一致,则会进行数据块的恢复操作或者删除操作。
另外,数据节点服务器向元数据服务器注册时,大量的元数据信息同步极大的增加了网络负担,且数据节点服务器可能因为网络负载过高,与元数据服务器短暂的失去网络连接。当数据节点服务器与元数据服务器网络重新连接时,将重新向元数据服务器注册,再次对该数据节点服务器上所有的数据块对应的元数据信息进行全量上报,将会进一步加大网络负载,引起数据节点服务器超时下线。这样,将会导致恶性循环。
综上所述,现有技术中数据节点服务器与元数据服务器之间同步元数据信息所需时间较长,并且大量元数据信息上报会给元数据服务器带来巨大负担,也会使得整个网络负载过大。
发明内容
本发明实施例提供了一种信息上报的方法、装置及数据节点服务器,用以降低数据节点服务器与元数据服务器之间同步元数据信息的延时,以及降低大量元数据信息上报给元数据服务器带来的负担。
本发明实施例提供的一种信息上报的方法,应用于分布式对象文件系统中,该系统包括数据节点服务器和元数据服务器,该方法包括:
数据节点服务器当需要向元数据服务器上报数据块的元数据信息时,确定需要向元数据服务器上报的数据块的元数据信息;其中,若所述数据节点服务器是首次需要向所述元数据服务器上报数据块的元数据信息,则所述需要上报的数据块的元数据信息包括该数据节点服务器中所有数据块的元数据信息,若所述数据节点服务器不是首次需要向所述元数据服务器上报数据块的元数据信息,则所述需要上报的数据块的元数据信息包括该数据节点服务器中未上报元数据服务器的数据块的元数据信息;
数据节点服务器将所述需要上报的数据块的元数据信息上报给元数据服务器。
通过该方法,数据节点服务器选择性的向元数据服务器上报元数据信息,从而降低大量元数据信息上报给元数据服务器带来的负担,以及降低数据节点服务器与元数据服务器之间同步元数据信息的延时。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于浙江大华技术股份有限公司,未经浙江大华技术股份有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201410364737.1/2.html,转载请声明来源钻瓜专利网。
- 上一篇:事件订阅方法、装置及系统
- 下一篇:实现社交网络应用的方法和装置
- 信息记录介质、信息记录方法、信息记录设备、信息再现方法和信息再现设备
- 信息记录装置、信息记录方法、信息记录介质、信息复制装置和信息复制方法
- 信息记录装置、信息再现装置、信息记录方法、信息再现方法、信息记录程序、信息再现程序、以及信息记录介质
- 信息记录装置、信息再现装置、信息记录方法、信息再现方法、信息记录程序、信息再现程序、以及信息记录介质
- 信息记录设备、信息重放设备、信息记录方法、信息重放方法、以及信息记录介质
- 信息存储介质、信息记录方法、信息重放方法、信息记录设备、以及信息重放设备
- 信息存储介质、信息记录方法、信息回放方法、信息记录设备和信息回放设备
- 信息记录介质、信息记录方法、信息记录装置、信息再现方法和信息再现装置
- 信息终端,信息终端的信息呈现方法和信息呈现程序
- 信息创建、信息发送方法及信息创建、信息发送装置