[发明专利]电网调度控制系统中分布式文件系统的元数据管理方法有效
| 申请号: | 202010196756.3 | 申请日: | 2020-03-19 |
| 公开(公告)号: | CN111427862B | 公开(公告)日: | 2022-11-04 |
| 发明(设计)人: | 雷宝龙;张凯;郭海龙;葛以踊;陈鹏;万书鹏;管荑;彭晖;翟明玉;陆居福;孙卫芳;李慧聪;张强;耿玉杰;马强;刘彤;易强 | 申请(专利权)人: | 国电南瑞科技股份有限公司;国家电网有限公司;国网山东省电力公司;国网电力科学研究院有限公司;南瑞集团有限公司;国电南瑞南京控制系统有限公司 |
| 主分类号: | G06F16/182 | 分类号: | G06F16/182;G06F16/14 |
| 代理公司: | 南京纵横知识产权代理有限公司 32224 | 代理人: | 张倩倩 |
| 地址: | 211106 江*** | 国省代码: | 江苏;32 |
| 权利要求书: | 查看更多 | 说明书: | 查看更多 |
| 摘要: | |||
| 搜索关键词: | 电网 调度 控制系统 分布式 文件系统 数据管理 方法 | ||
1.一种电网调度控制系统中分布式文件系统的元数据管理方法,其特征是:
将元数据分为至少包括文件名称类和基本属性类的多类数据,各类数据分别存储于多个数据块中,并在内存中建立文件映射;文件名称类数据包括每个文件或目录的完整路径信息,基本属性类数据包括每个文件或目录的基本属性信息;
对于各类数据,分别采用链表池方式进行数据块的管理;单个文件或目录的文件名称类数据信息与基本属性类数据信息在一映射关系链表中相互对应;
响应于接收到外部创建元数据文件请求,获取其中的文件路径信息,根据所获取的文件路径信息查找文件的父目录在基本属性类数据中的链表序号,在相应链表序号下的基本属性类数据中存储待创建元数据文件的基本属性类数据,在文件名称类数据中创建元数据文件的完整路径数据,并将元数据文件在文件名称类数据中的存储位置与在基本属性类数据中的存储位置映射存储至映射关系链表;
响应于接收到外部元数据文件访问请求,获取其中的文件名;根据映射关系链表中文件名对应的文件名称类数据与基本属性类数据之间的映射关系,确定相应的基本属性信息,进而获取相应的基本属性类数据;
创建元数据文件包括:
获取请求数据中的文件路径信息,确定待创建元数据文件的父目录;
根据父目录的文件名长度和内容,按照预设的文件名称ID算法,计算父目录的文件名称ID1;
对父目录文件名称ID1进行散列,得到文件名称ID1在文件名称类数据中的散列位置POS1;
从映射关系链表中查找POS1对应的基本属性类数据中的散列位置POS2;
通过POS2获取父目录的基本属性信息及相应的链表序号H1;
在文件名称类数据中创建位置为POS3链表序号为H2的文件完整路径字符串;
在基本属性类数据中链表序号H1下创建位置为POS4的文件基本属性类数据;
计算创建完成的文件对应的文件名称ID2,并进行散列,得到散列位置POS5;
将ID2,POS5作为文件在文件名称类数据与基本属性类数据中的映射关系,存储至映射关系链表中。
2.根据权利要求1所述的方法,其特征是,所述预设的文件名称ID算法为循环冗余校验算法或者MD5算法。
3.根据权利要求1所述的方法,其特征是,元数据分为基本属性、文件名称、数据块和存储节点四类数据,每类数据按照固定大小划分为多个数据块,采用文件映射方式将数据块从磁盘文件映射到内存中,形成存储空间;
基本属性类数据包括文件长度、创建时间、修改时间、类型、数据块ID、文件名称长度、文件名称存储位置信息;
数据块类数据包括数据块ID、长度、校验码、存储位置信息;
存储节点类数据包括存储节点名称、IP地址、机架信息、资源硬件配置信息以及资源利用信息。
4.根据权利要求3所述的方法,其特征是,各类数据分别由资源管理器采用链表池方式进行资源分配和回收。
5.根据权利要求4所述的方法,其特征是,创建元数据文件还包括:
在数据块类数据资源管理中,根据文件长度和数据块长度计算需要分配的数据块IDn—IDm;
在存储节点类数据资源管理器中,根据数据块副本数量,为每个数据块分配存储节点。
6.根据权利要求1或3所述的方法,其特征是,基本属性类数据中,对于单个目录,其下所有文件的基本属性信息及子目录的基本属性信息采用链表统一管理,链表头信息存储于该目录基本属性中的文件长度信息中。
7.根据权利要求1或3所述的方法,其特征是,对于存储为N个数据块的基本属性类数据,通过链表链接基本属性类数据的所有数据块ID,链表头信息存储于第N-1个数据块ID信息中。
8.根据权利要求1或3所述的方法,其特征是,文件名称类数据中,各文件或目录的完整路径信息按照名称长短,存储于至少两种大小不同的存储切片中。
9.一种电网调度控制系统中分布式文件系统的元数据管理装置,其特征是:
元数据分为至少包括文件名称类和基本属性类的多类数据,各类数据分别存储于多个数据块中,并在内存中建立文件映射;文件名称类数据包括每个文件或目录的完整路径信息,基本属性类数据包括每个文件或目录的基本属性信息;
对于各类数据,分别采用链表池方式进行数据块的管理;单个文件或目录的文件名称类数据信息与基本属性类数据信息在一映射关系链表中相互对应;
元数据管理装置包括:
元数据文件创建模块,被配置用于响应于接收到外部创建元数据文件请求,获取其中的文件路径信息,根据所获取的文件路径信息查找文件的父目录在基本属性类数据中的链表序号,在相应链表序号下的基本属性类数据中存储待创建元数据文件的基本属性类数据,在文件名称类数据中创建元数据文件的完整路径数据,并将元数据文件在文件名称类数据中的存储位置与在基本属性类数据中的存储位置映射存储至映射关系链表;
以及元数据文件访问模块,被配置用于响应于接收到外部元数据文件访问请求,获取其中的文件名;根据映射关系链表中文件名对应的文件名称类数据与基本属性类数据之间的映射关系,确定相应的基本属性信息,进而获取相应的基本属性类数据;
创建元数据文件包括:
获取请求数据中的文件路径信息,确定待创建元数据文件的父目录;
根据父目录的文件名长度和内容,按照预设的文件名称ID算法,计算父目录的文件名称ID1;
对父目录文件名称ID1进行散列,得到文件名称ID1在文件名称类数据中的散列位置POS1;
从映射关系链表中查找POS1对应的基本属性类数据中的散列位置POS2;
通过POS2获取父目录的基本属性信息及相应的链表序号H1;
在文件名称类数据中创建位置为POS3链表序号为H2的文件完整路径字符串;
在基本属性类数据中链表序号H1下创建位置为POS4的文件基本属性类数据;
计算创建完成的文件对应的文件名称ID2,并进行散列,得到散列位置POS5;
将ID2,POS5作为文件在文件名称类数据与基本属性类数据中的映射关系,存储至映射关系链表中。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于国电南瑞科技股份有限公司;国家电网有限公司;国网山东省电力公司;国网电力科学研究院有限公司;南瑞集团有限公司;国电南瑞南京控制系统有限公司,未经国电南瑞科技股份有限公司;国家电网有限公司;国网山东省电力公司;国网电力科学研究院有限公司;南瑞集团有限公司;国电南瑞南京控制系统有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202010196756.3/1.html,转载请声明来源钻瓜专利网。





