[发明专利]文件存储和索引方法、装置及读取文件的方法有效
申请号: | 201611221215.1 | 申请日: | 2016-12-26 |
公开(公告)号: | CN106874348B | 公开(公告)日: | 2020-06-16 |
发明(设计)人: | 陈闯;张炎泼 | 申请(专利权)人: | 贵州白山云科技股份有限公司 |
主分类号: | G06F16/13 | 分类号: | G06F16/13 |
代理公司: | 北京瑞思知识产权代理事务所(普通合伙) 11341 | 代理人: | 李涛 |
地址: | 100015 北京市朝阳区酒仙桥*** | 国省代码: | 北京;11 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 文件 存储 索引 方法 装置 读取 | ||
1.一种文件存储和索引方法,其特征在于包括:
按照文件的实际key值的字母顺序存储各文件,得到数据文件;
生成用于索引所述数据文件中各文件的索引文件,其中,所述索引文件中的索引使用各文件的实际key值的前N字节作为key值,每个索引指向所述数据文件中的一个或者多个文件,所述key值对应的offset值为所述key值指向的一个或者多个文件中首个文件的offset值,所述key值对应的size值为所述key值指向的一个或者多个文件中首个文件的size值,N为正整数;
按照key值前缀分层存储所述索引文件的索引,其中,所述key值前缀对应的分层中存储的索引的key值为截去所述key值前缀的简短key值,其中,所述key值前缀的字节长度小于N。
2.根据权利要求1所述的方法,其特征在于,所述索引文件中的offset字段和size字段是通过512字节对齐的。
3.根据权利要求1所述的方法,其特征在于,
所述索引文件的索引的offset值是以所述索引所在分层为偏移范围的层内offset值,所述层内offset值的字节数是根据分层的最大层地址空间确定的。
4.根据权利要求1至3中任一项所述的方法,其特征在于,所述方法还包括:
将所述数据文件中的所有文件映射到bloomfilter中,以使读取所述数据文件中的文件时通过快速搜索所述bloomfilter来判断将要读取的文件是否可能存在。
5.一种文件存储和索引装置,其特征在于包括:
数据文件存储模块,用于存储数据文件,其中,所述数据文件是按照文件的实际key值的字母顺序存储各文件所得到的;
索引文件生成模块,用于生成用于索引所述数据文件中各文件的索引文件,其中,所述索引文件中的索引使用各文件的实际key值的前N字节作为key值,每个索引指向所述数据文件中的一个或者多个文件,所述key值对应的offset值为所述key值指向的一个或者多个文件中首个文件的offset值,所述key值对应的size值为所述key值指向的一个或者多个文件中首个文件的size值,N为正整数;所述索引文件生成模块,还用于按照key值前缀分层存储所述索引文件的索引,其中,所述key值前缀对应的分层中存储的索引的key值为截去所述key值前缀的简短key值,其中,所述key值前缀的字节长度小于N。
6.根据权利要求5所述的装置,其特征在于,
所述索引文件的索引的offset值是以所述索引所在分层为偏移范围的层内offset值,所述层内offset值的字节数是根据分层的最大层地址空间确定的。
7.根据权利要求5或6中任一项所述的装置,其特征在于,所述装置还包括:
映射模块,用于将所述数据文件中的所有文件映射到bloomfilter中,以使读取所述数据文件中的文件时通过搜索所述bloomfilter来判断将要读取的文件是否可能存在。
8.一种在权利要求5至7中任一项所述的文件存储和索引装置中读取文件的方法,其特征在于包括:
根据将要读取的文件的实际key值的前N字节查询所述索引文件中所述实际key值的前N字节对应的索引;
根据所述实际key值,在所述实际key值的前N字节对应的索引指向的一个或者多个文件中匹配文件;
在匹配到key值与所述实际key值一致的文件时,读取该文件。
9.根据权利要求8所述的方法,其特征在于,根据将要读取的文件的实际key值的前N字节查询所述索引文件中所述实际key值的前N字节对应的索引包括:
根据所述bloom filter判断将要读取的文件是否可能存在;
在判断结果为可能存在的情况下,根据将要读取的文件的实际key值的前N字节查询所述索引文件中所述实际key值的前N字节对应的索引,否则终止读取文件。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于贵州白山云科技股份有限公司,未经贵州白山云科技股份有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201611221215.1/1.html,转载请声明来源钻瓜专利网。
- 上一篇:一种下水道油脂回收装置
- 下一篇:一种加快排速的排水阀底座