[发明专利]一种用于确定大数据存储系统的运行状态的方法及系统在审
申请号: | 201811006478.X | 申请日: | 2018-08-30 |
公开(公告)号: | CN109271104A | 公开(公告)日: | 2019-01-25 |
发明(设计)人: | 不公告发明人 | 申请(专利权)人: | 杜广香 |
主分类号: | G06F3/06 | 分类号: | G06F3/06;G06F11/30;G06F11/34 |
代理公司: | 暂无信息 | 代理人: | 暂无信息 |
地址: | 252659 山东*** | 国省代码: | 山东;37 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 存储系统 大数据 存储设备 运行状态 访问频率 访问信息 低频运行状态 数据访问操作 统计文件 数据项 阈值时 存储 统计 | ||
1.一种用于确定大数据存储系统的运行状态的方法,所述方法包括:
响应于接收到用于确定大数据存储系统的运行状态的请求,将所述大数据存储系统从任意的数据请求方所接收的新的数据访问请求重定向到所述大数据存储系统的系统缓冲设备而不将所接收的新的数据访问请求发送给多个存储设备中的相应的存储设备,以由所述系统缓冲设备将新的数据访问请求所包含的查询条件的描述信息与所述系统缓冲设备的临时数据项集合中的每个临时数据项进行内容匹配以确定每个临时数据项的内容匹配度,从多个临时数据项中选择内容匹配度大于匹配阈值的至少一个选定的临时数据项,将所选择的至少一个选定的临时数据项发送给所述新的数据访问请求所指示的数据请求方,并且在所述系统缓冲设备的缓冲区内保存所述新的数据访问请求;
在确定所述大数据存储系统内的所有存储设备中均没有正在运行的数据访问操作时,获取所述大数据存储系统内多个存储设备中每个存储设备的运行日志文件,并且基于当前的统计时间区间和每个存储设备的运行日志文件确定每个存储设备中存储的多个数据项的经过统计的访问信息,根据每个存储设备中存储的多个数据项的经过统计的访问信息确定每个存储设备的访问信息统计文件;其中所述访问信息统计文件包括数据项统计表,所述数据项统计表包括多个数据项记录,其中每个数据项记录的内容为6元组<数据项的标识符、被访问次数、统计起始时间、统计结束时间、存储尺寸、存储起始时间>;
对每个存储设备的访问信息统计文件进行解析,将当前的统计时间区间内每个存储设备的所有数据项中被访问次数小于低频次数阈值的数据项确定为低频数据项,确定每个存储设备所包括的低频数据项的低频项数量,将多个存储设备中低频项数量大于低频设备阈值的存储设备确定为低频存储设备并确定所述大数据存储系统中低频存储设备的数量,基于每个存储设备的访问信息统计文件确定所述大数据存储系统中数据项的总数量和大数据存储系统中低频数据项的总数量;根据每个低频存储设备的访问信息统计文件确定每个低频存储设备在当前的统计时间区间内各自的被访问次数的总数量和根据每个非低频存储设备的访问信息统计文件确定每个非低频存储设备在当前的统计时间区间内各自的被访问次数的总数量;
根据大数据存储系统的系统记录设备中的设备描述信息确定大数据存储系统中所有存储设备的总数量;根据大数据存储系统的访问记录设备中的访问描述信息确定当前的统计时间区间内大数据存储系统的被访问次数的总数量和相邻的前一个统计时间区间内大数据存储系统的被访问次数的总数量;根据大数据存储系统中所有存储设备的总数量和大数据存储系统中低频存储设备的数量确定大数据存储系统中非低频存储设备的数量;
根据每个低频存储设备在当前的统计时间区间内各自的被访问次数的总数量和当前的统计时间区间的时间长度确定每个低频存储设备在当前的统计时间区间内的每小时平均被访问次数、根据每个非低频存储设备在当前的统计时间区间内各自的被访问次数的总数量和当前的统计时间区间的时间长度确定每个非低频存储设备在当前的统计时间区间内的每小时平均被访问次数,以及根据当前的统计时间区间内大数据存储系统的被访问次数的总数量和当前的统计时间区间的时间长度确定大数据存储系统在当前的统计时间区间内的每分钟平均被访问次数;
计算大数据存储系统的访问频率参数:
其中,BSF为大数据存储系统的访问频率参数、LDN为大数据存储系统中低频存储设备的数量、NLDN为大数据存储系统中非低频存储设备的数量、Dtotal为大数据存储系统中所有存储设备的总数量、LTNtotal为大数据存储系统中低频数据项的总数量、TNtotal为大数据存储系统中所有数据项的总数量、Acurrent为当前的统计时间区间内大数据存储系统的被访问次数的总数量、Apre为相邻的前一个统计时间区间内大数据存储系统的被访问次数的总数量、LDHi为第i个低频存储设备在当前的统计时间区间内的每小时平均被访问次数、NLDHj为第j个非低频存储设备在当前的统计时间区间内的每小时平均被访问次数、BAM为大数据存储系统在当前的统计时间区间内的每分钟平均被访问次数;其中i为自然数,LDN≥i≥1并且LDN≥100,j为自然数NLDN≥j≥1并且NLDN≥100;
当大数据存储系统的访问频率参数BSF大于系统低频阈值时,确定所述大数据存储系统的运行状态为低频运行状态。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于杜广香,未经杜广香许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201811006478.X/1.html,转载请声明来源钻瓜专利网。