[发明专利]一种码流数据管理方法、装置及存储介质在审
申请号: | 202011619003.5 | 申请日: | 2020-12-31 |
公开(公告)号: | CN112632129A | 公开(公告)日: | 2021-04-09 |
发明(设计)人: | 何全安;方宗虎;郭志涛 | 申请(专利权)人: | 联想未来通信科技(重庆)有限公司 |
主分类号: | G06F16/2455 | 分类号: | G06F16/2455;G06F16/25;G06F16/22;G06F16/23 |
代理公司: | 北京乐知新创知识产权代理事务所(普通合伙) 11734 | 代理人: | 周伟 |
地址: | 401147 重庆*** | 国省代码: | 重庆;50 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 一种 数据管理 方法 装置 存储 介质 | ||
1.一种码流数据管理方法,所述方法包括:
解析待存储数据,得到所述待存储数据的数据标识和时间戳;
根据所述数据标识,生成所述待存储数据的数据文件名称和索引文件名称;
根据所述时间戳,生成所述待存储数据的分区存储路径;
根据数据文件名称、索引文件名称和所述分区存储路径,对所述待存储数据进行分区存储;
在接收到数据查询请求时,响应于所述数据查询请求,进行数据检索。
2.根据权利要求1所述的方法,所述解析待存储数据,得到所述待存储数据的数据标识和时间戳,包括:
将所述待存储数据转换为指定数据格式;
对所述指定格式的待存储数据进行解析,得到所述待存储数据的以下至少之一:
事务标识TID,包括所述待存储数据的事件的时间戳和递增序列;
用户标识UID,包括所述待存储数据的用户身份标识和时间戳。
3.根据权利要求1所述的方法,所述根据所述数据标识,生成所述待存储数据的数据文件名称和索引文件名称,包括:
根据所述数据标识和所述时间戳,进行哈希处理,得到相应的所述待存储数据的索引文件名和数据文件名。
4.根据权利要求1所述的方法,所述根据数据文件名称、索引文件名称和所述分区存储路径,对所述待存储数据进行分区存储,包括:
根据Cache数据所配置的块大小,为所述待存储数据分配内存资源;
根据所述分区存储路径,确定所述待存储数据的Cache索引文件和Cache数据文件;
对所述待存储数据进行压缩,并以所述数据文件名将压缩后的待存储数据按顺序存储至所述Cache数据文件中;
确定所述待存储数据在所述数据文件中的缓存位置;
在Cache数据的索引文件中构建所述索引文件名与所述数据文件名和缓存位置的映射。
5.根据权利要求4所述的方法,所述方法还包括:
每间隔设定周期,根据Cache数据中所存储的数据包的时间戳,确定所述时间戳对应的时间点与当前时间之间的时间间隔;
删除所述时间间隔大于设定时间间隔的时间戳对应的数据包。
6.根据权利要求1所述的方法,所述在接收到数据查询请求时,响应于所述数据查询请求,进行数据检索,包括:
接收数据查询请求;
解析所述数据查询请求,得到待查询数据的数据标识和时间戳;
根据所述数据标识和所述时间戳,确定所述待查询数据的数据索引文件名;
根据所述索引文件名,确定所述待查询数据的分区存储路径和所述数据文件名;
从所述分区存储路径中查找与所述数据文件名相对应的数据。
7.一种码流数据管理装置,所述装置包括:
解析模块,用于解析待存储数据,得到所述待存储数据的数据标识和时间戳;
名称生成模块,用于根据所述数据标识,生成所述待存储数据的数据文件名称和索引文件名称;
路径生成模块,用于根据所述时间戳,生成所述待存储数据的分区存储路径;
存储模块,用于根据数据文件名称、索引文件名称和所述分区存储路径,对所述待存储数据进行分区存储;
检索模块,用于在接收到数据查询请求时,响应于所述数据查询请求,进行数据检索。
8.根据权利要求7所述的装置,所述解析模块包括:
格式转换子模块,用于将所述待存储数据转换为指定数据格式;
解析子模块,用于对所述指定格式的待存储数据进行解析,得到所述待存储数据的以下至少之一:
事务标识TID,包括所述待存储数据的事件的时间戳和递增序列;
用户标识UID,包括所述待存储数据的用户身份标识和时间戳。
9.根据权利要求7所述的装置,所述名称生成模块包括:
哈希子模块,用于根据所述数据标识和所述时间戳,进行哈希处理,得到相应的所述待存储数据的索引文件名和数据文件名。
10.一种计算机可读存储介质,所述存储介质包括一组计算机可执行指令,当所述指令被执行时用于执行权利要求1-6中任一项所述的码流数据管理方法。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于联想未来通信科技(重庆)有限公司,未经联想未来通信科技(重庆)有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202011619003.5/1.html,转载请声明来源钻瓜专利网。