[发明专利]一种实时变换数据存储方法、装置、电子设备及存储介质在审
申请号: | 202110377408.0 | 申请日: | 2021-04-08 |
公开(公告)号: | CN112860630A | 公开(公告)日: | 2021-05-28 |
发明(设计)人: | 许汝全;陈嘉豪;姚沣;徐志坚;陈光尧;谢睿 | 申请(专利权)人: | 广州趣丸网络科技有限公司 |
主分类号: | G06F16/11 | 分类号: | G06F16/11;G06F16/18;G06F16/25;G06F16/27 |
代理公司: | 北京集佳知识产权代理有限公司 11227 | 代理人: | 苏云辉 |
地址: | 510000 广东省广州市天河区黄埔大道西122号之二1*** | 国省代码: | 广东;44 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 一种 实时 变换 数据 存储 方法 装置 电子设备 介质 | ||
1.一种实时变换数据存储方法,其特征在于,包括:
获取实时变换数据;
将所述实时变换数据转换为预写式日志数据块;
获取所述预写式日志数据块的操作标识;
根据所述操作标识合并所述预写式日志数据块,得到合并数据块;
对所述合并数据块进行压缩,得到列式数据块;
存储所述列式数据块。
2.根据权利要求1所述的方法,其特征在于,所述将所述实时变换数据转换为预写式日志数据块的步骤,包括:
将所述实时变换数据转换为多个预写式日志;
按照时间顺序,将多个所述预写式日志进行排序;
按照预设分块时长对排序后的多个所述预写式日志进行分块,得到预写式日志数据块。
3.根据权利要求2所述的方法,其特征在于,所述对所述合并数据块进行压缩,得到列式数据块的步骤之后,还包括:
提取所述预写式日志的核心指标摘要;
基于所述核心指标摘要生成数据清单;
生成所述预写式日志的快照文件;
基于所述快照文件生成快照清单;
采用所述数据清单和所述快照清单生成数据清单列表,并保存所述数据清单列表。
4.根据权利要求3所述的方法,其特征在于,还包括:
当接收到数据查询请求时,从所述数据清单列表中,获取满足预设条件的目标数据清单和目标快照清单;
基于所述目标数据清单和所述目标快照清单,确定目标数据块;
获取所述目标数据块的文件路径;
基于所述文件路径加载所述目标数据块;
按照时间序列对所述目标数据块进行排序,得到查询数据。
5.根据权利要求4所述的方法,其特征在于,所述基于所述目标数据清单和所述目标快照清单,确定目标数据块的步骤,包括:
根据所述目标快照清单确定阻断时间点;
从所述数据查询请求中获取要求时间;
将处于所述阻断时间点和所述要求时间之间的列式数据块确定为目标数据块。
6.一种实时变换数据存储装置,其特征在于,包括:
实时变换数据获取模块,用于获取实时变换数据;
转换模块,用于将所述实时变换数据转换为预写式日志数据块;
操作标识获取模块,用于获取所述预写式日志数据块的操作标识;
合并模块,用于根据所述操作标识合并所述预写式日志数据块,得到合并数据块;
压缩模块,用于对所述合并数据块进行压缩,得到列式数据块;
存储模块,用于存储所述列式数据块。
7.根据权利要求6所述的装置,其特征在于,所述转换模块,包括:
预写式日志转换子模块,用于将所述实时变换数据转换为多个预写式日志;
排序子模块,用于按照时间顺序,将多个所述预写式日志进行排序;
分块子模块,用于按照预设分块时长对排序后的多个所述预写式日志进行分块,得到预写式日志数据块。
8.根据权利要求7所述的装置,其特征在于,所述装置还包括:
提取模块,用于提取所述预写式日志的核心指标摘要;
数据清单生成模块,用于基于所述核心指标摘要生成数据清单;
快照文件生成模块,用于生成所述预写式日志的快照文件;
快照清单生成模块,用于基于所述快照文件生成快照清单;
数据清单列表生成模块,用于采用所述数据清单和所述快照清单生成数据清单列表,并保存所述数据清单列表。
9.一种电子设备,其特征在于,所述设备包括处理器以及存储器:
所述存储器用于存储程序代码,并将所述程序代码传输给所述处理器;
所述处理器用于根据所述程序代码中的指令执行权利要求1-5任一项所述的实时变换数据存储方法。
10.一种计算机可读存储介质,其特征在于,所述计算机可读存储介质用于存储程序代码,所述程序代码用于执行权利要求1-5任一项所述的实时变换数据存储方法。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于广州趣丸网络科技有限公司,未经广州趣丸网络科技有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202110377408.0/1.html,转载请声明来源钻瓜专利网。
- 上一篇:一种刹车油门控制系统
- 下一篇:一种加巴喷丁胶囊制剂及其制备方法
- 数据显示系统、数据中继设备、数据中继方法、数据系统、接收设备和数据读取方法
- 数据记录方法、数据记录装置、数据记录媒体、数据重播方法和数据重播装置
- 数据发送方法、数据发送系统、数据发送装置以及数据结构
- 数据显示系统、数据中继设备、数据中继方法及数据系统
- 数据嵌入装置、数据嵌入方法、数据提取装置及数据提取方法
- 数据管理装置、数据编辑装置、数据阅览装置、数据管理方法、数据编辑方法以及数据阅览方法
- 数据发送和数据接收设备、数据发送和数据接收方法
- 数据发送装置、数据接收装置、数据收发系统、数据发送方法、数据接收方法和数据收发方法
- 数据发送方法、数据再现方法、数据发送装置及数据再现装置
- 数据发送方法、数据再现方法、数据发送装置及数据再现装置