[发明专利]数据存储方法、装置、计算机设备及存储介质在审
| 申请号: | 202010923236.8 | 申请日: | 2020-09-04 |
| 公开(公告)号: | CN112100177A | 公开(公告)日: | 2020-12-18 |
| 发明(设计)人: | 黄柯 | 申请(专利权)人: | 北京三快在线科技有限公司 |
| 主分类号: | G06F16/22 | 分类号: | G06F16/22 |
| 代理公司: | 北京三高永信知识产权代理有限责任公司 11138 | 代理人: | 唐述灿 |
| 地址: | 100080 北京市海*** | 国省代码: | 北京;11 |
| 权利要求书: | 查看更多 | 说明书: | 查看更多 |
| 摘要: | |||
| 搜索关键词: | 数据 存储 方法 装置 计算机 设备 介质 | ||
本申请公开了一种数据存储方法、装置、计算机设备及存储介质,属于数据处理技术领域。方法包括:获取待处理的数据表格,数据表格包括至少一个维度,各个维度包括至少一个维值,各个维值包括多条数据;基于各个维度中包括的至少一个维值,确定多个维值组合,多个维值组合为查询率高于目标阈值的维值组合;对各个维值组合中包括的数据进行聚合计算,得到各个维值组合的聚合计算结果;将各个维值组合以及各个维值组合的聚合计算结果对应存储。上述方法以维值组合的角度进行数据存储,使得数据存储较为细腻,而且该方法中存储的维值组合是查询率较高的维值组合,不需要将数据表格的所有维值组合都进行存储,一定程度上节省存储空间,提高查询效率。
技术领域
本申请实施例涉及数据处理技术领域,特别涉及一种数据存储方法、装置、计算机设备及存储介质。
背景技术
随着数据处理技术的不断发展,越来越多的行业开始使用数据表格的形式进行数据存储。
相关技术中,以数据为产品宣传的数据,数据表格为日志报表为例,该日志报表中包括多个维度,基于该多个维度,可以得到多个维度组合。例如,日志报表包括3个维度,分别是A、B和C,则可以得到维度组合A、B、C、AB、AC、BC、ABC,也即是得到7个维度组合。基于每个维度组合中包括的数据,可以为每个维度组合创建对应的表格,这个表格称为立方体CUBE表格,也即是将各个维度组合中的数据存储在CUBE表格中。
上述数据存储方法,是以维度组合的角度对数据表格中的数据进行存储,导致数据存储过于粗糙;而且,该方法将所有数据都进行存储,导致过多的占用存储空间,查询效率较低。
发明内容
本申请实施例提供了一种数据存储方法、装置、计算机设备和存储介质,可用于解决相关技术中的问题。所述技术方案如下:
第一方面,本申请实施例提供了一种数据存储方法,所述方法包括:
获取待处理的数据表格,所述数据表格包括至少一个维度,各个维度包括至少一个维值,各个维值包括多条数据;
基于所述各个维度中包括的至少一个维值,确定多个维值组合,所述多个维值组合为查询率高于目标阈值的维值组合;
对各个维值组合中包括的数据进行聚合计算,得到所述各个维值组合的聚合计算结果;
将所述各个维值组合以及所述各个维值组合的聚合计算结果对应存储。
在一种可能的实现方式中,所述基于所述各个维度中包括的至少一个维值,确定多个维值组合,包括:
基于所述各个维度中包括的维值个数,确定第一个数个维度;
按照所述第一个数个维度中包括的维值中包括的数据条数,分别在所述第一个数个维度中确定第二个数个维值;
根据所述第一个数个维度中确定的第二个数个维值,确定多个维值组合。
在一种可能的实现方式中,所述基于所述各个维度中包括的维值个数,确定第一个数个维度,包括:
基于所述各个维度中包括的维值个数,按照下述公式确定所述第一个数K:
K={roundup[(A+1+B+1+…+P+1)*0.2]}!
其中,所述roundup为向上取整,所述A为维度a中包括的维值个数,所述B为维度b中包括的维值个数,所述P为维度p中包括的维值个数,所述!为阶乘符号;
基于所述各个维度的相关信息和所述相关信息的权重参数,计算所述各个维度的查询系数,所述相关信息包括维度之间的相关度、数值倾斜度、历史查询频率中的至少一个;
根据所述各个维度的查询系数,在所述各个维度中确定K个维度。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于北京三快在线科技有限公司,未经北京三快在线科技有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202010923236.8/2.html,转载请声明来源钻瓜专利网。
- 数据显示系统、数据中继设备、数据中继方法、数据系统、接收设备和数据读取方法
- 数据记录方法、数据记录装置、数据记录媒体、数据重播方法和数据重播装置
- 数据发送方法、数据发送系统、数据发送装置以及数据结构
- 数据显示系统、数据中继设备、数据中继方法及数据系统
- 数据嵌入装置、数据嵌入方法、数据提取装置及数据提取方法
- 数据管理装置、数据编辑装置、数据阅览装置、数据管理方法、数据编辑方法以及数据阅览方法
- 数据发送和数据接收设备、数据发送和数据接收方法
- 数据发送装置、数据接收装置、数据收发系统、数据发送方法、数据接收方法和数据收发方法
- 数据发送方法、数据再现方法、数据发送装置及数据再现装置
- 数据发送方法、数据再现方法、数据发送装置及数据再现装置





