[发明专利]数据存储方法、装置、电子装置在审
| 申请号: | 202010136861.8 | 申请日: | 2020-03-02 | 
| 公开(公告)号: | CN111506569A | 公开(公告)日: | 2020-08-07 | 
| 发明(设计)人: | 叶腾飞 | 申请(专利权)人: | 平安科技(深圳)有限公司 | 
| 主分类号: | G06F16/22 | 分类号: | G06F16/22;G06F16/23;G06F16/2455;G06F16/248 | 
| 代理公司: | 北京中强智尚知识产权代理有限公司 11448 | 代理人: | 黄耀威 | 
| 地址: | 518000 广东省深圳市福田街*** | 国省代码: | 广东;44 | 
| 权利要求书: | 查看更多 | 说明书: | 查看更多 | 
| 摘要: | |||
| 搜索关键词: | 数据 存储 方法 装置 电子 | ||
1.一种数据存储方法,其特征在于,包括:
获取用户基于指定业务导出的原始数据文件;
将所述原始数据文件上传至针对所述用户和所述指定业务的第一存储容器中;
解析所述原始数据文件,确定所述原始数据文件的数据表;
确定所述数据表的分区字段;
根据所述数据表中每条记录的分区字段值,分别将每条记录以列式存储文件的格式存储至第二存储容器中对应的分区目录,并建立每条记录与所述原始数据文件的映射。
2.根据权利要求1所述的方法,其特征在于,所述确定所述原始数据文件的数据表包括:
解析所述原始数据文件,建立所述原始数据文件的初始数据表;
显示所述初始数据表的字段名以及预设行数的记录;
接收用户对所述初始数据表的字段名的编辑操作;
根据所述编辑操作确定所述数据表的字段名。
3.根据权利要求2所述的方法,其特征在于,所述解析所述原始数据文件,建立所述原始数据文件的初始数据表,包括:
根据所述原始数据文件中的标头,以所述预设格式生成所述初始数据表中的字段名。
4.根据权利要求3所述的方法,其特征在于,在接收用户对所述初始数据表的字段名的编辑操作之后,所述方法还包括:
记录所述用户针对所述初始数据表中的字段名的编辑操作,
其中,所述预设格式包括基于所述用户的历史编辑操作生成所述初始数据表中的字段名。
5.根据权利要求3所述的方法,其特征在于,在根据所述原始数据文件中的标头,以所述预设格式生成所述初始数据表中的字段名之后,所述方法还包括:
针对所述原始数据文件中不存在标头的第一字段,与多个正则表达式分别进行匹配,其中,每个所述正则表达式预先配置有对应的字段名;
如果在所述多个正则表达式中匹配到对应的正则表达式,将匹配到的正则表达式对应的字段名赋给所述第一字段。
6.根据权利要求3所述的方法,其特征在于,在根据所述原始数据文件中的标头,以所述预设格式生成所述初始数据表中的字段名之后,所述方法还包括:
针对所述原始数据文件中不存在标头的第二字段,在所述第一存储容器中搜索所述第二字段的内容;
将搜索排名最高的字段所对应的字段名赋给所述第二字段。
7.根据权利要求1所述的方法,其特征在于,针对所述第二存储容器,以预设间隔时间为周期,统计用户在所述预设间隔时间内查询字段名的频次,在用户查询频次超过预设阈值的字段名时更新对所述第二存储容器内的分区字段。
8.一种数据存储装置,其特征在于,包括:
获取模块,用于获取用户基于指定业务导出的原始数据文件;
上传模块,用于将所述原始数据文件上传至针对所述用户和所述指定业务的第一存储容器中;
解析模块,用于解析所述原始数据文件,确定所述原始数据文件的数据表;
确定模块,用于确定所述数据表的分区字段;
执行模块,用于根据所述数据表中每条记录的分区字段值,分别将每条记录以列式存储文件的格式存储至第二存储容器中对应的分区目录,并建立每条记录与所述原始数据文件的映射。
9.一种计算机存储介质,其特征在于,所述计算机存储介质中存储有计算机程序,其中,所述计算机程序被设置为运行时执行权利要求1至7任一项中所述的方法。
10.一种电子装置,包括存储器和处理器,其特征在于,所述存储器中存储有计算机程序,所述处理器被设置为运行所述计算机程序以执行权利要求1至7任一项中所述的方法。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于平安科技(深圳)有限公司,未经平安科技(深圳)有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202010136861.8/1.html,转载请声明来源钻瓜专利网。
- 数据显示系统、数据中继设备、数据中继方法、数据系统、接收设备和数据读取方法
 - 数据记录方法、数据记录装置、数据记录媒体、数据重播方法和数据重播装置
 - 数据发送方法、数据发送系统、数据发送装置以及数据结构
 - 数据显示系统、数据中继设备、数据中继方法及数据系统
 - 数据嵌入装置、数据嵌入方法、数据提取装置及数据提取方法
 - 数据管理装置、数据编辑装置、数据阅览装置、数据管理方法、数据编辑方法以及数据阅览方法
 - 数据发送和数据接收设备、数据发送和数据接收方法
 - 数据发送装置、数据接收装置、数据收发系统、数据发送方法、数据接收方法和数据收发方法
 - 数据发送方法、数据再现方法、数据发送装置及数据再现装置
 - 数据发送方法、数据再现方法、数据发送装置及数据再现装置
 





