[发明专利]冗余数据的处理方法、装置、服务器及存储介质在审
| 申请号: | 202010554791.8 | 申请日: | 2020-06-17 |
| 公开(公告)号: | CN111736774A | 公开(公告)日: | 2020-10-02 |
| 发明(设计)人: | 陈焜;黄剑飞;曲畅;李东阳 | 申请(专利权)人: | 北京三快在线科技有限公司 |
| 主分类号: | G06F3/06 | 分类号: | G06F3/06 |
| 代理公司: | 北京三高永信知识产权代理有限责任公司 11138 | 代理人: | 唐述灿 |
| 地址: | 100080 北京市海*** | 国省代码: | 北京;11 |
| 权利要求书: | 查看更多 | 说明书: | 查看更多 |
| 摘要: | |||
| 搜索关键词: | 冗余 数据 处理 方法 装置 服务器 存储 介质 | ||
本公开提供了一种冗余数据的处理方法、装置、服务器及存储介质,属于互联网技术领域。所述方法包括:对多条待处理数据进行解析,得到多个字段名称,每个字段名称对应一个字段值和至少一个索引值;根据多个字段名称对应的字段值和索引值,删除多条待处理数据中的冗余字段,得到多条第一数据。本公开无需技术人员编写大量代码,根据对多条待处理数据解析得到的字段名称对应的索引值和字段值,即可删除多条待处理数据中的冗余字段,不仅节约了人力成本,而且无需针对不同的业务修改所编写的代码,因而冗余数据的处理方式更灵活。
技术领域
本公开涉及计算机技术领域,特别涉及一种冗余数据的处理方法、装置、服务器及存储介质。
背景技术
随着互联网领域对数据的日趋重视,各个企业都在积累数据,并通过对数据进行加工,衍生出大量新数据。由于沟通不畅、标准不同等原因,在对数据加工过程中,常常会产生冗余数据。由于冗余数据不仅会占用大量的存储空间,而且会影响业务的实现,甚至会降低系统性能,造成系统雪崩,因此,需要对冗余数据进行处理。
目前,在对冗余数据进行处理时,主要采用如下两种方式:
第一种方式、技术人员预先编写冗余数据筛选代码,基于所编写的冗余数据筛选代码,从待处理数据中筛选出冗余数据,进而对筛选出来的冗余数据进行存储。
第二种方式、技术人员预先编写冗余数据筛选代码和冗余数据清洗代码,基于所编写的冗余数据筛选代码,从待处理数据中筛选出冗余数据,进而基于所编写的冗余数据清洗代码,对筛选出的冗余数据进行删除。
然而,上述两种方式依赖于技术人员编写的代码,消耗的人力成本较高,且随着业务变化,需要技术人员不断修改所编写的代码,导致数据处理方式不够灵活。
发明内容
本公开实施例提供了一种冗余字段的处理方法、装置、服务器及存储介质,能够降低冗余数据处理过程中消耗的人力成本,提高冗余数据处理的灵活度。
所述技术方案如下:
一方面,提供了一种冗余字段的处理方法,所述方法包括:
获取多条待处理数据,每条待处理数据的数据量大于预设阈值;
对所述多条待处理数据进行解析,得到多个字段名称,每个字段名称对应一个字段值和至少一个索引值,所述索引值用于指示字段名称对应的字段在待处理数据中的位置;
根据多个字段名称对应的字段值和索引值,删除所述多条待处理数据中的冗余字段,得到多条处理后的数据。
另一方面,提供了一种冗余数据的处理装置,所述装置包括:
获取模块,用于获取多条待处理数据,每条待处理数据的数据量大于预设阈值;
解析模块,用于对所述多条待处理数据进行解析,得到多个字段名称,每个字段名称对应一个字段值和至少一个索引值,所述索引值用于指示字段名称对应的字段在待处理数据中的位置;
删除模块,用于根据多个字段名称对应的字段值和索引值,删除所述多条待处理数据中的冗余字段,得到多条处理后的数据。
另一方面,提供了一种服务器,所述服务器包括处理器和存储器,所述存储器中存储有至少一条程序代码,所述至少一条程序代码由所述处理器加载并执行,以实现一方面所述的冗余数据的处理方法。
另一方面,提供了一种计算机可读存储介质,所述存储介质中存储有至少一条程序代码,所述至少一条程序代码由处理器加载并执行,以实现一方面所述的冗余数据的处理方法。
本公开实施例提供的技术方案带来的有益效果是:
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于北京三快在线科技有限公司,未经北京三快在线科技有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202010554791.8/2.html,转载请声明来源钻瓜专利网。
- 数据显示系统、数据中继设备、数据中继方法、数据系统、接收设备和数据读取方法
- 数据记录方法、数据记录装置、数据记录媒体、数据重播方法和数据重播装置
- 数据发送方法、数据发送系统、数据发送装置以及数据结构
- 数据显示系统、数据中继设备、数据中继方法及数据系统
- 数据嵌入装置、数据嵌入方法、数据提取装置及数据提取方法
- 数据管理装置、数据编辑装置、数据阅览装置、数据管理方法、数据编辑方法以及数据阅览方法
- 数据发送和数据接收设备、数据发送和数据接收方法
- 数据发送装置、数据接收装置、数据收发系统、数据发送方法、数据接收方法和数据收发方法
- 数据发送方法、数据再现方法、数据发送装置及数据再现装置
- 数据发送方法、数据再现方法、数据发送装置及数据再现装置





