[发明专利]数据处理方法、装置、设备及存储介质有效
申请号: | 202110496553.0 | 申请日: | 2021-05-07 |
公开(公告)号: | CN113204602B | 公开(公告)日: | 2023-08-01 |
发明(设计)人: | 陈振强;靳峥;赵鑫 | 申请(专利权)人: | 星环信息科技(上海)股份有限公司 |
主分类号: | G06F16/28 | 分类号: | G06F16/28;G06F16/22;G06F16/242 |
代理公司: | 北京品源专利代理有限公司 11332 | 代理人: | 孟金喆 |
地址: | 200233 上海市*** | 国省代码: | 上海;31 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 数据处理 方法 装置 设备 存储 介质 | ||
本发明公开了一种数据处理方法、装置、设备及存储介质,该方法包括:响应于窗口函数调用指令,获取窗口函数调用指令包含的目标字段;根据目标字段的哈希值确定逻辑表单;对逻辑表单进行窗口函数处理。本发明根据窗口函数调用指令携带的分组字段,计算分组字段的内容的哈希值,进而将不同内容的分组字段分配到不同的逻辑表单中,使得逻辑表单保存有具有相同哈希值的分组字段的内容。一个逻辑表单能够包含多个具有相同哈希值的分组字段的内容,因此无需为每个分组字段的内容分别建立物理窗口,进而更加合理的划分窗口,提高窗口函数处理效率。
技术领域
本发明实施例涉及大数据的数据库数据处理技术,尤其涉及一种数据处理方法、装置、设备及存储介质。
背景技术
窗口函数也称为OLAP(online analytical processing)函数,用于对数据库数据进行实时分析处理。窗口函数是分析型业务中经常使用的数据库功能。窗口函数在保留原表格数据的基础上,将原表格数据的属性,如某个字段的排序等数据处理结果在窗口中展示。
目前,在对窗口函数进行响应时,根据窗口函数针对的分组字段中每一个种字段内容建立一个物理窗口。例如,分组字段中包含N种内容,则建立N个物理窗口,并为每个物理窗口配置计算资源。
然而,在大数据环境下,若单个窗口内部数据少,但窗口数量多,则会导致系统内存资源占用量大。若单个窗口数据量大,会导致窗口处理过程较慢。可见,如何合理划分窗口,提高窗口函数处理效率,称为亟待解决的问题。
发明内容
本发明提供一种数据处理方法、装置、设备及存储介质,以实现合理划分逻辑窗口,提高窗口函数处理效率。
第一方面,本发明实施例提供了一种数据处理方法,包括:
响应于窗口函数调用指令,获取窗口函数调用指令包含的目标字段;
根据目标字段的哈希值确定逻辑表单;
对逻辑表单进行窗口函数处理。
第二方面,本发明实施例还提供了一种服务器,包括处理器和存储器,存储器用于存储指令,当指令执行时使得处理器执行以下操作:
响应于窗口函数调用指令,获取窗口函数调用指令包含的目标字段;
根据目标字段的哈希值确定逻辑表单;
对逻辑表单进行窗口函数处理。
第三方面,本发明实施例还提供了一种包含计算机可执行指令的存储介质,计算机可执行指令在由计算机处理器执行时用于执行如本申请实施例所示的数据处理方法。
本发明提供的数据处理方法,响应于窗口函数调用指令,获取窗口函数调用指令包含的目标字段;根据目标字段的哈希值确定逻辑表单;对逻辑表单进行窗口函数处理。相对于目前为每个字段内容配置一个物理窗口,窗口分配不合理,窗口函数处理效率差,本发明根据窗口函数调用指令携带的目标字段,计算目标字段的内容的哈希值,进而将不同内容的目标字段分配到不同的逻辑表单中,使得逻辑表单保存有具有相同哈希值的目标字段的内容。一个逻辑表单能够包含多个具有相同哈希值的目标字段的内容,因此无需为每个目标字段的内容分别建立物理窗口,进而更加合理的划分窗口,提高窗口函数处理效率。
附图说明
图1是本发明实施例一中的数据处理方法的流程图;
图2是本发明实施例二中的数据处理方法的流程图;
图3是本发明实施例三中的数据处理装置的结构示意图;
图4是本发明实施例四中的服务器的结构示意图。
具体实施方式
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于星环信息科技(上海)股份有限公司,未经星环信息科技(上海)股份有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202110496553.0/2.html,转载请声明来源钻瓜专利网。
- 上一篇:强化亚硫酸铵氧化的方法
- 下一篇:卡片个人化卡基存取系统及其控制方法