[发明专利]数据处理方法、装置、设备和存储介质在审
| 申请号: | 201911013786.X | 申请日: | 2019-10-23 | 
| 公开(公告)号: | CN112699140A | 公开(公告)日: | 2021-04-23 | 
| 发明(设计)人: | 吕政;金天波;沈国权;谢小龙 | 申请(专利权)人: | 阿里巴巴集团控股有限公司 | 
| 主分类号: | G06F16/242 | 分类号: | G06F16/242;G06F16/2453;G06F16/2458 | 
| 代理公司: | 北京润泽恒知识产权代理有限公司 11319 | 代理人: | 钱秀茹 | 
| 地址: | 英属开曼群岛大开*** | 国省代码: | 暂无信息 | 
| 权利要求书: | 查看更多 | 说明书: | 查看更多 | 
| 摘要: | |||
| 搜索关键词: | 数据处理 方法 装置 设备 存储 介质 | ||
本申请实施例提供了一种数据处理方法、装置、设备和存储介质,以选择执行查询语句的处理器。所述方法包括:对所述查询语句对应的算子进行估计,确定所述算子在不同处理器的执行成本;依据所述处理器的压力数据和所述算子在不同处理器的执行成本,确定执行所述查询语句的处理器。能够合理的选择查询语句的处理器,提高数据库的资源利用率。
技术领域
本申请涉及计算机技术领域,特别是涉及一种数据处理方法和装置、一种电子设备和一种存储介质。
背景技术
随着互联网业务的不断多元和用户量的增长,现代的数据库不仅需要存储更多的数据,在进行复杂数据查询时,也面临越来越大的性能压力。
传统的数据库使用CPU进行SQL(Structured Query Language,结构化查询语言)语句的查询,随着性能压力的增加,越来越多的数据库开始采用GPU(Graphics ProcessingUnit,图形处理器)来加速复杂的大数据量查询SQL。
但是,GPU和CPU的架构不同,擅长处理的领域也不同,相应不同SQL语句使用GPU、CPU时消耗的资源也不同,因此如何选择执行SQL语句的处理器,是本领域技术人员亟需解决的一个技术问题。
发明内容
本申请实施例提供了一种数据处理方法,以选择执行查询语句的处理器。
相应的,本申请实施例还提供了一种数据处理装置、一种电子设备以及一种存储介质,用以保证上述方法的实现及应用。
为了解决上述问题,本申请实施例公开了一种数据处理方法,所述方法包括:对所述查询语句对应的算子进行估计,确定所述算子在不同处理器的执行成本;依据所述处理器的压力数据和所述算子在不同处理器的执行成本,确定执行所述查询语句的处理器。
可选的,所述对所述查询语句对应的算子进行估计,确定所述算子对应的执行成本,包括:按照处理器,确定所述算子的计算代价和数据获取代价;依据所述计算代价和数据获取代价的和,确定所述算子对应所述处理器的执行成本。
可选的,确定所述算子的计算代价的步骤包括:确定所述算子对应数据量和选择的线性模型;将所述数据量输入所述线性模型,确定所述算子的计算代价。
可选的,确定所述算子的数据获取代价的步骤包括:将读取的数据量和系统磁盘的读取带宽之间的比值,作为所述算子的数据获取代价;和/或,将读取的数据量和总线的读取带宽之间的比值,与所述总线传输的固定成本的和值,作为所述算子的数据获取代价。
可选的,所述依据所述处理器的压力数据和所述算子在不同处理器的执行成本,确定执行所述查询语句的处理器,包括:若所述不同处理器的压力数据满足第一压力条件,则根据所述算子在不同处理器的执行成本确定执行路径,依据所述执行路径确定执行所述查询语句的处理器;若所述不同处理器的压力数据满足第二压力条件,则依据所述算子在不同处理器的执行成本,选择目标处理器执行所述查询语句。
可选的,所述方法还包括:确定查询语句对应的查询树。
可选的,还包括:依据所述算子在不同处理器的执行成本,确定所述查询树在不同处理器的执行性能信息。
可选的,依据所述算子在不同处理器的执行成本,确定所述查询树在不同处理器的执行性能信息,包括:按照处理器对所述算子的执行成本进行累加,得到所述查询树对应所述处理器的执行性能信息。
可选的,还包括:按照设定规则,对所述查询树中节点进行融合。
可选的,所述根据所述算子在不同处理器的执行成本确定执行路径,依据所述执行路径确定执行所述查询语句的处理器,包括:依据所述算子在所述查询树中对应的节点和所述算子在不同处理器的执行成本,确定对应的执行路径;按照所述执行路径,确定执行所述查询语句的处理器。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于阿里巴巴集团控股有限公司,未经阿里巴巴集团控股有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201911013786.X/2.html,转载请声明来源钻瓜专利网。





