[发明专利]基于众核处理器的数据并行处理方法及装置有效
申请号: | 202011229048.1 | 申请日: | 2020-11-06 |
公开(公告)号: | CN112035578B | 公开(公告)日: | 2021-03-30 |
发明(设计)人: | 杨刚;郑磊;李鸿伟 | 申请(专利权)人: | 北京谷数科技股份有限公司 |
主分类号: | G06F16/27 | 分类号: | G06F16/27;G06F16/25;G06F16/22;G06F9/50;G06F9/48;G06F9/38 |
代理公司: | 北京路浩知识产权代理有限公司 11002 | 代理人: | 马瑞 |
地址: | 100094 北京市海淀区西*** | 国省代码: | 北京;11 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 基于 处理器 数据 并行 处理 方法 装置 | ||
1.一种基于众核处理器的数据并行处理方法,其特征在于,应用于单机数据库,包括:
每次确定待运算数据表后,对所述待运算数据表进行划分得到多个运算任务;其中,所述待运算数据表包括:数据库中的原始数据表、根据数据库中的原始数据表运算生成的键值对表;
所述每次确定待运算数据表后,对所述待运算数据表进行划分得到多个运算任务,包括:通过遍历用户指令查询树的节点,获取数据库中所述查询树的节点指定的原始数据表,作为第一待运算数据表;根据所述原始数据表的索引和过滤条件,划分所述第一待运算数据表,并将划分出的每一第一数据表单元作为一个第一运算任务;其中,所述过滤条件至少包括如下一种:空闲状态的从核数量、所述原始数据表的统计信息;
将划分的运算任务分发至众核处理器的从核中,以通过不同从核并行处理运算任务;
所述将划分的运算任务分发至众核处理器的从核中,以通过不同从核并行处理运算任务,包括:
将所述第一运算任务分发到不同的空闲状态的从核上,以通过不同的所述空闲状态的从核并行处理所述第一运算任务,得到与所述原始数据表的每行内容对应的键值对;其中,与所述原始数据表的任一行内容对应的键值对包括根据所述任一行内容的运算结果确定的键值,以及所述任一行内容;
所述每次确定待运算数据表后,对所述待运算数据表进行划分得到多个运算任务,还包括:
获取由与所述原始数据表的每行内容对应的键值对组成的键值对表,根据所述键值对表的索引,对键值对表中的键值进行排序,得到第二待运算数据表;
划分所述第二待运算数据表,将划分出的每一第二数据表单元作为一个第二运算任务;其中,任一第二数据表单元中的每行内容具有相同的键值;
所述将划分的运算任务分发至众核处理器的从核中,以通过不同从核并行处理运算任务,还包括:
通过任务分发线程,将划分出的第二运算任务分发至空闲状态的从核进行处理;
其中,所述任务分发线程监控从核对任务的处理进度;若从核完成第二运算任务,将所述从核标记为空闲状态,并向空闲状态的从核分发新的第二运算任务;若从核完成第二运算任务且无新的待处理的第二运算任务,向完成第二运算任务的空闲从核发送退出指令;
通过任务监控线程,循环监控从核是否接收到所述退出指令;若所有从核都接到退出指令,所述任务监控线程退出执行,以确保所有从核同步退出对运算任务的并行处理流程。
2.根据权利要求1所述的基于众核处理器的数据并行处理方法,其特征在于,还包括:
获取从核对所述第二运算任务的处理结果,将所述处理结果保存在同一个内存空间中,根据第二运算任务中的键值,排序并组合所述处理结果,生成完整的用户指令处理结果。
3.根据权利要求1所述的基于众核处理器的数据并行处理方法,其特征在于,所述每次确定待运算数据表后,对所述待运算数据表进行划分得到多个运算任务,包括:
若所述待运算数据表为数据库中的原始数据表,获取所述原始数据表的索引;其中,所述原始数据表存在索引,直接获取;所述原始数据包无索引,根据原始数据表内容,新建原始数据表的索引;
若所述待运算数据表为键值对表,根据所述键值对表中的键值,新建键值对表的索引。
4.根据权利要求1所述的基于众核处理器的数据并行处理方法,其特征在于,还包括:
若从核处理运算任务的处理时间超过处理时间阈值,判定所述从核处理所述运算任务失败,将所述运算任务分发至所述从核之外的空闲状态的从核重新处理。
5.一种基于众核处理器的数据并行处理装置,其特征在于,应用于单机数据库,包括:
任务划分单元,用于每次确定待运算数据表后,对所述待运算数据表进行划分得到多个运算任务;其中,所述待运算数据表包括:数据库中的原始数据表、根据数据库中的原始数据表处理生成的键值对表;
所述每次确定待运算数据表后,对所述待运算数据表进行划分得到多个运算任务,包括:通过遍历用户指令查询树的节点,获取数据库中所述查询树的节点指定的原始数据表,作为第一待运算数据表;根据所述原始数据表的索引和过滤条件,划分所述第一待运算数据表,并将划分出的每一第一数据表单元作为一个第一运算任务;其中,所述过滤条件至少包括如下一种:空闲状态的从核数量、所述原始数据表的统计信息;
任务分发单元,用于将划分的运算任务分发至众核处理器的从核中,以通过不同从核并行处理运算任务;
所述将划分的运算任务分发至众核处理器的从核中,以通过不同从核并行处理运算任务,包括:
将所述第一运算任务分发到不同的空闲状态的从核上,以通过不同的所述空闲状态的从核并行处理所述第一运算任务,得到与所述原始数据表的每行内容对应的键值对;其中,与所述原始数据表的任一行内容对应的键值对包括根据所述任一行内容的运算结果确定的键值,以及所述任一行内容;
所述每次确定待运算数据表后,对所述待运算数据表进行划分得到多个运算任务,还包括:
获取由与所述原始数据表的每行内容对应的键值对组成的键值对表,根据所述键值对表的索引,对键值对表中的键值进行排序,得到第二待运算数据表;
划分所述第二待运算数据表,将划分出的每一第二数据表单元作为一个第二运算任务;其中,任一第二数据表单元中的每行内容具有相同的键值;
所述将划分的运算任务分发至众核处理器的从核中,以通过不同从核并行处理运算任务,还包括:
通过任务分发线程,将划分出的第二运算任务分发至空闲状态的从核进行处理;
其中,所述任务分发线程监控从核对任务的处理进度;若从核完成第二运算任务,将所述从核标记为空闲状态,并向空闲状态的从核分发新的第二运算任务;若从核完成第二运算任务且无新的待处理的第二运算任务,向完成第二运算任务的空闲从核发送退出指令;
通过任务监控线程,循环监控从核是否接收到所述退出指令;若所有从核都接到退出指令,所述任务监控线程退出执行,以确保所有从核同步退出对运算任务的并行处理流程。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于北京谷数科技股份有限公司,未经北京谷数科技股份有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202011229048.1/1.html,转载请声明来源钻瓜专利网。
- 数据显示系统、数据中继设备、数据中继方法、数据系统、接收设备和数据读取方法
- 数据记录方法、数据记录装置、数据记录媒体、数据重播方法和数据重播装置
- 数据发送方法、数据发送系统、数据发送装置以及数据结构
- 数据显示系统、数据中继设备、数据中继方法及数据系统
- 数据嵌入装置、数据嵌入方法、数据提取装置及数据提取方法
- 数据管理装置、数据编辑装置、数据阅览装置、数据管理方法、数据编辑方法以及数据阅览方法
- 数据发送和数据接收设备、数据发送和数据接收方法
- 数据发送装置、数据接收装置、数据收发系统、数据发送方法、数据接收方法和数据收发方法
- 数据发送方法、数据再现方法、数据发送装置及数据再现装置
- 数据发送方法、数据再现方法、数据发送装置及数据再现装置