[发明专利]异构硬件中大数据处理的方法及装置有效
申请号: | 201410608826.6 | 申请日: | 2014-10-31 |
公开(公告)号: | CN105630690B | 公开(公告)日: | 2018-10-12 |
发明(设计)人: | 解壁伟;高云伟;詹剑锋;张立新 | 申请(专利权)人: | 华为技术有限公司;中国科学院计算技术研究所 |
主分类号: | G06F12/02 | 分类号: | G06F12/02;G06F3/06;G06F17/30 |
代理公司: | 北京中博世达专利商标代理有限公司 11274 | 代理人: | 申健 |
地址: | 518129 广东*** | 国省代码: | 广东;44 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 硬件 数据处理 方法 装置 | ||
1.一种异构硬件中大数据处理的方法,异构硬件与主机Host连接,其特征在于,包括:
接收所述Host发送的程序和地址信息,所述程序为在异构硬件上运行的程序,所述地址信息为源数据在所述Host中存储的地址信息,所述源数据为所述异构硬件上运行所述程序所需的数据;
建立本地存储所述源数据的虚拟地址与所述地址信息的映射关系;
当所述异构硬件运行所述程序过程中调用目标数据时,向所述Host发送目标数据请求,所述目标数据请求携带所述目标数据的地址信息,以便于所述Host根据所述目标数据的地址信息查找所述目标数据,所述目标数据的地址信息为所述异构硬件根据所述映射关系和所述目标数据的虚拟地址确定,所述目标数据属于所述源数据;
在接收所述Host回复的目标数据后,使用所述目标数据运行所述程序。
2.根据权利要求1所述的方法,其特征在于,当所述源数据存储于所述Host的内存时,所述源数据的地址信息为所述Host存储所述源数据的物理地址;
当所述源数据存储于所述Host的磁盘时,所述源数据的地址信息为所述Host存储所述源数据的虚拟地址。
3.根据权利要求1所述的方法,其特征在于,在所述使用所述目标数据运行所述程序之前,所述方法还包括:
将所述目标数据存储在所述异构硬件的内存中;
将本地存储所述目标数据的虚拟地址与所述目标数据的地址信息之间的映射关系修改为本地存储所述目标数据的虚拟地址与所述目标数据在所述异构硬件内存中物理地址之间的映射关系。
4.根据权利要求3所述的方法,其特征在于,当所述源数据存储于所述Host的磁盘时,在所述将所述目标数据存储在所述异构硬件的内存中之前,所述方法还包括:
接收所述Host回复的所述目标数据在所述Host的内存中存储的物理地址,所述物理地址为所述Host从磁盘中调取所述目标数据后存储在所述Host的内存中的物理地址;
将本地存储所述目标数据的虚拟地址与所述目标数据的地址信息之间的映射关系修改为本地存储所述目标数据的虚拟地址与在所述Host的内存中存储的物理地址之间的映射关系;
向所述Host发送部分目标数据请求,所述部分目标数据请求携带部分目标数据在所述Host的内存中存储的物理地址,以便于所述Host根据所述部分目标数据在所述Host的内存中存储的物理地址查找所述部分目标数据;
则所述在接收所述Host回复的目标数据后,使用所述目标数据运行所述程序包括:
在接收所述Host回复的部分目标数据后,使用所述部分目标数据运行所述程序。
5.根据权利要求1所述的方法,其特征在于,在所述当所述异构硬件运行所述程序过程中调用目标数据时,向所述Host发送数据请求之前,所述方法还包括:
为所述地址信息添加标识,所述标识表示所述地址信息为所述数据在所述Host中存储的地址信息。
6.一种异构硬件中大数据处理的装置,其特征在于,包括:
接收单元,用于接收Host发送的程序和地址信息,所述程序为在异构硬件上运行的程序,所述地址信息为源数据在所述Host中存储的地址信息,所述源数据为所述异构硬件上运行所述程序所需的数据;
建立单元,用于建立本地存储所述源数据的虚拟地址与所述地址信息的映射关系;
请求单元,用于当所述异构硬件运行所述程序过程中调用目标数据时,向所述Host发送目标数据请求,所述目标数据请求携带所述目标数据的地址信息,以便于所述Host根据所述目标数据的地址信息查找所述目标数据,所述目标数据的地址信息为所述异构硬件根据所述映射关系和所述目标数据的虚拟地址确定,所述目标数据属于所述源数据;
使用单元,用于在接收所述Host回复的目标数据后,使用所述目标数据运行所述程序。
7.根据权利要求6所述的装置,其特征在于,当所述源数据存储于所述Host的内存时,所述源数据的地址信息为所述Host存储所述源数据的物理地址;
当所述源数据存储于所述Host的磁盘时,所述源数据的地址信息为所述Host存储所述源数据的虚拟地址。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于华为技术有限公司;中国科学院计算技术研究所,未经华为技术有限公司;中国科学院计算技术研究所许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201410608826.6/1.html,转载请声明来源钻瓜专利网。
- 上一篇:计数器及计数方法
- 下一篇:一种网络爬虫率的自动化测试方法及装置