[发明专利]一种基于张量的深度学习GPU内存管理优化方法及系统有效
| 申请号: | 201911105147.6 | 申请日: | 2019-11-12 |
| 公开(公告)号: | CN111078395B | 公开(公告)日: | 2023-06-20 |
| 发明(设计)人: | 石宣化;彭轩;金海;代虎林;马玮良;熊倩 | 申请(专利权)人: | 华中科技大学 |
| 主分类号: | G06F9/50 | 分类号: | G06F9/50;G06F15/167 |
| 代理公司: | 北京之于行知识产权代理有限公司 11767 | 代理人: | 何志欣 |
| 地址: | 430074 湖北*** | 国省代码: | 湖北;42 |
| 权利要求书: | 查看更多 | 说明书: | 查看更多 |
| 摘要: | 本发明涉及一种基于张量的深度学习GPU内存管理优化方法,至少包括如下步骤:执行至少一个计算操作,其中,所述计算操作以张量为输入并产生张量作为输出;在一个计算操作被执行时,对张量的访问信息进行跟踪,并基于所述访问信息制定内存管理优化决策,在训练的第一次迭代中被动地在CPU内存和GPU内存之间进行内存交换以获得一次完整迭代的张量的访问信息根据获取的关于完整迭代的张量的访问信息,制定内存管理优化决策;在后续迭代中,根据运行时的反馈对制定的内存管理优选决策进行动态调整。 | ||
| 搜索关键词: | 一种 基于 张量 深度 学习 gpu 内存 管理 优化 方法 系统 | ||
【主权项】:
暂无信息
下载完整专利技术内容需要扣除积分,VIP会员可以免费下载。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于华中科技大学,未经华中科技大学许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/patent/201911105147.6/,转载请声明来源钻瓜专利网。





