[发明专利]用于降低内存负载的方法以及装置有效
申请号: | 201711122574.6 | 申请日: | 2017-11-14 |
公开(公告)号: | CN107992354B | 公开(公告)日: | 2020-07-31 |
发明(设计)人: | 袁博;范启弘;傅凌进;毛成军;沈琦 | 申请(专利权)人: | 阿里巴巴(中国)有限公司 |
主分类号: | G06F9/455 | 分类号: | G06F9/455;G06F9/50 |
代理公司: | 北京东方亿思知识产权代理有限责任公司 11258 | 代理人: | 吴崇 |
地址: | 310012 浙江省杭州市西*** | 国省代码: | 浙江;33 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 用于 降低 内存 负载 方法 以及 装置 | ||
1.一种用于降低内存负载的方法,包括:
将计算内存模型的计算任务分配至离线计算集群;
通过所述离线计算集群生成内存模型快照;
线上内存集群加载所述内存模型快照;
根据所述内存模型快照更新所述线上内存集群的内存模型。
2.如权利要求1所述的方法,其中,所述将计算内存模型的计算任务分配至离线计算集群包括:
通过调度中心进行分布式调度,将所述计算任务分配至所述离线计算集群的计算节点;
每个计算节点定时轮询所述调度中心,抢占即将执行的计算任务;
在所述调度中心添加对所述计算任务的锁;
执行完所述计算任务后释放所述锁。
3.如权利要求1所述的方法,其中,所述通过所述离线计算集群生成内存模型快照包括:采用对象的序列化机制将内存中对象形式的内存模型转换成文件形式的所述内存模型快照。
4.如权利要求1所述的方法,其中,所述通过所述离线计算集群生成内存模型快照包括:
将所述离线计算集群生成的所述内存模型快照写入第二快照文件;
所述内存模型快照写入成功后,删除上一次生成的第一快照文件,将所述第二快照文件重命名成第一快照文件。
5.如权利要求1所述的方法,其中,所述根据所述内存模型快照更新所述线上内存集群的内存模型包括:
解析所述内存模型快照生成相应的内存模型;
校验解析后的所述内存模型,判断数据校验是否成功;
当数据校验失败时,重新计算所述内存模型;
当数据校验成功时,进行心跳记录,记录所述内存模型的更新结果。
6.如权利要求5所述的方法,其中,所述解析所述内存模型快照生成相应的内存模型包括:采用对象的序列化机制将文件形式的所述内存模型快照转换成对象形式的所述内存模型。
7.如权利要求5所述的方法,其中,所述解析所述内存模型快照生成相应的内存模型包括:
将所述线上内存集群解析的所述内存模型快照写入备份内存模型;
所述内存模型快照解析成功后,用所述备份内存模型替换上一次更新的内存模型。
8.如权利要求5所述的方法,其中,所述当数据校验失败时,重新计算所述内存模型包括:
若当前时间和快照生成时间之间的差值大于预设的更新间隔时,判定所述内存模型快照过期,重新计算所述内存模型;和/或
若所述离线计算集群计算得到的内存模型Hash值和所述线上内存集群更新所述内存模型后计算得到的内存模型Hash值不一致时,重新计算所述内存模型;和/或
对所述线上内存集群更新的内存模型进行抽样校验,重新计算抽样的内存模型;
当重新计算得到的抽样的内存模型和通过解析所述内存模型快照得到的内存模型不一致的比例超过预设阈值时,重新计算所述内存模型。
9.如权利要求5所述的方法,其中,还包括:
所述线上内存集群定时检查内存模型的更新情况;
当所述内存模型未在预设时间更新时,重新计算所述内存模型。
10.如权利要求1所述的方法,其中,还包括:
所述离线计算集群将生成的所述内存模型快照上传至存储中心;
所述离线计算集群通知所述线上内存集群更新内存模型。
11.如权利要求10所述的方法,其中,所述离线计算集群基于Rsync的文件同步策略将所述内存模型快照上传至所述存储中心;和/或
所述线上内存集群基于Rsync的文件同步策略加载所述内存模型快照。
12.如权利要求1所述的方法,其中,所述线上内存集群为内存密集集群。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于阿里巴巴(中国)有限公司,未经阿里巴巴(中国)有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201711122574.6/1.html,转载请声明来源钻瓜专利网。
- 上一篇:一种多普勒剖面流速测量装置
- 下一篇:一种电磁式速度传感器检测装置