[发明专利]数据处理方法、装置、系统及存储介质有效
| 申请号: | 201811240090.6 | 申请日: | 2018-10-23 |
| 公开(公告)号: | CN109522299B | 公开(公告)日: | 2020-12-18 |
| 发明(设计)人: | 丁鹏云;沈军栋 | 申请(专利权)人: | 咪咕数字传媒有限公司;咪咕文化科技有限公司 |
| 主分类号: | G06F16/215 | 分类号: | G06F16/215;G06F16/2455;G06F9/50 |
| 代理公司: | 北京派特恩知识产权代理有限公司 11270 | 代理人: | 张振伟;张颖玲 |
| 地址: | 310006 浙江*** | 国省代码: | 浙江;33 |
| 权利要求书: | 查看更多 | 说明书: | 查看更多 |
| 摘要: | |||
| 搜索关键词: | 数据处理 方法 装置 系统 存储 介质 | ||
本发明实施例公开了一种数据处理方法、装置、系统及存储介质,该数据处理方法包括:对各业务数据中的key值数据进行至少两次不同的空间映射转换,以得到各空间映射转换结果;通过融合各key值数据分别对应的各空间映射转换结果,得到各key值数据的空间坐标值;根据预设时长内各key值数据的空间坐标值出现次数的统计结果获取热点坐标集,其中,所述热点坐标集包括统计结果中次数大小靠前的预设数量个空间坐标值;确定空间坐标值属于所述热点坐标集的业务数据为热点数据。本发明实施例数据处理方法的热点数据识别的效率高,且节省了客户端的CPU消耗。
技术领域
本发明涉及数据缓存领域,具体涉及一种数据处理方法、装置、系统及存储介质。
背景技术
业务平台对缓存的依赖程度很高,主要业务内容对应的数据大多存储于缓存中,对缓存性能以及健壮性有极高的要求,需要能承载高并发访问压力,并且具备完善的容灾、备份、压力扩容体系。
在出现瞬时爆发式访问场景时,为满足对于数据的访问需求,现有的扩容方案是对缓存集群数据全量复制到新节点进行扩容。这样的全量复制扩容方案受限于对于业务数据的“无区分”,会导致处理资源的盲目耗费。
发明内容
有鉴于此,本发明实施例提供了一种数据处理方法、装置、系统及存储介质,用以解决现有技术由于对于业务数据“无区分”,会导致处理资源盲目耗费的问题。
本发明实施例的技术方案是这样实现的:
第一方面,本发明实施例提供一种数据处理方法,该数据处理方法包括:
对各业务数据中的key值数据进行至少两次不同的空间映射转换,以得到各空间映射转换结果;通过融合各key值数据分别对应的各空间映射转换结果,得到各key值数据的空间坐标值;
根据预设时长内各key值数据的空间坐标值出现次数的统计结果获取热点坐标集,其中,所述热点坐标集包括统计结果中次数大小靠前的预设数量个空间坐标值;
确定空间坐标值属于所述热点坐标集的业务数据为热点数据。
第二方面,本发明实施例提供一种数据处理装置,该数据处理装置包括:
转换模块,用于对各业务数据中的key值数据进行至少两次不同的空间映射转换,以得到各空间映射转换结果;通过融合各key值数据分别对应的各空间映射转换结果,得到各key值数据的空间坐标值;
获取模块,用于根据预设时长内各key值数据的空间坐标值出现次数的统计结果获取热点坐标集,其中,所述热点坐标集包括统计结果中次数大小靠前的预设数量个空间坐标值;
确定模块,用于确定空间坐标值属于所述热点坐标集的业务数据为热点数据。
第三方面,本发明实施例还提供一种数据处理系统,该数据处理系统包括:
客户端,用于对各业务数据中的key值数据进行至少两次不同的空间映射转换,以得到各空间映射转换结果;通过融合各key值数据分别对应的各空间映射转换结果,得到各key值数据的空间坐标值;根据预设时长内各key值数据的空间坐标值出现次数的统计结果获取热点坐标集,其中,所述热点坐标集包括统计结果中次数大小靠前的预设数量个空间坐标值;确定空间坐标值属于所述热点坐标集的业务数据为热点数据;
监控系统,用于以所述预设时长为间隔周期性发送所述热点坐标集给所述客户端。
第四方面,本发明实施例还提供一种计算机存储介质,存储有可执行程序,所述可执行程序被处理器执行时,实现上述任一实施例所述的数据处理方法。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于咪咕数字传媒有限公司;咪咕文化科技有限公司,未经咪咕数字传媒有限公司;咪咕文化科技有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201811240090.6/2.html,转载请声明来源钻瓜专利网。
- 上一篇:用于CIM的数据清洗方法
- 下一篇:有效数据筛选装置





