[发明专利]缓存管理方法及其设备

说明书

技术领域

本发明涉及缓存管理领域，具体地，涉及用于管理缓存的方法及其设备。

背景技术

互联网电商行业与传统行业相比具有数据量大，用户访问频率高等特点，与传统行业常见的长尾效应不同的是用户往往更倾向于浏览比较热门的商品，基于此，传统的数据库连接池已很难满足这种应用场景，因此使用缓存便是各大公司的首选。当下使用较多的缓存数据库是Redis。Redis自带的Sentinel主从切换和集群模式为其实现分布式扩展提供了有利的基础。

Sentinel作为保障Redis主从备份的一种高可靠解决方案，其原理是监视多个主从服务器，当某一台主服务器下线时，系统根据先到先得原则将最先申请升级的从服务器升为主服务器，防止了主服务器的宕机带来的系统瘫痪，使数据库的可靠性得到了保障。同时Redis集群使用分片作为Redis的一种分布式数据库解决方案，在系统发生故障的同时能够有效的进行数据复制和故障转移，保证了数据的强一致性。

图1示出了根据现有技术的一种缓存管理方案。

在图1所示的方案中，应用程序调用Redis客户端API，对热点数据进行缓存，以减少到后台系统数据库的连接压力。客户端接管之后的操作，将数据写入分布式缓存中。在图1所示的方案中，在写数据时操作主(Master)节点，在读数据时操作从(Slave)节点，以达到读写分离的原则。上述操作是单集群缓存的数据操作，这种方法在出现网络临时中断或者虚拟机GC时能够及时响应，在毫秒级的时间内便可自动恢复系统。

同时，图1还示出了缓存集群间的主从切换，其能在集群中的某些机器出现宕机的情况下迅速反应，对于临时故障也能有效应对。如果某个集群的网络出现中断，或者其他不可能抗拒的原因造成某个缓存集群无法对请求及时响应，此时的常规方法是切换服务器集群，具体流程如下：

1)应用程序调用缓存无结果，导致频繁对缓存进行读写；

2)系统报警，用户通过应用程序手动更改配置来切换缓存集群；

3)应用程序对缓存数据进行读写操作，缓存调用恢复正常。

然而，图1所示的方案也存在着一些缺陷。例如，应用程序从发现缓存异常到切换集群时间过长，此时应用程序可能已经出现访问困难，甚至是数据库连接池的阻塞，产生一系列的多米诺效应。再例如，通过应用程序手动切换配置需要重启服务器，实时性不高，如果出现无法联系相关人员而不能及时重启，后果将十分严重。在图1所示的方案中，在重启服务器后，之前缓存的数据丢失，应用程序需重写缓存，对系统的响应时间会有影响，加重了系统负载。这种方案耗时较长，反馈执行结果较慢，用户体验性差。此外，图1的方案当对缓存的读写不能及时作出响应，导致产生数据穿透，造成不可挽回的损失。

发明内容

为了解决上述问题中的至少一些，本发明实施例提供了一种用于管理缓存的缓存管理方法及其设备。

根据本发明的一个方案，提供了一种用于管理缓存的缓存管理方法，其中，所述缓存包括多个分布式缓存集群，所述方法包括：获取所述多个分布式缓存集群中每个缓存集群的存活状况和响应时间；根据所述存活状况和响应时间为所述每个缓存集群分配缓存权重；以及选择所述缓存权重最高的缓存集群作为数据读写的缓存主集群。

根据本发明的另一方案，提供了一种用于管理缓存的设备，其中，所述缓存包括多个分布式缓存集群，所述设备包括：检测模块，用于获取所述多个分布式缓存集群中每个缓存集群的存活状况和响应时间；权重分配模块，用于根据所述存活状况和响应时间为所述每个缓存集群分配缓存权重；以及集群管理模块，用于选择所述缓存权重最高的缓存集群作为数据读写的缓存主集群。

上述方案通过对集群健康状态进行监控，对异常情况及时调整反馈，将手动切换缓存集群方式修改为自动切换，有效的提升了系统的响应时间和处理效率，第一时间避免了系统的瘫痪，可有效的防止数据穿透，保障了系统的稳定性和健壮性。

附图说明

通过下面结合附图对发明进行的详细描述，将使本发明的上述特征和优点更加明显，其中：

图1是现有技术的缓存管理方法的示意图；

图2提供了根据本发明的实施例的缓存管理方法的简化流程图；

图3提供了根据本发明的实施例的缓存管理设备的简化框图；

图4示出了根据本发明实施例的用于实现缓存管理方法的系统的逻辑构成示意图；以及

图5示出了根据本发明实施例的缓存管理的一个具体示例的流程图。

具体实施方式