[发明专利]一种预防缓存踩踏的分布式缓存系统

说明书

本发明公开了一种预防缓存踩踏的分布式缓存系统，属于云存储系统技术领域。本发明的预防缓存踩踏的分布式缓存系统包括协议解析器、缓存处理器、键计数器、控制配置项、限流器和协议生成器，其中协议解析器、缓存处理器和协议生成器为分布式缓存系统具备的组件，键计数器、控制配置项和限流器为解决缓存踩踏增加的组件。该发明的预防缓存踩踏的分布式缓存系统可以有效避免分布式缓存系统中缓存未预先存入或突然失效时产生的缓存踩踏问题，具有很好的推广应用价值。

技术领域

本发明涉及云存储系统技术领域，具体提供一种预防缓存踩踏的分布式缓存系统。

背景技术

在计算机领域中，缓存是一种用于临时存储数据以便未来请求可以得到更快响应的软/硬件组件，存储于缓存中的数据可以是先前的计算结果，也可以是其他任何存储设施中的数据。分布式缓存是在本地单独使用的传统缓存的扩展，可以跨多个服务器部署，来扩展缓存的容量和数据传输能力。分布式缓存主要用来临时存储应用数据或者web服务器的session数据。用于高并发大量读请求的业务场景，近年来被互联网公司广泛应用。

键：本发明中所讨论的缓存系统为键值缓存，键是存放数据的唯一标识，缓存客户端通过键保存或访问缓存中的数据，每个数据的键都是不同且唯一的。

值：缓存中键所对应的内容，是数据在缓存中的内容拷贝。

命中：指数据请求从缓存查询到并返回了需要的数据，相反即为未命中。

超时：指缓存数据存在的时间达到了系统中设置允许该缓存数据所存在的最大生存时间。

淘汰：指缓存系统根据一定策略将某些缓存数据丢弃(被新数据覆盖)。

失效：指缓存中的数据因为达到了预设的超时时间被淘汰或者因为缓存系统存储空间达到上限后根据预设的淘汰策略被淘汰。

穿透：指查询请求所查询的数据没有命中缓存而改为直接查询持久层的现象。

击穿：指大量的查询请求在缓存失效的瞬间直接请求数据库的现象。

雪崩：指缓存中数据大批量失效，导致巨量缓存客户端进程击穿缓存，引起数据库压力过大甚至宕机的现象。

级联系统失效是指在一个具有多个相关联组件的系统中，一个或部分组件的失效可以递归地引发其他组件相继失效的情况。缓存踩踏(cachestampede)是一种在具有缓存机制的大负载并发计算系统中出现的级联系统失效。

发明内容

本发明的技术任务是针对上述存在的问题，提供一种可以有效避免分布式缓存系统中缓存未预先存入或突然失效时产生的缓存踩踏问题的预防缓存踩踏的分布式缓存系统。

为实现上述目的，本发明提供了如下技术方案：

一种预防缓存踩踏的分布式缓存系统，包括协议解析器、缓存处理器、键计数器、控制配置项、限流器和协议生成器，其中协议解析器、缓存处理器和协议生成器为分布式缓存系统具备的组件，键计数器、控制配置项和限流器为解决缓存踩踏增加的组件。

作为优选，所述协议解析器负责接收和解析缓存客户端请求报文，获得要保存的键值或要查询数据键。

作为优选，所述缓存处理器用于根据用户请求写入或查询键值。

作为优选，键计数器用于对用户请求但缓存中不存在的键进行计数。

作为优选，键计数器负责在缓存未命中时记录缓存键的未命中请求次数，该次数是值为整型数字的键值数据，为计数条目，被限流器用于限流条件判定。