设计缓存框架需要关注的要素

设计缓存框架需要关注的要素 最近关注了一些缓存框架的特性和实现,包括OSCache、JCS、Ehcache、Memcached等等,公司的两个缓存框架,以及一个标准JSR 107(JCache),发现一些诸多类同的方面。如果你不够熟悉以上,不妨先看看这两篇文章:OSCache框架源码解析》和《Ehcache详细解读》,再看下面的内容也许会有更多想法。之后再思考,如果要自己去实现一套缓存框架,需要考虑哪些东西?

1、为哪些数据做缓存?

  1. 模型对象,这在业务逻辑层面最常见。
  2. 数据库查询结果集。
  3. 页面缓存、页面片段缓存。
  4. 运算结果集,尤其对于幂等性服务。
  5. 外部接口查询结果。

 

2、缓存框架的核心:

 

缓存生命周期管理,很多重要特性都是围绕它来展开的。

举例:

设计缓存框架需要关注的要素

 

3、重要特性,这些特性不一定全部要具备,但是多数都要包含:

 

  • 一致性选择。缓存框架的设计必须首先考虑这一点。通常我们见到的缓存框架都是最终一致性的,允许获取数据有一定的延迟窗口。一致性关系到缓存的生命周期,是缓存的核心理念之一。

  • 分级存储。也和缓存生命周期密切相关。至少应包括内存和磁盘两级存储,有些缓存框架包含组网内部节点的分级等等,允许用户管理缓存数据在不同级别存储中的跃迁。分级存储还包括对存储数据的管理,以提高数据获取的效率;包括跃迁策略的定制,比如在某一级满足怎样的超时策略可以发生向下跃迁。
  • 规约配置,默认配置。可以支持XML、properties、DSL编程等等多种配置方式,但是最重要的是,要提供一个默认配置,允许用户在简单配置或者零配置的情况下使用缓存。
  • 集群、分布式,这意味着一定的伸缩性。包括内部通信协议选择,比如节点之间使用JMS、RMI或RESTful方式通信等等;包括节点热部署和节点发现能力,这通常都使用组播消息来实现;包括集群的方式,是Server-Client群、消息总线方式还是节点对等,等等。
  • 定制扩展性。尤其是淘汰算法、事件监听、持久化策略等等,都要允许用户方便地自定义。

 

4、相对较次要的特性:

 

  • 统计能力。包括各级缓存命中情况统计,生命周期长度统计。
  • 批量接口、异步接口。包括缓存分组能力。
  • 缓存数据存储校验。
  • Web支持。特指Web容器中,对于页面存储的额外支持。
  • 免锁数据处理。
  • 缓存状态监控。
  • 无侵入式拦截,注解编程支持。
  • 运行时参数调整。

……

 

5、核心模型应该包括哪些?

 

  • CacheManager:模型管理对象,可以是多实例的,也可以是单实例的。
  • Cache:通过CacheManager创建出来的缓存容器,内部包含了真正的缓存承载体,至少开放add/remove/flush等接口。
  • CacheMap:真正的缓存承载体,大致上都是一个Map,各种类型的Map。
  • CacheEntity:缓存条目,相当于CacheMap里面的每一条Entry。
  • CacheEvent:缓存事件,比如CacheEntity的创建、更新、删除等等。
  • CacheEventListener:缓存事件相应的监听器。
  • CacheEvictionAlgorithm:缓存淘汰算法,常见的有LRU、LFU、FIFO等等。

——————————————————————————————————————————–

2012-6-10:

 

任何一个缓存框架,它要解决什么样的问题?

数据的访问、存取、计算太慢、太不稳定、太消耗资源,同时,这样的操作存在重复性。因此希望有这样一种中间媒介,放置在其间,只保存自己关心的数据,而不关心具体数据逻辑内容,对于重复性的操作给出响应。对于数据和服务的使用者,它是透明的。

 

从请求和数据流向的角度看,一个完整的缓存框架应该包括这样几个部分:

  • 操作捕获
  • 缓存数据存储
  • 缓存数据读取
  • 缓存数据流动

因此缓存框架的功能都是围绕数据展开的,它的核心就是缓存数据的整个生命周期。

但是其中每一项都可以拆分和解耦成许多部分,以缓存数据存储为例,可以拆分成:

  • key生成
  • value封装、元数据封装
  • 索引生成
  • 文件结构生成
  • 序列化、反序列化
  • 淘汰算法
  • 过期检查
  • 存储数据预处理
  • 持久化媒介

……

但是看的到的不同实现越多,越发发现难以跳出这个思维惯性的圈子了。

 

文章未经特殊标明皆为本人原创,未经许可不得用于任何商业用途,转载请保持完整性并注明来源链接《四火的唠叨》

分享到:

2 comments

  1. [...] 设计缓存框架需要关注的要素 [...]

  2. Memcached调优 说道:

    [...] 设计缓存框架需要关注的要素 [...]

Memcached调优 进行回复 取消回复

电子邮件地址不会被公开。

您可以使用这些 HTML 标签和属性: <a href="" title=""> <abbr title=""> <acronym title=""> <b> <blockquote cite=""> <cite> <code> <del datetime=""> <em> <i> <q cite=""> <strike> <strong>


Preview on Feedage: