灵魂拷问
- 缓存是什么？（没听说过你能够走了）
- 哪些场景须要用到缓存呢？
- 缓存能够分类吗？
- 缓存的实现形式有哪些？
缓存
缓存也被称为 Cache，实质上是数据交换的一段缓冲区，也能够称为一种存储数据的组件，缓存次要用于减小数据交换单方速度不匹配的问题。
缓存在计算机世界里是一个常见并且不可漠视的一个重要因素，它简直遍布于你所知的各个领域。例如 cpu 的一级缓存，二级缓存；浏览器的缓存等。咱们在应用缓存的时候要革除的意识到缓存的数据是有有效期的，也就是说可能随时会隐没。有的同学会说了，相似 redis 这些组件都提供了数据长久化的性能，这样数据就不会隐没了。至于这个问题其实我想说两点：
- 当组件提供了长久化性能的时候，必然会产生磁盘的 IO 操作，而磁盘 IO 的操作必然会大大降低缓存组件的性能，那缓存的价值还有吗？
- 缓存的数据在工夫定义上是一种临时性的数据，如果做了长久化，这种临时性的意义就不存在了，而且还占用了磁盘的存储空间
缓存最常见的存储介质是内存，但这并不象征只有内存能够存储缓存数据，这也是初学者常常会犯的谬误。缓存的作用是提供高速的读写性能，所以如果你的设施足够快，实践上都能够作为缓存应用，比方当初的 SSD，在一些性能不太严格和敏感的场景下就能够作为存储缓存数据的介质，至于计算机的各种硬件之间的速度差距能够参考之前的文章：
高并发下为什么更喜爱过程内缓存
缓存利用场景
从实践上来说，任何须要进步访问速度的环节都能够退出缓存
然而零碎退出缓存模块会在肯定水平上减少零碎的复杂度，所以在是否引入缓存的问题上，须要依据业务场景来均衡。个别合乎以下几种特色的数据能够思考引入缓存模块：
数据很少变动
这类数据最适宜缓存的利用场景，因为它根本不波及到负责的缓存更新操作，所以只有将其加载到缓存中即可。最具备代表性的像网站用到的 js，css 等这些动态资源，用户登录之后生成的 session 信息等。
说到数据很少变动，不得不提 CDN 这种服务了，很多大型网站都会利用 CDN 来减速一些不变资源的访问速度，比方一些图片，视频等。因为用户拜访这些资源的根源须要逾越多个主干网，在速度上较慢，而 CDN 恰好补救了这个缺点，所以这里也能够把 CDN 看成是一种缓存的服务。
热点数据
这种数据是咱们平时开发中要加缓存的次要起因数据，最有可能导致系统瘫痪的也是这种数据。它最大的特点是产生工夫不确定，流量峰值不确定。大家可能还依稀记得微博因为两个明星出轨而挂掉的事件，尽管微博的零碎架构起初通过革新能够同时抗住 N 个明星出轨，然而在不确定这个因素上仍然无能为力。
热点数据的缓存并不容易设计，因为它带有单点属性，什么意思呢？假如咱们的缓存服务器有 100 个节点，这个时候产生了某个热点新闻，而这个热点新闻的缓存在 0 号节点，大量的申请会被路由到 0 号节点，很有可能会导致 0 号节点垮掉，如果 0 号节点垮掉，基于故障转移策略，流量霎时会转移到另外一个节点，而后这个节点会垮掉，以此类推 ….. 缓存尽管进步了零碎的整体吞吐量，然而在应答有针对性的流量顶峰的时候须要独自针对。这其实也是分布式系统要解决的问题，既然一个节点扛不住流量顶峰，零碎能够设计多个节点一起来抗，至于以上的热点数据场景，最简略粗犷的形式就是缓存正本，一份缓存数据会存在多份正本，相似于 MySQL 的读写拆散计划，多份正本同时提供读取操作。除此之外，这种场景下我举荐应用过程内缓存代替分布式缓存，因为过程内缓存在访问速度上要比须要逾越网络的分布式缓存要快很多，具体能够查看之前的推文：
高并发下为什么更喜爱过程内缓存
耗时操作
某些计算代价或者获取代价很大的数据在特定的条件下也适宜进行缓存。为什么要加特定条件呢？如果系统对这些数据的一致性有着严格的要求，而且会频繁的变动，尽管获取数据代价比拟大，然而你也要充分考虑缓存带来的副作用。像咱们最罕用的报表服务，个别生成报表都比拟耗时，如果报表的数据是绝对稳固的，那咱们就能够思考用缓存来进步零碎的性能。
缓存的淘汰
存储缓存的设施限度了缓存是有大小限度的，如果以 16G 内存来存储缓存，那缓存的下限实践上就是 16G（然而实际上要小的多），而且缓存带有时效性，所以当要缓存的数据大于介质容量的时候就须要一种淘汰数据的策略来保障新数据能失常被缓存。
最好的淘汰策略就是把零碎不必的数据淘汰进来，然而什么数据是无用数据，这是策略的难点所在，基于用户行为的不确定性，这种数据所以很难用程序去预测。鉴于零碎的惯例实践，当初支流的有以下几种淘汰策略：
- LFU（Least Frequently Used）: 缓存零碎会记住每条缓存数据被拜访的频率，会优先淘汰最不罕用的数据。
- LRU（Least Recently Used）: 缓存零碎会记住每条数据最初的拜访工夫，会优先淘汰长时间未被拜访的数据
- ARC（Adaptive Replacement Cache）: 这个缓存算法同时跟踪记录 LFU 和 LRU，以及驱赶缓存条目，来取得可用缓存的最佳应用，它被认为是性能最好的缓存算法之一，介于 LRU 和 LFU 之间，可能记忆成果和自调，当然开发必定会比较复杂。
- FIFO：基于队列的原理的淘汰算法，先进先出。这种算法比较简单，事实中应用比拟少是因为这种业务场景比拟少。
缓存实现形式
零碎中实现缓存的形式大体上能够分为两种：
过程内缓存
过程内缓存是指缓存和应用程序在同一个过程内，在获取缓存数据的时候不须要逾越网络，所以过程内缓存是访问速度最快的一种形式。
过程内缓存个别用在单机或者小型零碎中，然而，在整体架构实现了一致性的前提下，也可用于大型零碎，什么意思呢？举个栗子：在多个服务器节点的状况下，如果用户 A 的信息缓存在 0 号节点，如果有一种机制能保障用户 A 的所有申请都只会达到 0 号节点，这个时候利用过程内缓存就齐全没有问题。最典型的像 Actor 模型利用，能够参见之前的文章
分布式高并发下 Actor 模型如此优良????
过程外缓存
顾名思义，过程外缓存的意思是缓存数据和应用程序是隔离的，位于不同的过程内。当然这里又能够把过程外缓存划分为单机版和分布式版本，单机版本这里就不多说了，会存在单机故障问题。
过程外的分布式版本通常被称为分布式缓存，是基于分布式实践的一种架构模式。它冲破了单机缓存的容量限度和单机故障问题，尽管在访问速度上比过程内缓存要慢很多，然而相比拟磁盘 IO 操作要快的多，所以当初很多大型零碎都喜爱用分布式缓存来进步性能。像用的最多的 Redis 在 3.0 版本之后就提供了集群计划。
写在最初
在面对缓存带给零碎的劣势之后，也要留神到缓存也会有一些有余。
- 缓存和数据源的一致性问题
- 缓存命中问题
- 缓存的雪崩穿透问题
- 缓存的并发竞争问题
- 缓存适宜读多写少的零碎
- 引入缓存组件会给零碎设计带来肯定的复杂度
- 缓存会加大运维的胜利以及排查 bug 的老本
尽管缓存带来了不少问题，然而相比拟缓存带给零碎性能的晋升是毋庸置疑的。咱们在设计一个高并发零碎的时候，缓存曾经成为了一种必备设计，在正确设计了缓存各种策略之后，能力最大施展缓存的劣势
更多精彩文章
- 分布式大并发系列
- 架构设计系列
- 趣学算法和数据结构系列
- 设计模式系列