关于java:什么是缓存雪崩服务器雪崩的场景与解决方案

目录

• 什么是应用服务雪崩
• 雪崩效应产生的几种场景
• 缓存雪崩的解决方案
• 雪崩的整体解决方案
• 熔断设计
• 隔离设计
• 超时机制设计
• 如何提前发现雪崩

什么是应用服务雪崩

雪崩问题

分布式系统都存在这样一个问题，因为网络的不稳定性，决定了任何一个服务的可用性都不是 100% 的。当网络不稳固的时候，作为服务的提供者，本身可能会被拖死，导致服务调用者阻塞，最终可能引发雪崩连锁效应。

缓存雪崩

当缓存服务器重启或者大量缓存集中在某一个时间段生效，这样在生效的时候，也会给后端系统 (比方 DB) 带来很大压力，造成数据库后端故障，从而引起应用服务器雪崩。

雪崩效应产生的几种场景

• 流量激增：比方异样流量、用户重试导致系统负载升高；
• 缓存刷新：假如 A 为 client 端，B 为 Server 端，假如 A 零碎申请都流向 B 零碎，申请超出了 B 零碎的承载能力，就会造成 B 零碎解体；
• 程序有 Bug：代码循环调用的逻辑问题，资源未开释引起的内存透露等问题；
• 硬件故障：比方宕机，机房断电，光纤被挖断等。
• 数据库重大瓶颈，比方：长事务、sql 超时等。
• 线程同步期待：零碎间常常采纳同步服务调用模式，外围服务和非核心服务共用一个线程池和音讯队列。如果一个外围业务线程调用非核心线程，这个非核心线程交由第三方零碎实现，当第三方零碎自身呈现问题，导致外围线程阻塞，始终处于期待状态，而过程间的调用是有超时限度的，最终这条线程将断掉，也可能引发雪崩；

缓存雪崩的解决方案

缓存生效的几种状况:

1、缓存服务器挂了

2、高峰期缓存部分生效

3、热点缓存生效

解决方案：\
\
1、防止缓存集中生效，不同的 key 设置不同的超时工夫

2、减少互斥锁，管制数据库申请，重建缓存。

3、进步缓存的 HA，如：redis 集群。

雪崩的整体解决方案

个别状况对于服务依赖的爱护次要有 3 种解决方案：

（1）熔断模式

这种模式次要是参考电路熔断，如果一条线路电压过高，保险丝会熔断，避免火灾。放到咱们的零碎中，如果某个指标服务调用慢或者有大量超时，此时，熔断该服务的调用，对于后续调用申请，不在持续调用指标服务，间接返回，疾速开释资源。如果指标服务状况恶化则复原调用。

重点监控的机器性能指标

• cpu(Load) cpu 使用率 / 负载
• memory 内存
• mysql 监控长事务(这里与 sql 查问超时是紧密结合的，须要重点监控)
• sql 超时
• 线程数等

总之，除了 cpu、内存、线程数外，重点监控数据库端的长事务、sql 超时等，绝大多数应用服务器产生的雪崩场景，都是来源于数据库端的性能瓶颈，从而先引起数据库端大量瓶颈，最终连累应用服务器也产生雪崩，最初就是大面积的雪崩。

（2）隔离模式

这种模式就像对系统申请按类型划分成一个个小岛的一样，当某个小岛被火少光了，不会影响到其余的小岛。

例如能够对不同类型的申请应用线程池来资源隔离，每种类型的申请互不影响，如果一种类型的申请线程资源耗尽，则对后续的该类型申请间接返回，不再调用后续资源。这种模式应用场景十分多，例如将一个服务拆开，对于重要的服务应用独自服务器来部署，再或者公司最近推广的多核心。

（3）限流模式

上述的熔断模式和隔离模式都属于出错后的容错解决机制，而限流模式则能够称为预防模式。限流模式次要是提前对各个类型的申请设置最高的 QPS 阈值，若高于设置的阈值则对该申请间接返回，不再调用后续资源。这种模式不能解决服务依赖的问题，只能解决零碎整体资源分配问题，因为没有被限流的申请仍然有可能造成雪崩效应。

熔断设计

在熔断的设计次要参考了 hystrix 的做法。其中最重要的是三个模块：熔断申请判断算法、熔断复原机制、熔断报警

（1）熔断申请判断机制算法：应用无锁循环队列计数，每个熔断器默认保护 10 个 bucket，每 1 秒一个 bucket，每个 blucket 记录申请的胜利、失败、超时、回绝的状态，默认谬误超过 50% 且 10 秒内超过 20 个申请进行中断拦挡。

（2）熔断复原：对于被熔断的申请，每隔 5s 容许局部申请通过，若申请都是衰弱的（RT<250ms）则对申请衰弱复原。

（3）熔断报警：对于熔断的申请打日志，异样申请超过某些设定则报警。

隔离设计

隔离的形式个别应用两种

（1）线程池隔离模式：应用一个线程池来存储以后的申请，线程池对申请作解决，设置工作返回解决超时工夫，沉积的申请沉积入线程池队列。这种形式须要为每个依赖的服务申请线程池，有肯定的资源耗费，益处是能够应答突发流量（流量洪峰来长期，解决不完可将数据存储到线程池队里缓缓解决）

（2）信号量隔离模式：应用一个原子计数器（或信号量）来记录以后有多少个线程在运行，申请来先判断计数器的数值，若超过设置的最大线程个数则抛弃改类型的新申请，若不超过则执行计数操作申请来计数器 +1，申请返回计数器 -1。这种形式是严格的控制线程且立刻返回模式，无奈应答突发流量（流量洪峰来长期，解决的线程超过数量，其余的申请会间接返回，不持续去申请依赖的服务）

超时机制设计

（1）超时候两种，一种是申请的期待超时，一种是申请运行超时。

（2）期待超时：在工作入队列时设置工作入队列工夫，并判断队头的工作入队列工夫是否大于超时工夫，超过则抛弃工作。

（3）运行超时：间接可应用线程池提供的 get 办法。

如何提前发现雪崩

就是首先让零碎不雪崩，而后通过监控发现申请正在靠近或者超过阀值，而后再依据具体情况解决，这个靠近或者超过阀值的过程，能够称为“提前发现雪崩”。

以上就是应用服务雪崩的场景以及技术计划总结。

作者简介

陈睿 |mikechen,10 年 + 大厂架构教训，《mikechen 的互联网架构》系列文章作者，专一于互联网架构技术。

浏览 mikechen 的互联网架构更多技术文章合集

Java 并发 |JVM|MySQL|Spring|Redis| 架构 | 进阶

关注 mikechen 的互联网架构公众号，回复【架构】获取一份 3.3 万字《mikechen 的互联网架构●原创技术合集》