- 为什么要进行限流？
RPC 是解决分布式系统架构通信的一大利器，而分布式系统设计须要面临高并发问题。在这样的状况下，咱们提供的每个服务节点都可能因为拜访量过大而引起一系列问题，比方业务解决耗时过长、CPU 飚高、频繁 Full GC 以及服务过程假死宕机等问题。在理论生产环境中，咱们要保障服务的稳定性和高可用个性，就须要业务提供方可能进行自我爱护，从而保障在高访问量、高并发的场景下，零碎仍然可能稳固，高效运行。
服务端的自我爱护实现
在 RPC 框架中集成限流性能，能够依据理论状况配置限流阈值；咱们还能够在服务端增加限流逻辑，当调用端发送申请过去时，服务端在执行业务逻辑之前先执行查看限流逻辑，如果发现拜访量过大并且超出了限流条件，就让服务端间接降级解决或者返回给调用方一个限流异样。在Dubbo框架中， 能够通过Sentinel来实现更为欠缺的熔断限流性能，服务端是具体如何实现限流逻辑的？
办法有很多种， 最简略的是计数器，还有平滑限流的滑动窗口、漏斗算法以及令牌桶算法等等。而Sentinel采纳滑动窗口来实现的限流。
windowStart: 工夫窗口的开始工夫，单位是毫秒
windowLength: 工夫窗口的长度，单位是毫秒
value: 工夫窗口的内容
初始的时候arrays数组中只有一个窗口，每个工夫窗口的长度是500ms，这就意味着只有以后工夫与工夫窗口的差值在500ms之内，工夫窗口就不会向前滑动。
工夫持续往前走，当超过500ms时，工夫窗口就会向前滑动到下一个，这时就会更新以后窗口的开始工夫，只有不超过1000ms，则以后窗口不会发生变化。以后工夫如果超过1000ms时，就会再次进入下一个工夫窗口，此时arrays数组中的窗口将会有一个生效，会有另一个新的窗口进行替换：
以此类推随着工夫的流逝，工夫窗口也在发生变化，在以后工夫点中进入的申请，会被统计到以后工夫所对应的工夫窗口中。计算qps时，会用以后采样的工夫窗口中对应的指标统计值除以工夫距离，这个就是具体的qps。调用方的自我爱护
一个服务 A 调用服务 B 时，服务 B 的业务逻辑又调用了服务 C，而这时服务 C 响应超时了，因为服务 B 依赖服务 C，C 超时间接导致 B 的业务逻辑始终期待，而这个时候服务 A 持续频繁地调用服务 B，服务 B 就可能会因为沉积大量的申请而导致服务宕机，由此就导致了服务雪崩的问题。
在一个服务作为调用方去调用另外一个服务时，为了避免被调用的服务呈现问题而影响到整个服务，调用方的服务也须要进行自我爱护， 最无效的形式就是熔断解决。
熔断机制：
熔断器的工作机制次要是敞开、关上和半关上这三个状态之间的切换。在失常状况下，熔断器是敞开的；当调用方调用上游服务出现异常时，熔断器会收集异样指标信息，当达到熔断条件时熔断器关上，这时调用端再发动申请是会间接被熔断器拦挡，并疾速地执行失败逻辑；熔断器通过一段时间后，会尝试转为半关上状态，这时熔断器容许调用方发送一个申请给服务端，如果这次申请可能失常地失去服务端的响应，则将状态置为敞开状态，否则设置为关上。Sentinel 熔断降级会在调用链路中某个资源呈现不稳固状态时，对这个资源的调用进行限度，让申请疾速失败，它能够反对以下降级策略： （带过, 能够演示RPC-DUBBO工程的熔断限流性能）
- 均匀响应工夫 (
DEGRADE_GRADE_RT)：当 1s 内继续进入 N 个申请，对应时刻的均匀响应工夫（秒级）均超过阈值（count，以 ms 为单位），那么在接下的工夫窗口（DegradeRule中的timeWindow，以 s 为单位）之内，对这个办法的调用都会主动地熔断（抛出DegradeException）。留神 Sentinel 默认统计的 RT 下限是 4900 ms，超出此阈值的都会算作 4900 ms，若须要变更此下限能够通过启动配置项-Dcsp.sentinel.statistic.max.rt=xxx来配置。 - 异样比例 (
DEGRADE_GRADE_EXCEPTION_RATIO)：当资源的每秒申请量 >= N（可配置），并且每秒异样总数占通过量的比值超过阈值（DegradeRule中的count）之后，资源进入降级状态，即在接下的工夫窗口（DegradeRule中的timeWindow，以 s 为单位）之内，对这个办法的调用都会主动地返回。异样比率的阈值范畴是[0.0, 1.0]，代表 0% - 100%。 - 异样数 (
DEGRADE_GRADE_EXCEPTION_COUNT)：当资源近 1 分钟的异样数目超过阈值之后会进行熔断。留神因为统计工夫窗口是分钟级别的，若timeWindow小于 60s，则完结熔断状态后仍可能再进入熔断状态。
更多材料，参考Sentinel官网文档)。
- 均匀响应工夫 (
熔断降级源码
DegradeRule.passCheck办法：
@Override public boolean passCheck(Context context, DefaultNode node, int acquireCount, Object... args) { if (cut.get()) { return false; } ClusterNode clusterNode = ClusterBuilderSlot.getClusterNode(this.getResource()); if (clusterNode == null) { return true; } if (grade == RuleConstant.DEGRADE_GRADE_RT) { // 按均匀响应工夫降级 double rt = clusterNode.avgRt(); if (rt < this.count) { passCount.set(0); return true; } // Sentinel will degrade the service only if count exceeds. // 超出最大RT工夫进行降级 if (passCount.incrementAndGet() < RT_MAX_EXCEED_N) { return true; } } else if (grade == RuleConstant.DEGRADE_GRADE_EXCEPTION_RATIO) { // 依照异样比例降级 double exception = clusterNode.exceptionQps(); double success = clusterNode.successQps(); double total = clusterNode.totalQps(); // if total qps less than RT_MAX_EXCEED_N, pass. if (total < RT_MAX_EXCEED_N) { return true; } double realSuccess = success - exception; if (realSuccess <= 0 && exception < RT_MAX_EXCEED_N) { return true; } if (exception / success < count) { return true; } } else if (grade == RuleConstant.DEGRADE_GRADE_EXCEPTION_COUNT) { // 依照异样数降级 double exception = clusterNode.totalException(); if (exception < count) { return true; } } if (cut.compareAndSet(false, true)) { ResetTask resetTask = new ResetTask(this); // 设定重置工夫窗调度工作 pool.schedule(resetTask, timeWindow, TimeUnit.SECONDS); } return false; }
本文由mirson创作分享， 感激大家的反对， 心愿对大家有所播种!
入群申请，请加WX号：woodblock99