限流的实现算法有很多，但常见的限流算法有三种：计数器算法、漏桶算法和令牌桶算法。

1.计数器算法

计数器算法是在肯定的工夫距离里，记录申请次数，当申请次数超过该工夫限度时，就把计数器清零，而后从新计算。当申请次数超过距离内的最大次数时，回绝拜访。

计数器算法的实现比较简单，但存在“突刺景象”。

突刺景象是指，比方限流 QPS（每秒查问率）为 100，算法的实现思路就是从第一个申请进来开始计时，在接下来的 1 秒内，每来一个申请，就把计数加 1，如果累加的数字达到了 100，后续的申请就会被全副回绝。等到 1 秒完结后，把计数复原成 0，从新开始计数。如果在单位工夫 1 秒内的前 10 毫秒解决了 100 个申请，那么前面的 990 毫秒会申请回绝所有的申请，咱们把这种景象称为“突刺景象”。

计数器算法的简略实现代码如下：

import java.util.Calendar;import java.util.Date;import java.util.Random;public class CounterLimit {    // 记录上次统计工夫    static Date lastDate = new Date();    // 初始化值    static int counter = 0;    // 限流办法    static boolean countLimit() {        // 获取以后工夫        Date now = new Date();        Calendar calendar = Calendar.getInstance();        calendar.setTime(now);        // 以后分        int minute = calendar.get(Calendar.MINUTE);        calendar.setTime(lastDate);        int lastMinute = calendar.get(Calendar.MINUTE);        if (minute != lastMinute) {            lastDate = now;            counter = 0;        }        ++counter;        return counter >= 100; // 判断计数器是否大于每分钟限定的值。    }    // 测试方法    public static void main(String[] args) {        for (; ; ) {            // 模仿一秒            try {                Thread.sleep(1000);            } catch (InterruptedException e) {                e.printStackTrace();            }            Random random = new Random();            int i = random.nextInt(3);            // 模仿1秒内申请1次            if (i == 1) {                if (countLimit()) {                    System.out.println("限流了" + counter);                } else {                    System.out.println("没限流" + counter);                }            } else if (i == 2) { // 模仿1秒内申请2次                for (int j = 0; j < 2; j++) {                    if (countLimit()) {                        System.out.println("限流了" + counter);                    } else {                        System.out.println("没限流" + counter);                    }                }            } else { // 模仿1秒内申请10次                for (int j = 0; j < 10; j++) {                    if (countLimit()) {                        System.out.println("限流了" + counter);                    } else {                        System.out.println("没限流" + counter);                    }                }            }        }    }}

2.漏桶算法

漏桶算法的实现思路是，有一个固定容量的漏桶，水流（申请）能够依照任意速率先进入到漏桶里，但漏桶总是以固定的速率匀速流出，当流入量过大的时候（超过桶的容量），则多余水流（申请）间接溢出。如下图所示：

漏桶算法提供了一种机制，通过它能够让突发流量被整形，以便为零碎提供稳固的申请，比方 Sentinel 中流量整形（匀速排队性能）就是此算法实现的，如下图所示：

更多 Sentinel 内容详见：https://mp.weixin.qq.com/s/nF5f18BP8hscqIEmIFRN8Q

3.令牌桶算法

令牌按固定的速率被放入令牌桶中，桶中最多寄存 N 个令牌（Token），当桶装满时，新增加的令牌被抛弃或回绝。当申请达到时，将从桶中删除 1 个令牌。令牌桶中的令牌不仅能够被移除，还能够往里增加，所以为了保障接口随时有数据通过，必须不停地往桶里加令牌。由此可见，往桶里加令牌的速度就决定了数据通过接口的速度。咱们通过管制往令牌桶里加令牌的速度从而管制接口的流量。
令牌桶的实现原理如下图所示：

4.漏桶算法 VS 令牌桶算法

漏桶算法是依照常量固定速率流出申请的，流入申请速率任意，当流入的申请数累积到漏桶容量时，新流入的申请被回绝。令牌桶算法是依照固定速率往桶中增加令牌的，申请是否被解决须要看桶中的令牌是否足够，当令牌数减为零时，回绝新的申请。令牌桶算法容许突发申请，只有有令牌就能够解决，容许肯定水平的突发流量。漏桶算法限度的是常量流出速率，从而使突发流入速率平滑。

比方服务器闲暇时，实践上应用漏桶算法服务器能够间接解决一次洪峰（一次洪水过程的最大流量），然而漏桶算法解决申请的速率是恒定的，因而，后期服务器资源只能依据恒定的漏水速度逐渐解决申请，无奈间接解决这次洪峰。而应用令牌桶算法就不存在这个问题，因为它能够先把令牌桶一次性装满，解决一次洪峰之后再走限流。

总结

限流的常见算法有以下 3 种：

  1. 计数器算法：实现简略，但有突刺景象；
  2. 漏桶算法：固定速率解决申请，解决任意流量更加平滑，能够实现流量整形；
  3. 令牌桶算法：通过管制桶中的令牌实现限流，能够解决肯定的突发流量，比方解决一次洪峰。

参考 & 鸣谢

《散布式微服务架构》

https://blog.csdn.net/chengqi...

本文已收录到 Gitee 开源仓库《Java 面试突击》，其中蕴含的内容有：Redis、JVM、并发、并发、MySQL、Spring、Spring MVC、Spring Boot、Spring Cloud、MyBatis、设计模式、音讯队列等模块。Java 面试有它就够了：最全 Java 面试题库(2023版)，继续更新...