乐趣区

如何高并发优雅的做限流性能强劲

jiezi

技术分析

如果你比较关注现在的技术形式，就会知道微服务现在火的一塌糊涂，当然，事物都有两面性，微服务也不是解决技术，架构等问题的万能钥匙。如果服务化带来的利大于弊，菜菜还是推荐将系统服务化。随着服务化的进程的不断演化，各种概念以及技术随之而来。任何一种方案都是为了解决问题而存在。比如：熔断设计，接口幂等性设计，重试机制设计，还有今天菜菜要说的限流设计，等等这些技术几乎都充斥在每个系统中。

就今天来说的限流，书面意思和作用一致，就是为了限制，通过对并发访问或者请求进行限速或者一个时间窗口内的请求进行限速来保护系统。一旦达到了限制的临界点，可以用拒绝服务、排队、或者等待的方式来保护现有系统，不至于发生雪崩现象。

限流就像做帝都的地铁一般，如果你住在西二旗或者天通苑也许会体会的更深刻一些。我更习惯在技术角度用消费者的角度来阐述，需要限流的一般原因是消费者能力有限，目的为了避免超过消费者能力而出现系统故障。当然也有其他类似的情况也可以用限流来解决。

限流的表现形式上大部分可以分为两大类：

  1. 限制消费者数量。也可以说消费的最大能力值。比如：数据库的连接池是侧重的是总的连接数。还有菜菜以前写的线程池，本质上也是限制了消费者的最大消费能力。
  2. 可以被消费的请求数量。这里的数量可以是瞬时并发数，也可以是一段时间内的总并发数。菜菜今天要帮 YY 妹子做的也是这个。

除此之外，限流还有别的表现形式，例如按照网络流量来限流，按照 cpu 使用率来限流等。按照限流的范围又可以分为分布式限流，应用限流，接口限流等。无论怎么变化，限流都可以用以下图来表示：

常用技术实现

令牌桶算法

令牌桶是一个存放固定容量令牌的桶，按照固定速率往桶里添加令牌，填满了就丢弃令牌，请求是否被处理要看桶中令牌是否足够，当令牌数减为零时则拒绝新的请求。令牌桶允许一定程度突发流量，只要有令牌就可以处理，支持一次拿多个令牌。令牌桶中装的是令牌。

漏桶算法

漏桶一个固定容量的漏桶，按照固定常量速率流出请求，流入请求速率任意，当流入的请求数累积到漏桶容量时，则新流入的请求被拒绝。漏桶可以看做是一个具有固定容量、固定流出速率的队列，漏桶限制的是请求的流出速率。漏桶中装的是请求。

计数器

有时我们还会使用计数器来进行限流，主要用来限制一定时间内的总并发数，比如数据库连接池、线程池、秒杀的并发数；计数器限流只要一定时间内的总请求数超过设定的阀值则进行限流，是一种简单粗暴的总数量限流，而不是平均速率限流。

除此之外，其实根据不同的业务场景，还可以出现很多不同的限流算法，但是总的规则只有一条：只要符合当前业务场景的限流策略就是最好的

限流的其他基础知识请百度！！

另一种方式解决妹子问题

回归问题，YY 妹子的问题，菜菜不准备用以上所说的几种算法来帮助她。菜菜准备用一个按照时间段限制请求总数的方式来限流。总体思路是这样：

  1. 用一个环形来代表通过的请求容器。
  2. 用一个指针指向当前请求所到的位置索引，来判断当前请求时间和当前位置上次请求的时间差，依此来判断是否被限制。
  3. 如果请求通过，则当前指针向前移动一个位置，不通过则不移动位置
  4. 重复以上步骤 直到永远 …….

用代码说话才是王道

以下代码不改或者稍微修改可用于生产环境

以下代码的核心思路是这样的：指针当前位置的时间元素和当前时间的差来决定是否允许此次请求，这样通过的请求在时间上表现的比较平滑。

思路远比语言重要，任何语言也可为之，请 phper，golanger，javaer 自行实现一遍即可

 // 限流组件, 采用数组做为一个环
    class LimitService
    {
        // 当前指针的位置
        int currentIndex = 0;
        // 限制的时间的秒数，即：x 秒允许多少请求
        int limitTimeSencond = 1;
        // 请求环的容器数组
        DateTime?[] requestRing = null;
        // 容器改变或者移动指针时候的锁
        object objLock = new object();

        public LimitService(int countPerSecond,int  _limitTimeSencond)
        {requestRing = new DateTime?[countPerSecond];
            limitTimeSencond= _limitTimeSencond;
        }

        // 程序是否可以继续
        public bool IsContinue()
        {lock (objLock)
            {var currentNode = requestRing[currentIndex];
                // 如果当前节点的值加上设置的秒 超过当前时间，说明超过限制
                if (currentNode != null&& currentNode.Value.AddSeconds(limitTimeSencond) >DateTime.Now)
                {return false;}
                // 当前节点设置为当前时间
                requestRing[currentIndex] = DateTime.Now;
                // 指针移动一个位置
                MoveNextIndex(ref currentIndex);
            }            
            return true;
        }
        // 改变每秒可以通过的请求数
        public bool ChangeCountPerSecond(int countPerSecond)
        {lock (objLock)
            {requestRing = new DateTime?[countPerSecond];
                currentIndex = 0;
            }
            return true;
        }

        // 指针往前移动一个位置
        private void MoveNextIndex(ref int currentIndex)
        {if (currentIndex != requestRing.Length - 1)
            {currentIndex = currentIndex + 1;}
            else
            {currentIndex = 0;}
        }
    }

测试程序如下：

 static  LimitService l = new LimitService(1000, 1);
        static void Main(string[] args)
        {
            int threadCount = 50;
            while (threadCount >= 0)
            {
                Thread t = new Thread(s =>
                {Limit();
                });
                t.Start();
                threadCount--;
            }           

            Console.Read();}

        static void Limit()
        {
            int i = 0;
            int okCount = 0;
            int noCount = 0;
            Stopwatch w = new Stopwatch();
            w.Start();
            while (i < 1000000)
            {var ret = l.IsContinue();
                if (ret)
                {okCount++;}
                else
                {noCount++;}
                i++;
            }
            w.Stop();
            Console.WriteLine($"共用{w.ElapsedMilliseconds}, 允许：{okCount},  拦截：{noCount}");
        }

测试结果如下：


最大用时 15 秒, 共处理请求 1000000*50=50000000 次
并未发生 GC 操作，内存使用率非常低，每秒处理 300 万次 + 请求。以上程序修改为 10 个线程，大约用时 4 秒之内

如果是强劲的服务器或者线程数较少情况下处理速度将会更快

写在最后

以上代码虽然简单，但是却为限流的核心代码（其实还有优化余地），经过其他封装可以适用于 Webapi 的 filter 或其他场景。妹子问题解决了，要不要让她请我吃个饭呢？

添加关注，查看更精美版本，收获更多精彩

退出移动版