乐趣区

关于腾讯云:使用腾讯云-API-网关实现多维度精细化限流

jiezi

一个零碎的解决能力是有下限的，当遇到抢购等高并发场景时，如果不采取任何措施，大量的申请会使得零碎在短时间内解体，造成不可预计的结果。这时就须要应用 「限流」 来对系统进行爱护。

「限流」是指限度并发拜访数或者限度一个工夫窗口内容许解决的申请数量来爱护零碎，一旦达到限度数量，则对以后申请进行解决采取对应的回绝措施，比方跳转到谬误页面、拒绝请求等。从实质上来说，「限流」的次要作用是损失一部分用户的可用性，为大部分用户提供稳固牢靠的服务。「限流」是 API 网关最外围的能力之一，本文将带您理解如何应用腾讯云 API 网关实现多维度，精细化的限流，最大水平上爱护您的业务平安。

01. 应用 API 网关实现限流

<img src=”https://main.qcloudimg.com/raw/11bb71b36b4b185122063948756c489e.png” width=”700″/>

如图，在腾讯云 API 网关上次要能够通过 3 个方面进行流量治理，爱护后端平安：

  1. 应用流量管制插件实现多维度精细化限流；
  2. 反对在 API 网关上调整主次业务限流值，为外围业务调配更多资源；
  3. API 网关提供欠缺的实时日志、监控、告警能力，不便即时调整限流策略。

计划劣势

  • 免革新

限流策略都收敛在网关层，无需革新后盾服务即可接入；

  • 维度多

反对多种维度的限流，大到整个服务，小到某个用户都能够设置限流。同时反对各种维度间的自由组合，满足的业务场景多；

  • 性能好

基于开源的经典限流算法优化，同等条件下性能优于传统的解决方案（如 Nginx 限流），限流性能自身简直不影响接口性能；

  • 反对流量剖析

提供丰盛的流量看板和反对实时查问流量数据的云 API，可基于流量数据分析，优化限流策略。

02.「API 网关」流量管制插件

应用流量管制插件是 API 网关提供的进行流控限度的次要形式，反对设置三种资源维度（API、利用、ClientIP）和四种工夫维度（秒、分钟、小时、天）的限流。插件中还反对设置非凡的利用和非凡 ClientIP，特例的限流值将笼罩默认的利用、ClientIP 的限流值。

您可创立根底流控插件并绑定到 API 失效，以爱护您的后端服务。流控插件的应用步骤如下：

  1. 登录 API 网关控制台。
  • 控制台地址：https://console.cloud.tencent…
  1. 在左侧导航栏，单击「插件」，进入插件列表页，单击页面左上角的「新建」，抉择插件类型为「根底流量管制」，新建一个根底流量管制插件，依照您的理论业务需要配置后，点击「保留」按钮。

<img src=”https://main.qcloudimg.com/raw/acc68c89f24fdbf6a9eb4bf290f24f66.png” width=”700″/>

  1. 在插件列表中选中刚刚创立好的插件，点击操作列的「绑定 API」，在绑定 API 弹窗中抉择服务和环境，并抉择须要绑定插件的 API。

<img src=”https://main.qcloudimg.com/raw/fc05e39e3082d526cabd48eb7c9c3cc3.png” width=”700″/>

  1. 单击「确定」，即可将插件绑定到 API，此时插件的配置曾经对 API 失效。

03.「API 网关」服务降级

服务降级是限流的罕用伎俩，其次要思路是在后端压力剧增的状况下，依据以后业务状况及流量对一些服务和页面有策略的降级，以此开释服务器资源以保障外围工作的失常运行。通过 API 网关的实例、服务、API 限流性能能够便捷的实现服务降级。

1. 通过 API 网关服务辨别不同业务模块

<img src=”https://main.qcloudimg.com/raw/adb1baa6a82482bbfa1fb2558b6595a9.png” width=”700″/>

专享实例可提供更高的性能，当您通过 API 网关服务来辨别不同业务模块时，可从逻辑上辨别主次业务，将主要业务落在共享实例，将外围业务落在专享实例中，以便为外围业务提供更多资源。两种实例间反对无感知的迁徙切换，当业务逻辑变动时，也能不便的进行调整。

2. 通过 API 网关 API 辨别不同业务模块

<img src=”https://main.qcloudimg.com/raw/e98e61c4fc055bb92b0f7e765865a06d.png” width=”700″/>

当您通过 API 网关来辨别不同业务模块时，业务相干的一组 API 都处于同一个服务下，该服务的 QPS 下限是固定的；因而，您可返回 API 详情页，为外围 API 设置高 QPS 下限，为此要 API 设置低 QPS 下限，采纳「弃车保帅」的策略，保障外围业务的拜访。

04.「API 网关」实时流量监控

API 网关基于云日志服务 CLS 和云监控提供欠缺的实时日志、监控、告警能力，目前反对的监控指标包含申请数、出流量、响应工夫、谬误数等，所有监控指标都反对 1 分钟、5 分钟、1 小时、1 天四种工夫维度，也凋谢了规范的云 API 供用户调用查问。

您能够在抢购等高并发流动期间，通过控制台监控面板或云 API 实时监控业务流量的变动，依据理论状况一直主动或手动调整限流策略，以达到最好的限流成果。

<img src=”https://main.qcloudimg.com/raw/65a88eaf7aa6bf9de36c119ca9a818e5.png” width=”700″/>

05.「API 网关」限流技术劣势

腾讯云 API 网关限流是基于经典令牌桶算法进行优化，性能较通用计划有了无效晋升，依赖腾讯云上高可用高性能的中控平台，具备以下劣势：

  • 可能无效管制 API 均匀申请频率；
  • 平滑解决零碎负载，无力应答流量突增；
  • 动静计算令牌速率，缩小性能损耗；
  • 多维度集群化的高精度流控，全力保障后端服务平安。

<img src=”https://main.qcloudimg.com/raw/4dad284376842601724ad38745424e8f.png” width=”700″/>

将来瞻望

目前腾讯云 API 网关曾经反对了十分弱小的限流能力，咱们也在此基础上一直深耕摸索，将来的重点一方面是一直优化限流算法，提供极致的性能；另一方面 API 网关将推出基于申请参数的限流能力，满足更多限流场景，敬请期待！

06. 直播预报，参加有礼 🎁

参加直播互动，将有机会 收费取得 腾讯视频 VIP 月卡 1 张！

点击预约直播 8 月 16 日，晚 7 点见！

<img src=”https://main.qcloudimg.com/raw/96fcfe58d83bd7d7688354bc432955a6.png” width=”500″/>

One More Thing

立刻体验腾讯云 Serverless Demo，支付 Serverless 新用户礼包 👉 腾讯云 Serverless 老手体验。

退出移动版