乐趣区

关于java:限流神器Sentinel不了解一下吗

jiezi

概述

书接上回：你来说说什么是限流？, 限流的整体概述中，形容了 限流是什么 ， 限流形式 和限流的实现 。在文章尾部的 分布式限流, 没有做过多的介绍，抉择了放到这篇文章中。给大伙细细解说一下 Sentinel

<div align=center ><img src=”https://p6-juejin.byteimg.com/tos-cn-i-k3u1fbpfcp/999bd67295d6470a8eec329f9e6eb83d~tplv-k3u1fbpfcp-watermark.image”/ width=400></div>

附带最权威的官网 wiki：《Alibaba-Sentinel, 老手指南》

本篇文章源码地址：https://github.com/jaycekon/S…

Sentinel 是啥？

分布式系统的流量防守兵

再援用一下之前我画的图：

流量防守兵 它具备了哪些能力？

Sentinel 的生态环境

随着 Alibaba 的 Java 生态建设，包含 Spring Cloud Alibaba，Rocket，Nacos等多项开源技术的奉献，目前 Sentinel 对分布式的各种利用场景都有了良好的反对和适配，这也是为什么咱们抉择 Sentinel 学习的起因之一（学习成本低，利用场景多）

<div align=center ><img src=”https://p3-juejin.byteimg.com/tos-cn-i-k3u1fbpfcp/c6f0ccb1c49c42c7a745da25dac1f309~tplv-k3u1fbpfcp-watermark.image”/ width=400></div>

Sentinel 外围概念

1、资源

资源 是 Sentinel 中的 外围概念之一 。最罕用的资源是咱们代码中的 Java 办法, 一段代码 ，或者 一个接口。

Java 办法:

@SentinelResource("HelloWorld")
public void helloWorld() {
    // 资源中的逻辑
    System.out.println("hello world");
}

一段代码：

        // 1.5.0 版本开始能够间接利用 try-with-resources 个性，主动 exit entry
try (Entry entry = SphU.entry("HelloWorld")) {
            // 被爱护的逻辑
            System.out.println("hello world");
    } catch (BlockException ex) {
            // 解决被流控的逻辑
        System.out.println("blocked!");
    }

一个接口：

@RestController
public class TestController {@GetMapping("/test")
    public String test(){return "test";}
}

配合控制台应用：

2、规定

Sentinel 中的 规定 提供给用户，针对不同的场景而制订不同的爱护动作，规定的类型包含：

  • 流量 管制规定
  • 熔断 降级规定
  • 零碎爱护 规定
  • 起源访问控制规定
  • 热点参数规定

本文次要会解说 流量 ， 熔断 和 零碎爱护 这三个规定。

定义规定：

    private static void initFlowRules(){List<FlowRule> rules = new ArrayList<>();
        FlowRule rule = new FlowRule();
        // 绑定资源
        rule.setResource("HelloWorld");
        // 限流阈值类型
        rule.setGrade(RuleConstant.FLOW_GRADE_QPS);
        // 数量级别
        rule.setCount(20);
        // 增加到本地内存
        rules.add(rule);
        FlowRuleManager.loadRules(rules);
    }

限流规定 重要属性阐明：

Field 阐明 默认值
resource 资源名，资源名是限流规定的作用对象
count 限流阈值
grade 限流阈值类型，QPS 模式（1）或并发线程数模式（0） QPS 模式
limitApp 流控针对的调用起源 default，代表不辨别调用起源
strategy 调用关系限流策略：间接、链路、关联 依据资源自身（间接）
controlBehavior 流控成果（间接回绝 /WarmUp/ 匀速 + 排队期待），不反对按调用关系限流 间接回绝
clusterMode 是否集群限流 否

Sentinel 限流

1、单机限流

1.1、引入依赖

在上一篇文章中，有提到过 RateLimiter 实现的单机限流，这里介绍一下，应用 Sentinel 实现的单机限流

// 我的项目中引入 sentinel-core 依赖
<dependency>
    <groupId>com.alibaba.csp</groupId>
    <artifactId>sentinel-core</artifactId>
    <version>1.8.1</version>
</dependency>

1.2、定义限流规定

定义爱护规定:

    private static void initFlowRules(){List<FlowRule> rules = new ArrayList<>();
        FlowRule rule = new FlowRule();
        // 绑定资源
        rule.setResource("HelloWorld");
        // 限流阈值类型
        rule.setGrade(RuleConstant.FLOW_GRADE_QPS);
        // 数量级别
        rule.setCount(20);
        // 增加到本地内存
        rules.add(rule);
        FlowRuleManager.loadRules(rules);
    }

1.3、定义限流资源

依据下面形容的 资源 划分，咱们这里次要将 代码块 定义为资源。

public static void main(String[] args) {
    // 配置规定.
    initFlowRules();

    while (true) {
        // 1.5.0 版本开始能够间接利用 try-with-resources 个性，主动 exit entry
        try (Entry entry = SphU.entry("HelloWorld")) {
            // 被爱护的逻辑
            System.out.println("hello world");
    } catch (BlockException ex) {
            // 解决被流控的逻辑
        System.out.println("blocked!");
    }
    }
}

1.4、运行后果

Demo 运行之后，咱们能够在日志 ~/logs/csp/${appName}-metrics.log.xxx 里看到上面的输入:

➜  csp cat com-jaycekon-sentinel-demo-FlowRuleDemo-metrics.log.2021-07-03

|--timestamp-|------date time----|-resource-|p |block|s |e|rt
1625294582000|2021-07-03 14:43:02|HelloWorld|20|1720|20|0|2|0|0|0
1625294583000|2021-07-03 14:43:03|HelloWorld|20|5072|20|0|0|0|0|0
1625294584000|2021-07-03 14:43:04|HelloWorld|20|6925|20|0|0|0|0|0
  • p 代表通过的申请
  • block 代表被阻止的申请
  • s 代表胜利执行实现的申请个数
  • e 代表用户自定义的异样
  • rt 代表均匀响应时长

<div align=center ><img src=”https://p9-juejin.byteimg.com/tos-cn-i-k3u1fbpfcp/277ebb0c20884448ad67485f3aa389f6~tplv-k3u1fbpfcp-watermark.image”/ width=400></div>

Sentinel 的单机限流，和 RateLimiter 有什么区别呢？

Field 分布式环境下实现难度 空间复杂度 工夫复杂度 限度突发流量 平滑限流
令牌桶 高 低 O(1) 高 O(N) 是 是
滑动窗口 中 高 O(N) 中 O(N) 是 绝对实现

附录：《Sentinel – 滑动窗口实现原理》

2、控制台限流

2.1、客户端接入控制台

超具体文档，参考：《Sentinel – 控制台》

Sentinel 提供一个轻量级的开源控制台，它提供机器发现以及衰弱状况治理、监控（单机和集群），规定治理和推送的性能。

下载 Jar 包(21M)，或者下载 源码(4M) 后自行进行编译（不倡议，编译花的工夫比间接下载 jar 包还要久）

https://github.com/alibaba/Se…

编译后，启动命令

java -Dserver.port=8000 -Dcsp.sentinel.dashboard.server=localhost:8000 -Dproject.name=sentinel-dashboard -jar sentinel-dashboard-1.8.1.jar

进入控制台

2.2、引入依赖

客户端须要引入 Transport 模块来与 Sentinel 控制台进行通信。您能够通过 pom.xml 引入 JAR 包

<dependency>
    <groupId>com.alibaba.csp</groupId>
    <artifactId>sentinel-transport-simple-http</artifactId>
    <version>1.8.1</version>
</dependency>

// 重要的依赖，还是提前先写上吧，防止小伙伴找不到了
<dependency>
    <groupId>com.alibaba.csp</groupId>
    <artifactId>sentinel-web-servlet</artifactId>
    <version>1.8.1</version>
</dependency>

而后！！！烦了我一下午的中央来了！！在官网文档中，指出了须要引入 对应的依赖配置 , 好家伙，那么重要的话，你如此轻描淡写，脑壳疼啊！！！

<div align=center ><img src=”https://p3-juejin.byteimg.com/tos-cn-i-k3u1fbpfcp/70dd65404acc4a9c91a909a1456284e9~tplv-k3u1fbpfcp-watermark.image”/ width=400></div>

对应的适配依赖有

  • 云原生微服务体系
  • Web 适配
  • RPC 适配
  • HTTP client 适配
  • Reactive 适配
  • Reactive 适配
  • Apache RocketMQ

好家伙，基本上所有业务场景都笼罩到了！因为我的 Demo 我的项目是基于 SpringBoot，而后想看看 云原生微服务体系下的视频，好家伙，要用 SpringCloud , 想要理解的，能够参考:《Spring-Cloud-Sentinel》

2.3、定义资源

@SpringBootApplication
@Configuration
@RestController
public class SpringBootSentinelApplication {public static void main(String[] args) {SpringApplication.run(SpringBootSentinelApplication.class, args);
    }

    @Bean
    public FilterRegistrationBean sentinelFilterRegistration() {FilterRegistrationBean<Filter> registration = new FilterRegistrationBean<>();
        registration.setFilter(new CommonFilter());
        registration.addUrlPatterns("/*");
        registration.setName("sentinelFilter");
        registration.setOrder(1);

        return registration;
    }
    
    @RequestMapping("/index")
    public String index(){return "hello index";}
    
}

在概述中，咱们有提到过，须要被爱护的资源，能够是 一个代码块 ， 一个办法 或者 一个接口。这里通过 Filter 的 形式，将所有申请都定义为资源（/*）, 那么咱们在申请的过程就会变成这样子：

2.4、运行后果

增加启动参数

-Dserver.port=8088 -Dcsp.sentinel.dashboard.server=localhost:8080 -Dproject.name=jaycekon-sentinel

参数阐明:

  • server.port : 服务启动端口
  • csp.sentinel.dashboard.server : 状态上报机器 ip: 端口
  • project.name : 监控项目名称

运行后果：

2.5、限流配置

流控成果

  • 1、疾速失败：间接失败
  • 2、Warm Up：预热模式，依据 codeFactory 的值（默认 3），从阈值 /codeFactory，通过预热时长，才达到设置的 QPS 阈值。比方设置 QPS 为 90，设置预热为 10 秒，则最后的阈值为 90/3=30，通过 10 秒后才达到 90。
  • 3、排队期待：比方设置阈值为 10，超时工夫为 500 毫秒，当第 11 个申请到的时候，不会间接报错，而是期待 500 毫秒，如果之后阈值还是超过 10，则才会被限流。

运行后果：

3、集群限流

讲了那么多，终于要到外围的 集群限流 计划了，在 秒杀零碎 设计中，咱们谈到很多场景都是以单机作为具体案例进行剖析，如果咱们的零碎要扩容，那么如何做好 限流计划 。假如集群中有 10 台机器，咱们给每台机器设置单机限流阈值为 10 QPS，现实状况下整个集群的限流阈值就为 100 QPS。不过理论状况下流量到每台机器可能会 不平均 ，会导致总量没有到的状况下某些机器就开始限流。因而仅靠单机维度去限度的话会无奈 准确 地限度总体流量。而 集群流控 能够准确地管制整个集群的调用总量，联合 单机限流兜底，能够更好地施展流量管制的成果。

介绍一下集群限流的外围角色：

  • Token Client：集群流控客户端，用于向所属 Token Server 通信申请 token。集群限流服务端会返回给客户端后果，决定是否限流。
  • Token Server：即集群流控服务端，解决来自 Token Client 的申请，依据配置的集群规定判断是否应该发放 token（是否容许通过）。

在嵌入模式下的结构图：

在独立模式下的结构图：

内嵌模式，即 发 Token 的操作，有其中某一个实例实现，其余 Client 通过向 Server 申请，获取拜访许可。

独立模式，即作为独立的 token server 过程启动，独立部署，隔离性好，然而须要额定的部署操作。

3.1、阿里云 AHAS

在上述示例代码中，应用了本地模式的 Demo, 在集群限流的场景，这里用一下 阿里云提供的 AHAS 服务。

控制台地址：https://ahas.console.aliyun.c…

引入依赖：

//sentinel ahas 依赖，包含了 sentinel 的应用依赖
<dependency>
    <groupId>com.alibaba.csp</groupId>
    <artifactId>ahas-sentinel-client</artifactId>
    <version>1.8.8</version>
</dependency>

这里有个要留神的点，AHAS 的依赖，蕴含了 Sentinel，所须要应用到的依赖，包含 sentinel-core,sentinel-web-servlet和sentinel-transport-simple-http。

否则会呈现 Spi 异样 , 如果对 Spi 不太理解，倡议加群发问，嘿嘿～

com.alibaba.csp.sentinel.spi.SpiLoaderException

3.2、开启阿里云 AHAS 服务

这里有官网的开明文档，我就不赘述了，文档地址

在利用防护这里找到 Lincense , 而后增加启动参数：

-Dserver.port=8092 -Dproject.name=jaycekon-sentinel -Dahas.license=d1e21b0c8f2e4d87b5ac460b118dc58d -Dcsp.sentinel.log.use.pid=true

因为咱们要本地启动多实例，因而须要批改服务的多个端口：

java -Dserver.port=8090 -Dproject.name=jaycekon-sentinel -Dahas.license=d1e21b0c8f2e4d87b5ac460b118dc58d  -Dcsp.sentinel.log.use.pid=true -jar sentinel-ahas-0.0.1-SNAPSHOT.jar

java -Dserver.port=8091 -Dproject.name=jaycekon-sentinel -Dahas.license=d1e21b0c8f2e4d87b5ac460b118dc58d  -Dcsp.sentinel.log.use.pid=true -jar sentinel-ahas-0.0.1-SNAPSHOT.jar

java -Dserver.port=8092 -Dproject.name=jaycekon-sentinel -Dahas.license=d1e21b0c8f2e4d87b5ac460b118dc58d  -Dcsp.sentinel.log.use.pid=true -jar sentinel-ahas-0.0.1-SNAPSHOT.jar

产生拜访流量后，能够在大盘看到机器的链接状态：

http://localhost:8092/index

3.3、集群流控规定配置

这里有个两个概念：

  • 集群阀值：指的是，咱们集群总体能通过的访问量，可能存在调配不均的状况（能防止单机误限）。
  • 进化单机：当 Token Server 拜访超时，即无奈从远端获取令牌时，回退到单机限流

测试限流, 只拜访 http://localhost:8092/index

通过手刷（手速过硬～），触碰到限流的临界值，而后整体限流跟咱们预期统一。

进化单机

在集群流控这里，有个 Token 申请超时工夫，Client 申请 Server，而后返回数据后果。整个流程会有网络申请的耗时，在下面的测试流程中，我将超时工夫调大了，每次申请都能拿到 Token，通过批改申请超时工夫，触发进化 单机限流。

运行后果：

3.4、Server 角色转换

在内嵌模式下，通过 HTTP API 的形式，将角色转换为 Server 或 client

http://<ip>:<port>/setClusterMode?mode=<xxx>

其中 mode 为 0 代表 client，1 代表 server，-1 代表敞开。留神利用端须要引入集群限流客户端或服务端的相应依赖。

在独立模式下，咱们能够间接创立对应的 ClusterTokenServer 实例并在 main 函数中通过 start 办法启动 Token Server。

Sentinel 熔断

在 秒杀零碎 的案例中，一个残缺的链路可能蕴含了 下订单 ， 领取 和 物流对接 等多个服务（实际上不止那么少）。在一个残缺的链路中，各个系统通过 rpc/http 的模式进行交互，在上面的链路图中，如果用户抉择的 领取形式，存在 延时过高 ， 服务不稳固 , 或 服务异样 等状况，会导致整个链路没方法实现。最终的后果就是，用户明明抢到了，然而没方法领取，导致订单失落。

古代微服务架构都是 分布式 的，由十分多的 服务 组成。不同服务之间互相调用，组成简单的 调用链路 。以上的问题在链路调用中会产生放大的成果。简单链路上的某一环 不稳固 ，就可能会 层层级联 ，最终导致 整个链路 都不可用。因而咱们须要对不稳固的 弱依赖服务调用 进行熔断降级，临时切断不稳固调用，防止部分不稳固因素导致整体的雪崩 。 熔断降级 作为爱护本身的伎俩，通常在 客户端（调用端）进行配置。

1、熔断降级

增加测试代码

    @RequestMapping("/myError")
    public String error(){if (true){throw new RuntimeException("sentinel run error");
        }
        return "error";
    }

在 Sentinel-Dashboard 中配置降级规定

降级爱护成果：

用户通过拜访接口 /myError , 呈现一次异样后，在接下来的10 秒，都会走降级策略，间接返回。可能很好的爱护服务端防止异样过多，占用机器资源。同时疾速响应用户申请。

2、熔断策略

Sentinel 提供以下几种熔断策略：

  • 慢调用比例 (SLOW_REQUEST_RATIO)：抉择以慢调用比例作为阈值，须要设置容许的慢调用 RT（即最大的响应工夫），申请的响应工夫大于该值则统计为慢调用。当单位统计时长（statIntervalMs）内申请数目大于设置的最小申请数目，并且慢调用的比例大于阈值，则接下来的熔断时长内申请会主动被熔断。通过熔断时长后熔断器会进入探测复原状态（HALF-OPEN 状态），若接下来的一个申请响应工夫小于设置的慢调用 RT 则完结熔断，若大于设置的慢调用 RT 则会再次被熔断。
  • 异样比例 (ERROR_RATIO)：当单位统计时长（statIntervalMs）内申请数目大于设置的最小申请数目，并且异样的比例大于阈值，则接下来的熔断时长内申请会主动被熔断。通过熔断时长后熔断器会进入探测复原状态（HALF-OPEN 状态），若接下来的一个申请胜利实现（没有谬误）则完结熔断，否则会再次被熔断。异样比率的阈值范畴是 [0.0, 1.0]，代表 0% – 100%。
  • 异样数 (ERROR_COUNT)：当单位统计时长内的异样数目超过阈值之后会主动进行熔断。通过熔断时长后熔断器会进入探测复原状态（HALF-OPEN 状态），若接下来的一个申请胜利实现（没有谬误）则完结熔断，否则会再次被熔断。

总结

本文次要具体解说了一下 如何通过 Sentinel 去理论接触 限流和熔断，对于限流的底层实现，后续会有专门的源码剖析篇。对于熔断，本文也没有细说个到底，下一篇文章会给大家带来，熔断是什么，在零碎中到底是怎么理论应用，以及常见的熔断策略。

我的项目源码地址：https://github.com/jaycekon/S…
欢送 Star 和 Fork

点关注，不迷路

好了各位，以上就是这篇文章的全部内容了，我前面会每周都更新几篇高质量的大厂面试和罕用技术栈相干的文章。感激大伙能看到这里，如果这个文章写得还不错，求三连！！！创作不易，感激各位的反对和认可，咱们下篇文章见！

我是 九灵 , 有须要交换的童鞋能够 加我 wx，Jayce-K, 关注公众号：Java 补习课，把握第一手材料！

如果本篇博客有任何谬误，请批评指教，不胜感激！

退出移动版