关于javascript:这个-Redis-连接池的新监控方式针不戳我再加一点佐料

33次阅读

共计 8826 个字符，预计需要花费 23 分钟才能阅读完成。

这是我参加 8 月更文挑战的第 12 天

Lettuce 是一个 Redis 连接池，和 Jedis 不一样的是，Lettuce 是次要基于 Netty 以及 ProjectReactor 实现的异步连接池。因为基于 ProjectReactor，所以能够间接用于 spring-webflux 的异步我的项目，当然，也提供了同步接口。

在咱们的微服务项目中，应用了 Spring Boot 以及 Spring Cloud。并且应用了 spring-data-redis 作为连贯 Redis 的库。并且连接池应用的是 Lettuce。同时，咱们线上的 JDK 是 OpenJDK 11 LTS 版本，并且每个过程都关上了 JFR 记录。对于 JFR，能够参考这个系列：JFR 全解

在 Lettuce 6.1 之后，Lettuce 也引入了基于 JFR 的监控事件。参考：events.flight-recorder

  1. Redis 连贯相干事件：

ConnectEvent：当尝试与 Redis 建设连贯之前，就会收回这个事件。
ConnectedEvent：连贯建设的时候会收回的事件，蕴含建设连贯的近程 IP 与端口以及应用的 Redis URI 等信息，对应 Netty 其实就是 ChannelHandler 中的 channelActive 回调一开始就会收回的事件。
ConnectionActivatedEvent：在实现 Redis 连贯一系列初始化操作之后（例如 SSL 握手，发送 PING 心跳命令等等），这个连贯能够用于执行 Redis 命令时收回的事件。
ConnectionDeactivatedEvent：在没有任何正在解决的命令并且 isOpen() 是 false 的状况下，连贯就不是沉闷的了，筹备要被敞开。这个时候就会收回这个事件。
DisconnectedEvent：连贯真正敞开或者重置时，会收回这个事件。
ReconnectAttemptEvent：Lettuce 中的 Redis 连贯会被保护为长连贯，当连贯失落，会主动重连，须要重连的时候，会收回这个事件。
ReconnectFailedEvent：当重连并且失败的时候的时候，会收回这个事件。

  1. Redis 集群相干事件：

AskRedirectionEvent：针对 Redis slot 处于迁徙状态时会返回 ASK，这时候会收回这个事件。
MovedRedirectionEvent：针对 Redis slot 不在以后节点上时会返回 MOVED，这时候会收回这个事件。
TopologyRefreshEvent：如果启用了集群拓补刷新的定时工作，在查问集群拓补的时候，就会收回这个事件。然而，这个须要在配置中开启定时查看集群拓补的工作，参考 cluster-topology-refresh
ClusterTopologyChangedEvent：当 Lettuce 发现 Redis 集群拓补发生变化的时候，就会收回这个事件。

  1. Redis 命令相干事件：

CommandLatencyEvent：Lettuce 会统计每个命令的响应工夫，并定时收回这个事件。这个也是须要手动配置开启的，前面会提到如何开启。
CommandStartedEvent：开始执行某一指令的时候会收回这个事件。
CommandSucceededEvent：指令执行胜利的时候会收回这个事件。
CommandFailedEvent：指令执行失败的时候会收回这个事件。

Lettuce 的监控是基于事件散发与监听机制的设计，其外围接口是 EventBus:

EventBus.java

public interface EventBus {

// 获取 Flux，通过 Flux 订阅，能够容许多个订阅者
Flux<Event> get();
// 公布事件
void publish(Event event);

}
复制代码
其默认实现为 DefaultEventBus，

public class DefaultEventBus implements EventBus {

private final DirectProcessor<Event> bus;
private final FluxSink<Event> sink;
private final Scheduler scheduler;
private final EventRecorder recorder = EventRecorder.getInstance();

public DefaultEventBus(Scheduler scheduler) {this.bus = DirectProcessor.create();
    this.sink = bus.sink();
    this.scheduler = scheduler;
}

@Override
public Flux<Event> get() {
    // 如果生产不过去间接抛弃
    return bus.onBackpressureDrop().publishOn(scheduler);
}

@Override
public void publish(Event event) {
    // 调用 recorder 记录
    recorder.record(event);
    // 调用 recorder 记录之后，再公布事件
    sink.next(event);
}

}
复制代码
在默认实现中，咱们发现公布一个事件首先要调用 recorder 记录，之后再放入 FluxSink 中进行事件公布。目前 recorder 有理论作用的实现即基于 JFR 的 JfrEventRecorder. 查看源码：

JfrEventRecorder

public void record(Event event) {

LettuceAssert.notNull(event, "Event must not be null");
// 应用 Event 创立对应的 JFR Event，之后间接 commit，即提交这个 JFR 事件到 JVM 的 JFR 记录中
jdk.jfr.Event jfrEvent = createEvent(event);
if (jfrEvent != null) {jfrEvent.commit();
}

}

private jdk.jfr.Event createEvent(Event event) {

try {
    // 获取结构器，如果结构器是 Object 的结构器，代表没有找到这个 Event 对应的 JFR Event 的结构器
    Constructor<?> constructor = getEventConstructor(event);
    if (constructor.getDeclaringClass() == Object.class) {return null;}
    // 应用结构器创立 JFR Event
    return (jdk.jfr.Event) constructor.newInstance(event);
} catch (ReflectiveOperationException e) {throw new IllegalStateException(e);
}

}

//Event 对应的 JFR Event 结构器缓存
private final Map<Class<?>, Constructor<?>> constructorMap = new HashMap<>();

private Constructor<?> getEventConstructor(Event event) throws NoSuchMethodException {

Constructor<?> constructor;
// 简而言之，就是查看缓存 Map 中是否存在这个 class 对应的 JFR Event 结构器，有则返回，没有则尝试发现
synchronized (constructorMap) {constructor = constructorMap.get(event.getClass());
}
if (constructor == null) {

    // 这个发现的形式比拟粗犷，间接寻找与以后 Event 的同包门路下的以 Jfr 结尾，前面跟着以后 Event 名称的类是否存在
    // 如果存在就获取他的第一个结构器（无参结构器），不存在就返回 Object 的结构器
    String jfrClassName = event.getClass().getPackage().getName() + ".Jfr" + event.getClass().getSimpleName();

    Class<?> eventClass = LettuceClassUtils.findClass(jfrClassName);

    if (eventClass == null) {constructor = Object.class.getConstructor();
    } else {constructor = eventClass.getDeclaredConstructors()[0];
        constructor.setAccessible(true);
    }

    synchronized (constructorMap) {constructorMap.put(event.getClass(), constructor);
    }
}

return constructor;

}
复制代码
发现这块代码并不是很好，每次读都要获取锁，所以我做了点批改并提了一个 Pull Request：reformat getEventConstructor for JfrEventRecorder not to synchronize for each read

由此咱们能够晓得，一个 Event 是否有对应的 JFR Event 通过查看是否有同门路的以 Jfr 结尾前面跟着本人名字的类即可。目前能够发现：

io.lettuce.core.event.connection 包：ConnectedEvent -> JfrConnectedEventConnectEvent -> JfrConnectedEventConnectionActivatedEvent -> JfrConnectionActivatedEventConnectionCreatedEvent -> JfrConnectionCreatedEventConnectionDeactivatedEvent -> JfrConnectionDeactivatedEventDisconnectedEvent -> JfrDisconnectedEventReconnectAttemptEvent -> JfrReconnectAttemptEventReconnectFailedEvent -> JfrReconnectFailedEvent
io.lettuce.core.cluster.event 包：AskRedirectionEvent -> JfrAskRedirectionEventClusterTopologyChangedEvent -> JfrClusterTopologyChangedEventMovedRedirectionEvent -> JfrMovedRedirectionEventAskRedirectionEvent -> JfrTopologyRefreshEvent
io.lettuce.core.event.command 包：CommandStartedEvent -> 无 CommandSucceededEvent -> 无 CommandFailedEvent -> 无
io.lettuce.core.event.metrics 包：、CommandLatencyEvent -> 无
咱们能够看到，以后针对指令，并没有 JFR 监控，然而对于咱们来说，指令监控反而是最重要的。咱们思考针对指令相干事件增加 JFR 对应事件

如果对 io.lettuce.core.event.command 包下的指令事件生成对应的 JFR，那么这个事件数量有点太多了（咱们一个利用实例可能每秒执行好几十万个 Redis 指令）。所以咱们偏向于针对 CommandLatencyEvent 增加 JFR 事件。

CommandLatencyEvent 蕴含一个 Map：

private Map<CommandLatencyId, CommandMetrics> latencies;
复制代码
其中 CommandLatencyId 蕴含 Redis 连贯信息，以及执行的命令。CommandMetrics 即工夫统计，蕴含：

收到 Redis 服务器响应的工夫指标，通过这个判断是否是 Redis 服务器响应慢。
解决完 Redis 服务器响应的工夫指标，可能因为利用实例过忙导致响应始终没有解决完，通过这个与收到 Redis 服务器响应的工夫指标比照判断利用解决花的工夫。
这两个指标都蕴含如下信息：

最短时间
最长工夫
百分位工夫，默认是前 50%，前 90%，前 95%，前 99%，前 99.9%，对应源码：MicrometerOptions: public static final double[] DEFAULT_TARGET_PERCENTILES = new double[] {0.50, 0.90, 0.95, 0.99, 0.999};
咱们想要实现针对每个不同 Redis 服务器每个命令都能通过 JFR 查看一段时间内响应工夫指标的统计，能够这样实现：

package io.lettuce.core.event.metrics;

import jdk.jfr.Category;
import jdk.jfr.Event;
import jdk.jfr.Label;
import jdk.jfr.StackTrace;

@Category({“Lettuce”, “Command Events”})
@Label(“Command Latency Trigger”)
@StackTrace(false)
public class JfrCommandLatencyEvent extends Event {

private final int size;

public JfrCommandLatencyEvent(CommandLatencyEvent commandLatencyEvent) {this.size = commandLatencyEvent.getLatencies().size();
    commandLatencyEvent.getLatencies().forEach((commandLatencyId, commandMetrics) -> {JfrCommandLatency jfrCommandLatency = new JfrCommandLatency(commandLatencyId, commandMetrics);
        jfrCommandLatency.commit();});
}

}
复制代码
package io.lettuce.core.event.metrics;

import io.lettuce.core.metrics.CommandLatencyId;
import io.lettuce.core.metrics.CommandMetrics;
import jdk.jfr.Category;
import jdk.jfr.Event;
import jdk.jfr.Label;
import jdk.jfr.StackTrace;

import java.util.concurrent.TimeUnit;

@Category({“Lettuce”, “Command Events”})
@Label(“Command Latency”)
@StackTrace(false)
public class JfrCommandLatency extends Event {

private final String remoteAddress;
private final String commandType;
private final long count;
private final TimeUnit timeUnit;
private final long firstResponseMin;
private final long firstResponseMax;
private final String firstResponsePercentiles;
private final long completionResponseMin;
private final long completionResponseMax;
private final String completionResponsePercentiles;

public JfrCommandLatency(CommandLatencyId commandLatencyId, CommandMetrics commandMetrics) {this.remoteAddress = commandLatencyId.remoteAddress().toString();
    this.commandType = commandLatencyId.commandType().toString();
    this.count = commandMetrics.getCount();
    this.timeUnit = commandMetrics.getTimeUnit();
    this.firstResponseMin = commandMetrics.getFirstResponse().getMin();
    this.firstResponseMax = commandMetrics.getFirstResponse().getMax();
    this.firstResponsePercentiles = commandMetrics.getFirstResponse().getPercentiles().toString();
    this.completionResponseMin = commandMetrics.getCompletion().getMin();
    this.completionResponseMax = commandMetrics.getCompletion().getMax();
    this.completionResponsePercentiles = commandMetrics.getCompletion().getPercentiles().toString();}

}
复制代码
这样，咱们就能够这样剖析这些事件：

首先在事件浏览器中，抉择 Lettuce -> Command Events -> Command Latency，右键应用事件创立新页：

在创立的事件页中，依照 commandType 分组，并且将感兴趣的指标显示到图表中：

针对这些批改，我也向社区提了一个 Pull Request：fix #1820 add JFR Event for Command Latency

在 Spring Boot 中（即减少了 spring-boot-starter-redis 依赖），咱们须要手动关上 CommandLatencyEvent 的采集：

@Configuration(proxyBeanMethods = false)
@Import({LettuceConfiguration.class})
// 须要强制在 RedisAutoConfiguration 进行主动装载
@AutoConfigureBefore(RedisAutoConfiguration.class)
public class LettuceAutoConfiguration {
}
复制代码
import io.lettuce.core.event.DefaultEventPublisherOptions;
import io.lettuce.core.metrics.DefaultCommandLatencyCollector;
import io.lettuce.core.metrics.DefaultCommandLatencyCollectorOptions;
import io.lettuce.core.resource.DefaultClientResources;
import org.springframework.context.annotation.Bean;
import org.springframework.context.annotation.Configuration;

import java.time.Duration;

@Configuration(proxyBeanMethods = false)
public class LettuceConfiguration {

/**
 * 每 10s 采集一次命令统计
 * @return
 */
@Bean
public DefaultClientResources getDefaultClientResources() {DefaultClientResources build = DefaultClientResources.builder()
            .commandLatencyRecorder(
                    new DefaultCommandLatencyCollector(
                            // 开启 CommandLatency 事件采集，并且配置每次采集后都清空数据
                            DefaultCommandLatencyCollectorOptions.builder().enable().resetLatenciesAfterEvent(true).build())
            )
            .commandLatencyPublisherOptions(
                    // 每 10s 采集一次命令统计
                    DefaultEventPublisherOptions.builder().eventEmitInterval(Duration.ofSeconds(10)).build()).build();
    return build;
}

}
如果你感觉这篇文章对你有点用的话，麻烦请给咱们的开源我的项目点点 star:
http://github.crmeb.net/u/defu 不胜感激！

正文完
javascript
发表至： javascript
2021-08-12
 0
关于javascript:限制请求数量函数
前端面试每日-31-第215天
开发者日报 2019年3月30日
vue多页面项目中路由如何使用history模式