共计 9322 个字符，预计需要花费 24 分钟才能阅读完成。
在本模块中，我将把几个罕用的监控局部给梳理一下。后面咱们提到过，在性能监控图谱中，有操作系统、应用服务器、中间件、队列、缓存、数据库、网络、前端、负载平衡、Web 服务器、存储、代码等很多须要监控的点。显然这些监控点不能在一个专栏中全副笼罩并一一细化，我只能找最罕用的几个，做些逻辑思路的阐明，同时也把具体的实现形容进去。如果你遇到了其余的组件，也须要一一实现这些监控。
在本篇中，次要想说明确下图的这个监控逻辑。
这应该是当初最风行的一套监控逻辑了吧。我明天把常见的应用 Grafana、Prometheus、InfluxDB、Exporters 的数据展现形式说一下，如果你刚进入性能测试畛域，也能有一个理性的意识。
有测试工具，有监控工具，能力做后续的性能剖析和瓶颈定位，所以有必要把这些工具的逻辑跟你摆一摆。
所有做性能的人都应该晓得一点，不论数据以什么样的模式展现，最要紧的还是看数据的起源和含意，以便做出正确的判断。
我先阐明一下 JMeter 和 node_exporter 到 Grafana 的数据展现逻辑。至于其余的 Exporter，我就不再解释这个逻辑了，只说监控剖析的局部。
JMeter+InfluxDB+Grafana 的数据展现逻辑
个别状况下，咱们用 JMeter 做压力测试时，都是应用 JMeter 的控制台来查看后果。如下图所示：
或者装个插件来看后果：
或者用 JMeter 来生成 HTML：
这样看都没有问题，咱们在后面也强调过，对于压力工具来说，咱们最多只关怀三条曲线的数据：TPS（T 由测试指标定义）、响应工夫、错误率。这里的错误率还只是辅助排查问题的曲线，没有问题时，只看 TPS 和响应工夫即可。
不过采取以上三种形式有几个方面的问题
- 整顿后果时比拟浪费时间。
- 在 GUI 用插件看曲线，做高并发时并不事实。
- 在场景运行工夫比拟长的时候，采纳生成 HTML 的形式，会呈现耗费内存过大的状况，而实际上，在生成的后果图中，有很多生成的图咱们并不是那么关注。
- 生成的后果保留之后再查看比拟麻烦，还要一个个去找。
那么如何解决这几个问题呢？
用 JMeter 的 Backend Listener 帮咱们实时发送数据到 InfluxDB 或 Graphite 能够解决这样的问题。
Graphite Backend Listener 的反对是在 JMeter 2.13 版本，InfluxdDB Backend Listener 的反对是在 JMeter 3.3 的版本，它们都是用异步的形式把数据发送进去，以便查看。
其实有这个 JMeter 发送给 InfluxDB 的数据之后，咱们不须要看下面的那些 HTML 数据，也能够直观地看到零碎性能的性能趋势。
并且这样保留下来的数据，在测试完结后想再次查看也比拟不便比对。
JMeter+InfluxDB+Grafana 的构造如下：
在这个构造中，JMeter 发送压力到服务器的同时，统计下 TPS、响应工夫、线程数、错误率等信息。默认每 30 秒在控制台输入一次后果（在 jmeter.properties 中有一个参数 #summariser.interval=30 能够管制）。
配置了 Backend Listener 之后，将统计出的后果异步发送到 InfluxDB 中。最初在 Grafana 中配置 InfluxDB 数据源和 JMeter 显示模板。
而后就能够实时查看 JMeter 的测试后果了，这里看到的数据和控制台的数据是一样。
但如果这么简略就说完了，这篇文章也就没价值了。上面咱们来说一下，数据的传输和展现逻辑。
JMeter 中 Backend Listener 的配置
上面咱们就 InfluxDB 的 Backend Listener 做个阐明。它的配置比较简单，在脚本中加上即可。
咱们先配置好 influxdb Url、application 等信息，application 这个配置能够看成是场景名。
那么 JMeter 如何将数据发给 InfluxDB 呢？请看源码中的要害代码，如下所示：
private void addMetrics(String transaction, SamplerMetric metric) {
// FOR ALL STATUS
addMetric(transaction, metric.getTotal(), metric.getSentBytes(), metric.getReceivedBytes(), TAG_ALL, metric.getAllMean(), metric.getAllMinTime(),
metric.getAllMaxTime(), allPercentiles.values(), metric::getAllPercentile);
// FOR OK STATUS
addMetric(transaction, metric.getSuccesses(), null, null, TAG_OK, metric.getOkMean(), metric.getOkMinTime(),
metric.getOkMaxTime(), okPercentiles.values(), metric::getOkPercentile);
// FOR KO STATUS
addMetric(transaction, metric.getFailures(), null, null, TAG_KO, metric.getKoMean(), metric.getKoMinTime(),
metric.getKoMaxTime(), koPercentiles.values(), metric::getKoPercentile);
metric.getErrors().forEach((error, count) -> addErrorMetric(transaction, error.getResponseCode(),
error.getResponseMessage(), count));
}从这段代码能够看出，站在全局统计的视角来看，这里把 JMeter 运行的统计后果，比方事务的 Total 申请、发送接管字节、平均值、最大值、最小值等，都加到 metric 中，同时也会把胜利和失败的事务信息增加到 metric 中去。
在源码中，还有更多的增加 metric 的步骤，你有趣味的话，也能够看一下 JMeter 源码中的 InfluxdbBackendListenerClient.java。
保留了 metric 之后，再应用 InfluxdbMetricsSender 发送到 Influxdb 中去。发送要害代码如下：
@Override
public void writeAndSendMetrics() {
........
if (!copyMetrics.isEmpty()) {
try {if(httpRequest == null) {httpRequest = createRequest(url);
}
StringBuilder sb = new StringBuilder(copyMetrics.size()*35);
for (MetricTuple metric : copyMetrics) {// Add TimeStamp in nanosecond from epoch ( default in InfluxDB)
sb.append(metric.measurement)
.append(metric.tag)
.append(" ") //$NON-NLS-1$
.append(metric.field)
.append(" ")
.append(metric.timestamp+"000000")
.append("\n"); //$NON-NLS-1$
}
StringEntity entity = new StringEntity(sb.toString(), StandardCharsets.UTF_8);
httpRequest.setEntity(entity);
lastRequest = httpClient.execute(httpRequest, new FutureCallback<HttpResponse>() {
@Override
public void completed(final HttpResponse response) {int code = response.getStatusLine().getStatusCode();
/*
* HTTP response summary 2xx: If your write request received
* HTTP 204 No Content, it was a success! 4xx: InfluxDB
* could not understand the request. 5xx: The system is
* overloaded or significantly impaired.
*/
if (MetricUtils.isSuccessCode(code)) {if(log.isDebugEnabled()) {log.debug("Success, number of metrics written: {}", copyMetrics.size());
}
} else {log.error("Error writing metrics to influxDB Url: {}, responseCode: {}, responseBody: {}", url, code, getBody(response));
}
}
@Override
public void failed(final Exception ex) {log.error("failed to send data to influxDB server : {}", ex.getMessage());
}
@Override
public void cancelled() {log.warn("Request to influxDB server was cancelled");
}
});
........
}
}
}通过 writeAndSendMetrics，就将所有保留的 metrics 都发给了 InfluxDB。
InfluxDB 中的存储构造
而后咱们再来看下 InfluxDB 中如何存储：
> show databases
name: databases
name
----
_internal
jmeter
> use jmeter
Using database jmeter
>
> show MEASUREMENTS
name: measurements
name
----
events
jmeter
> select * from events where application='7ddemo'
name: events
time application text title
---- ----------- ---- -----
1575255462806000000 7ddemo Test Cycle1 started ApacheJMeter
1575256463820000000 7ddemo Test Cycle1 ended ApacheJMeter
..............
n> select * from jmeter where application='7ddemo' limit 10
name: jmeter
time application avg count countError endedT hit max maxAT meanAT min minAT pct90.0 pct95.0 pct99.0 rb responseCode responseMessage sb startedT statut transaction
---- ----------- --- ----- ---------- ------ --- --- ----- ------ --- ----- ------- ------- ------- -- ------------ --------------- -- -------- ------ -----------
1575255462821000000 7ddemo 0 0 0 0 0 internal
1575255467818000000 7ddemo 232.82352941176472 17 0 17 849 122 384.9999999999996 849 849 0 0 all all
1575255467824000000 7ddemo 232.82352941176472 17 849 122 384.9999999999996 849 849 0 0 all 0_openIndexPage
1575255467826000000 7ddemo 232.82352941176472 17 849 122 384.9999999999996 849 849 ok 0_openIndexPage
1575255467829000000 7ddemo 0 1 1 1 1 internal
1575255472811000000 7ddemo 205.4418604651163 26 0 26 849 122 252.6 271.4 849 0 0 all all
1575255472812000000 7ddemo 0 1 1 1 1 internal
1575255472812000000 7ddemo 205.4418604651163 26 849 122 252.6 271.4 849 ok 0_openIndexPage
1575255472812000000 7ddemo 205.4418604651163 26 849 122 252.6 271.4 849 0 0 all 0_openIndexPage
1575255477811000000 7ddemo 198.2142857142857 27 0 27 849 117 263.79999999999995 292.3500000000001 849 0 0 all all这段代码也就是说，在 InfluxDB 中，创立了两个 MEASUREMENTS，别离是 events 和 jmeter。这两个各自存了数据，咱们在界面中配置的 testtile 和 eventTags 放在了 events 这个 MEASUREMENTS 中。在模板中这两个值临时都是不必的。
在 jmeter 这个 MEASUREMENTS 中，咱们能够看到 application 和事务的统计信息，这些值和控制台统一。在 Grafana 中显示的时候，就是从这个表中取出的数据，依据时序做的曲线。
Grafana 中的配置
有了 JMeter 发送到 InfluxDB 中的数据，上面就来配置一下 Grafana 中的展现。首先，要配置一个 InfluxDB 数据源。如下所示：
在这里配置好 URL、Database、User、Password 之后，间接点击保留即可。
而后增加一个 JMeter dashboard，咱们罕用的 dashboard 是 Grafana 官网 ID 为 5496 的模板。导入进来后，抉择好对应的数据源。
而后就看到界面了。
这时还没有数据，咱们稍后做个示例，看下 JMeter 中的数据怎么和这个界面的数据对应起来。咱们先看下图中两个重要的数据查问语句吧。
TPS 曲线
SELECT last("count") / $send_interval FROM "$measurement_name" WHERE ("transaction" =~ /^$transaction$/ AND "statut" = 'ok') AND $timeFilter GROUP BY time($__interval)下面这个就是 Total TPS 了，在这里称为 throughput。
对于这个概念，我在第一篇中就曾经有了阐明，这里再次揭示，概念的应用在团队中要有对立的意识，不要受行业内一些传统信息的误导。
这里取的数据来自 MEASUREMENTS 中胜利状态的所有事务。
响应工夫曲线：
SELECT mean("pct95.0") FROM "$measurement_name" WHERE ("application" =~ /^$application$/) AND $timeFilter GROUP BY "transaction", time($__interval) fill(null)这里是用 95 pct 内的响应工夫画进去的曲线。
整体展现进去的成果如下：
数据比对
首先，咱们在 JMeter 中配置一个简略的场景。10 个线程，每个线程迭代 10 次，以及两个 HTTP 申请。
也就是说，这时会产生 10x10x2=200 次申请。咱们用 JMeter 跑起来看一下。
看到了吧，这个申请数和咱们料想的一样。上面咱们看一下 Grafana 中展现进去的后果。
还有针对每个事务的统计状况。
至此，JMeter 到 Grafana 的展现过程就实现了。当前咱们就不必再保留 JMeter 的执行后果了，也不必等着 JMeter 输入 HTML 了。
node_exporter+Prometheus+Grafana 的数据展现逻辑
对性能测试来说，在罕用的 Grafana+Prometheus+Exporter 的逻辑中，第一步要看的就是操作系统资源了。所以在这一篇中，咱们将以 node_exporter 为例来阐明一下操作系统抽取数据的逻辑，以便晓得监控数据的起源，至于数据的含意，咱们将在后续的文章中持续形容。
首先，咱们还是要画一个图。
当初 node_exporter 能够反对很多个操作系统了。官网列表如下：
当然不是说只反对这些，你也能够扩大本人的 Exporter。
配置 node_exporter
node_exporter 目录如下：
[root@7dgroup2 node_exporter-0.18.1.linux-amd64]# ll
total 16524
-rw-r--r-- 1 3434 3434 11357 Jun 5 00:50 LICENSE
-rwxr-xr-x 1 3434 3434 16878582 Jun 5 00:41 node_exporter
-rw-r--r-- 1 3434 3434 463 Jun 5 00:50 NOTICE启动：
[root@7dgroup2 node_exporter-0.18.1.linux-amd64]#./node_exporter --web.listen-address=:9200 &是不是很简洁？如果想看更多的性能，能够查看下它的帮忙。
配置 Prometheus
先下载 Prometheus：
[root@7dgroup2 data]# wget -c https://github.com/prometheus/prometheus/releases/download/v2.14.0/prometheus-2.14.0.linux-amd64.tar.gz
..........100%
[=============================================================================================>] 58,625,125 465KB/s in 6m 4s2019-11-29 15:40:16 (157 KB/s) -‘prometheus-2.14.0.linux-amd64.tar.gz’saved [58625125/58625125]
[root@7dgroup2 data]解压之后，咱们能够看到目录构造如下：
[root@7dgroup2 prometheus-2.11.1.linux-amd64]# ll
total 120288
drwxr-xr-x. 2 3434 3434 4096 Jul 10 23:26 console_libraries
drwxr-xr-x. 2 3434 3434 4096 Jul 10 23:26 consoles
drwxr-xr-x. 3 root root 4096 Nov 30 12:55 data
-rw-r--r--. 1 3434 3434 11357 Jul 10 23:26 LICENSE
-rw-r--r--. 1 root root 35 Aug 7 23:19 node.yml
-rw-r--r--. 1 3434 3434 2770 Jul 10 23:26 NOTICE
-rwxr-xr-x. 1 3434 3434 76328852 Jul 10 21:53 prometheus
-rw-r--r-- 1 3434 3434 1864 Sep 21 09:36 prometheus.yml
-rwxr-xr-x. 1 3434 3434 46672881 Jul 10 21:54 promtool
再配置一个 node_exporter 的模板，比方我这里抉择了官网模板（ID：11074），展现如下：
数据逻辑阐明
阐明完下面的过程之后，对咱们做性能测试和剖析的人来说，最重要的，就是要晓得数据的起源和含意了。
拿下面图中的 CPU 使用率来说吧（因为 CPU 使用率是十分重要的一个计数器，所以咱们明天先拿它来开刀）。
咱们先点一下 title 上的 edit，看一下它的 query 语句。
avg(irate(node_cpu_seconds_total{instance=~"$node",mode="system"}[30m])) by (instance)
avg(irate(node_cpu_seconds_total{instance=~"$node",mode="user"}[30m])) by (instance)
avg(irate(node_cpu_seconds_total{instance=~"$node",mode="iowait"}[30m])) by (instance)
1 - avg(irate(node_cpu_seconds_total{instance=~"$node",mode="idle"}[30m])) by (instance)这些都是从 Prometheus 中取出来的数据，查问语句读了 Prometheus 中 node_cpu_seconds_total 的不同的模块数据。
上面咱们来看一下，node_exporter 裸露进去的计数器。
这些值和 top 一样，都来自于 /proc/ 目录。上面这张图是 top 数据，咱们能够比对一下。
到此，咱们就理解到了操作系统中监控数据的取值逻辑了，也就是从操作系统自身的计数器中取出值来，而后传给 Prometheus，再由 Grafana 中的 query 语句查出相应的数据，最初由 Grafana 展现在界面上。
总结
为什么要解释数据的逻辑呢？因为最近在工作中遇到一些状况，有人感觉有了 Prometheus+Grafana+Exportor 这样的组合工具之后，基本上都不再用手工执行什么命令了。但咱们要理解的是，对于监控平台来说，它取的所有的数据必然是被监控者能够提供的数据，像 node_exporter 这样玲珑的监控收集器，它能够获取的监控数据，并不是整个零碎全副的性能数据，只是取到了常见的计数器而已。这些计数器不论是用命令查看，还是用这样炫酷的工具查看，它的值自身都不会变。所以不论是在监控平台上看到的数据，还是在命令行中看到的数据，咱们最重要的是要晓得含意以及这些值的变动对性能测试和剖析的下一步骤的影响。
链接：cnblogs.com/siguadd/p/14878035.html