关于prometheus:新功能Prometheus-Agent-模式上手体验

8次阅读

共计 8896 个字符，预计需要花费 23 分钟才能阅读完成。

大家好，我是张晋涛。

Prometheus 简直曾经成为了云原生时代下监控选型的事实标准，它也是第二个从 CNCF 毕业的我的项目。

以后，Prometheus 简直能够满足各种场景 / 服务的监控需要。我之前有写过一些文章介绍过 Prometheus 及其生态，本篇咱们将聚焦于 Prometheus 最新版本中公布的 Agent 模式，对于与此主题无关的一些概念或者用法，我会粗略带过。

家喻户晓，Prometheus 是一种拉模式（Pull）的监控零碎，这不同于传统的基于推模式（Push）的监控零碎。

什么是拉模式（Pull）呢？

待监控的服务本身或者通过一些 exporter 裸露进去一些 metrics 指标的接口，由 Prometheus 去被动的定时进行抓取 / 采集，这就是拉模式（Pull）。即由监控零碎被动的去拉（Pull）指标的 metrics。

与之绝对应的就是推模式（Push）了。

由应用程序被动将本身的一些 metrics 指标进行上报，监控零碎再进行绝对应的解决。如果对于某些应用程序的监控想要应用推模式（Push），比方：不易实现 metrics 接口等起因，能够思考应用 Pushgateway 来实现。

对于拉模式（Pull）和推模式（Push）到底哪种更好的探讨始终都在持续，有趣味的小伙伴能够自行搜寻下。

这里次要是聚焦于单个 Prometheus 和应用服务之间交互的手形式。本篇咱们从更下层的角度或者全局角度来看看以后 Prometheus 是如何做 HA、长久化和集群的。

在大规模生产环境中应用时，很少有零碎中仅有一个单实例 Prometheus 存在的状况呈现。无论从高可用、数据长久化还是从为用户提供更易用的全局视图来思考，运行多个 Prometheus 实例的状况就很常见了。

目前 Prometheus 次要有三种方法来将多个 Prometheus 实例的数据进行聚合，并给用户提供一个对立的全局视图。

联邦（Federation）：是最晚期的 Prometheus 内置的数据聚合计划。这种计划下，能够应用某个核心 Prometheus 实例从叶子 Prometheus 实例上进行指标的抓取。这种计划下能够保留 metrics 本来的工夫戳，整体也比较简单；
Prometheus Remote Read（近程读）：能够反对从近程的存储中读取原始 metrics，留神：这里的近程存储能够有多种抉择。当读取完数据后，便可对它们进行聚合，并展示给用户了；
Prometheus Remote Write（近程写）：能够反对将 Prometheus 采集到 metrics 等写到近程存储中。用户在应用的时候，间接从远端存储中读取数据，并提供全局视图等；

Prometheus Agent 是自 Prometheus v2.32.0 开始将会提供的一项性能，它次要是采纳上文中提到的 Prometheus Remote Write 的形式，将启用了 Agent 模式的 Prometheus 实例的数据写入到近程存储中。并借助近程存储来提供一个全局视图。

因为它应用了 Prometheus Remote Write 的形式，所以咱们须要先筹备一个 “ 近程存储 ” 用于 metrcis 的中心化存储。这里咱们应用 Thanos 来提供此能力。当然，如果你想要应用其余的计划，比方：Cortex、influxDB 等也都是能够的。

这里咱们间接应用 Thanos 最新版本的容器镜像来进行部署。这里咱们应用了 host 网络比拟不便进行测试。

执行完这些命令后，Thanos receive 将会监听在 http://127.0.0.1:10908/api/v1/receive 用于接管 ” 近程写入 ”。

➜  cd prometheus
➜  prometheus docker run -d --rm \
    -v $(pwd)/receive-data:/receive/data \
    --net=host \
    --name receive \
    quay.io/thanos/thanos:v0.23.1 \
    receive \
    --tsdb.path "/receive/data" \
    --grpc-address 127.0.0.1:10907 \
    --http-address 127.0.0.1:10909 \
    --label "receive_replica=\"0\"" \
    --label "receive_cluster=\"moelove\"" \
    --remote-write.address 127.0.0.1:10908
59498d43291b705709b3f360d28af81d5a8daba11f5629bb11d6e07532feb8b6
➜  prometheus docker ps -l
CONTAINER ID   IMAGE                           COMMAND                  CREATED          STATUS          PORTS     NAMES
59498d43291b   quay.io/thanos/thanos:v0.23.1   "/bin/thanos receive…"   21 seconds ago   Up 20 seconds             receive

接下来咱们启动一个 Thanos 的 query 组件，跟 receive 组件连贯，用于查问写入的数据。

➜  prometheus docker run -d --rm \
--net=host \
--name query \
quay.io/thanos/thanos:v0.23.1 \
query \
--http-address "0.0.0.0:39090" \
--store "127.0.0.1:10907"
10c2b1bf2375837dbda16d09cee43d95787243f6dcbee73f4159a21b12d36019
➜  prometheus docker ps -l
CONTAINER ID   IMAGE                           COMMAND                  CREATED         STATUS         PORTS     NAMES
10c2b1bf2375   quay.io/thanos/thanos:v0.23.1   "/bin/thanos query -…"   4 seconds ago   Up 3 seconds             query

留神：这里咱们配置了 --store 字段，指向了后面的 receive 组件。

关上浏览器拜访 http://127.0.0.1:39090/stores，如果一起顺利，你应该能够看到 receive 曾经注册到了 store 中。

这里我间接从 Prometheus 的 Release 页面下载了它最新版本 v2.32.0 的二进制文件。解压后，你会发现目录中的内容和之前版本中是统一的。

这是因为 Prometheus Agent 模式当初是内置在 Prometheus 二进制文件中的，减少 --enable-feature=agent 选项即可启用。

咱们须要为它筹备一份配置文件，留神， 须要配置 remote_write，且不能有 alerting 之类的配置

global:
  scrape_interval: 15s
  external_labels:
    cluster: moelove
    replica: 0

scrape_configs:
  - job_name: "prometheus"
    static_configs:
      - targets: ["localhost:9090"]

remote_write:
- url: 'http://127.0.0.1:10908/api/v1/receive'

配置文件另存为 prometheus.yml

咱们将它的日志级别设置成 debug 不便查看它的一些细节

➜  ./prometheus --enable-feature=agent --log.level=debug --config.file="prometheus.yml" 
ts=2021-11-27T19:03:15.861Z caller=main.go:195 level=info msg="Experimental agent mode enabled."
ts=2021-11-27T19:03:15.861Z caller=main.go:515 level=info msg="Starting Prometheus" version="(version=2.32.0-beta.0, branch=HEAD, revision=c32725ba7873dbaa39c223410043430ffa5a26c0)"
ts=2021-11-27T19:03:15.861Z caller=main.go:520 level=info build_context="(go=go1.17.3, user=root@da630543d231, date=20211116-11:23:14)"
ts=2021-11-27T19:03:15.861Z caller=main.go:521 level=info host_details="(Linux 5.14.18-200.fc34.x86_64 #1 SMP Fri Nov 12 16:48:10 UTC 2021 x86_64 moelove (none))"
ts=2021-11-27T19:03:15.861Z caller=main.go:522 level=info fd_limits="(soft=1024, hard=524288)"
ts=2021-11-27T19:03:15.861Z caller=main.go:523 level=info vm_limits="(soft=unlimited, hard=unlimited)"
ts=2021-11-27T19:03:15.862Z caller=web.go:546 level=info component=web msg="Start listening for connections" address=0.0.0.0:9090
ts=2021-11-27T19:03:15.862Z caller=main.go:980 level=info msg="Starting WAL storage ..."
ts=2021-11-27T19:03:15.863Z caller=tls_config.go:195 level=info component=web msg="TLS is disabled." http2=false
ts=2021-11-27T19:03:15.864Z caller=db.go:306 level=info msg="replaying WAL, this may take a while" dir=data-agent/wal
ts=2021-11-27T19:03:15.864Z caller=db.go:357 level=info msg="WAL segment loaded" segment=0 maxSegment=0
ts=2021-11-27T19:03:15.864Z caller=main.go:1001 level=info fs_type=9123683e
ts=2021-11-27T19:03:15.864Z caller=main.go:1004 level=info msg="Agent WAL storage started"
ts=2021-11-27T19:03:15.864Z caller=main.go:1005 level=debug msg="Agent WAL storage options" WALSegmentSize=0B WALCompression=true StripeSize=0 TruncateFrequency=0s MinWALTime=0s MaxWALTime=0s
ts=2021-11-27T19:03:15.864Z caller=main.go:1129 level=info msg="Loading configuration file" filename=prometheus.yml
ts=2021-11-27T19:03:15.865Z caller=dedupe.go:112 component=remote level=info remote_name=e6fa2a url=http://127.0.0.1:10908/api/v1/receive msg="Starting WAL watcher" queue=e6fa2a
ts=2021-11-27T19:03:15.865Z caller=dedupe.go:112 component=remote level=info remote_name=e6fa2a url=http://127.0.0.1:10908/api/v1/receive msg="Starting scraped metadata watcher"
ts=2021-11-27T19:03:15.865Z caller=dedupe.go:112 component=remote level=info remote_name=e6fa2a url=http://127.0.0.1:10908/api/v1/receive msg="Replaying WAL" queue=e6fa2a
ts=2021-11-27T19:03:15.865Z caller=dedupe.go:112 component=remote level=debug remote_name=e6fa2a url=http://127.0.0.1:10908/api/v1/receive msg="Tailing WAL" lastCheckpoint= checkpointIndex=0 currentSegment=0 lastSegment=0
ts=2021-11-27T19:03:15.865Z caller=dedupe.go:112 component=remote level=debug remote_name=e6fa2a url=http://127.0.0.1:10908/api/v1/receive msg="Processing segment" currentSegment=0
ts=2021-11-27T19:03:15.877Z caller=manager.go:196 level=debug component="discovery manager scrape" msg="Starting provider" provider=static/0 subs=[prometheus]
ts=2021-11-27T19:03:15.877Z caller=main.go:1166 level=info msg="Completed loading of configuration file" filename=prometheus.yml totalDuration=12.433099ms db_storage=361ns remote_storage=323.413µs web_handler=247ns query_engine=157ns scrape=11.609215ms scrape_sd=248.024µs notify=3.216µs notify_sd=6.338µs rules=914ns
ts=2021-11-27T19:03:15.877Z caller=main.go:897 level=info msg="Server is ready to receive web requests."
ts=2021-11-27T19:03:15.877Z caller=manager.go:214 level=debug component="discovery manager scrape" msg="Discoverer channel closed" provider=static/0
ts=2021-11-27T19:03:28.196Z caller=dedupe.go:112 component=remote level=info remote_name=e6fa2a url=http://127.0.0.1:10908/api/v1/receive msg="Done replaying WAL" duration=12.331255772s
ts=2021-11-27T19:03:30.867Z caller=dedupe.go:112 component=remote level=debug remote_name=e6fa2a url=http://127.0.0.1:10908/api/v1/receive msg="runShard timer ticked, sending buffered data" samples=230 exemplars=0 shard=0
ts=2021-11-27T19:03:35.865Z caller=dedupe.go:112 component=remote level=debug remote_name=e6fa2a url=http://127.0.0.1:10908/api/v1/receive msg=QueueManager.calculateDesiredShards dataInRate=23 dataOutRate=23 dataKeptRatio=1 dataPendingRate=0 dataPending=0 dataOutDuration=0.0003201718 timePerSample=1.3920513043478261e-05 desiredShards=0.0003201718 highestSent=1.638039808e+09 highestRecv=1.638039808e+09
ts=2021-11-27T19:03:35.865Z caller=dedupe.go:112 component=remote level=debug remote_name=e6fa2a url=http://127.0.0.1:10908/api/v1/receive msg=QueueManager.updateShardsLoop lowerBound=0.7 desiredShards=0.0003201718 upperBound=1.3
ts=2021-11-27T19:03:45.866Z caller=dedupe.go:112 component=remote level=debug remote_name=e6fa2a url=http://127.0.0.1:10908/api/v1/receive msg=QueueManager.calculateDesiredShards dataInRate=23.7 dataOutRate=18.4 dataKeptRatio=1 dataPendingRate=5.300000000000001 dataPending=355.5 dataOutDuration=0.00025613744 timePerSample=1.3920513043478263e-05 desiredShards=0.00037940358300000006 highestSent=1.638039808e+09 highestRecv=1.638039823e+09
ts=2021-11-27T19:03:45.866Z caller=dedupe.go:112 component=remote level=debug remote_name=e6fa2a url=http://127.0.0.1:10908/api/v1/receive msg=QueueManager.updateShardsLoop lowerBound=0.7 desiredShards=0.00037940358300000006 upperBound=1.3
ts=2021-11-27T19:03:45.871Z caller=dedupe.go:112 component=remote level=debug remote_name=e6fa2a url=http://127.0.0.1:10908/api/v1/receive msg="runShard timer ticked, sending buffered data" samples=265 exemplars=0 shard=0

从日志中能够看到，它会去向 http://127.0.0.1:10908/api/v1/receive 也就是咱们一开始部署的 Thanos receive 发送数据。

关上咱们一开始部署好的 Thanos query，输出任意 metrics 进行查问，能够查问到预期的后果。

然而如果咱们间接拜访开启了 Agent 模式的 Prometheus 的 UI 地址的时候，会间接报错，无奈进行查问。这是因为 如果已开启 Agent 模式的 Prometheus 将会默认敞开其 UI 查问能力，报警以及本地存储等能力 。

本篇次要进行了 Prometheus Agent 的上手实际，通过 Thanos receive 接管来自 Prometheus Agent 的 metrics 上报，而后通过 Thanos query 进行后果的查问。

Prometheus Agent 并没有实质上扭转 Prometheus 指标采集的形式，依然还是持续应用拉模式（Pull）。

它的应用场景次要是进行 Prometheus 的 HA/ 数据长久化或集群。与现有的一些计划在架构上会略有重合，
然而有一些劣势：

Agent 模式是 Prometheus 内置的性能；
开启 Agent 模式的 Prometheus 实例，资源耗费更少，性能也会更繁多，对于扩大一些边缘场景更无利；
启用 Agent 模式后，Prometheus 实例简直能够当作是一个无状态的利用，比拟不便进行扩大应用；

过段时间就会公布正式版本了，你是否会尝试应用呢？

欢送订阅我的文章公众号【MoeLove】

正文完

prometheus

发表至： prometheus

2021-11-28

0

关于prometheus:PrometheusGrafana性能监控

关于prometheus:prometheus在项目中的使用

关于prometheus:Prometheus简单使用

关于prometheus:使用VictoriaMetrics监控K8S集群

关于云原生:极客大学云原生训练营JK

关于prometheus:新功能Prometheus-Agent-模式上手体验

拉模式（Pull）和推模式（Push）

Prometheus HA/ 长久化 / 集群的计划

Prometheus Agent 模式

前置依赖

筹备近程存储

筹备查问组件

部署 Prometheus Agent 模式

筹备配置文件

启动

查问数据

总结

站内搜索

关于prometheus:新功能Prometheus-Agent-模式上手体验

拉模式（Pull）和 推模式（Push）

Prometheus HA/ 长久化 / 集群的计划

Prometheus Agent 模式

前置依赖

筹备近程存储

筹备查问组件

部署 Prometheus Agent 模式

筹备配置文件

启动

查问数据

总结

站内搜索

拉模式（Pull）和推模式（Push）