使用prometheus监控nginx

前言由于nginx的快速和高效，生产中的大部分应用都会选择使用nginx来做反向代理，这时对于nginx的监控就显得非常有必要，需要能够直观的显示出nginx实时的流量，访问量，响应时间，http状态码等指标。prometheus具有由度量名称和键/值对标识的时间序列数据的多维数据模型，能够很好的对nginx的这些指标进行收集，并配合grafana进行图像展示。收集nginx指标的较多采用的有nginx-vts模块，prometheus-lua两种方式进行采集，本文采用nginx-vts模块方式进行数据收集。nginx-vts模块1、添加nginx模块nginx -V #configure arguments中可以查看到当前nginx所包含的模块cd /root/git clone https://github.com/vozlt/ngin… #获取vts源码wget https://nginx.org/download/ng… #获取nginx源码tar -zxvf https://nginx.org/download/ng… nginx-1.14.2./configure –add-module=/root/nginx-module-vts –prefix=/etc/nginx –sbin-path=/usr/sbin/nginx –conf-path=/etc/nginx/nginx.conf –error-log-path=/var/log/nginx/error.log –http-log-path=/var/log/nginx/access.log –pid-path=/var/run/nginx.pid –lock-path=/var/run/nginx.lock –http-client-body-temp-path=/var/cache/nginx/client_temp –http-proxy-temp-path=/var/cache/nginx/proxy_temp –http-fastcgi-temp-path=/var/cache/nginx/fastcgi_temp –http-uwsgi-temp-path=/var/cache/nginx/uwsgi_temp –http-scgi-temp-path=/var/cache/nginx/scgi_temp –user=nginx –group=nginx –with-http_ssl_module –with-http_realip_module –with-http_addition_module –with-http_sub_module –with-http_dav_module –with-http_flv_module –with-http_mp4_module –with-http_gunzip_module –with-http_gzip_static_module –with-http_random_index_module –with-http_secure_link_module –with-http_stub_status_module –with-http_auth_request_module –with-mail –with-mail_ssl_module –with-file-aio –with-ipv6 –with-cc-opt=’-O2 -g -pipe -Wp,-D_FORTIFY_SOURCE=2 -fexceptions -fstack-protector –param=ssp-buffer-size=4 -m64 -mtune=generic’#–add-module=/root/nginx-module-vts，并将现有参数全部加上make && make install #编译好的新nginx文件，可以直接用来替换掉旧的nginx文件，重启nginx服务进行升级service nginx restart2、nginx.conf加入以下配置，通过8088端口展示出数据http {vhost_traffic_status_zone;server {listen 8088;location /status {vhost_traffic_status_display;vhost_traffic_status_display_format html;}}}重新加载nginx配置后，访问 IP:8088/status 可以看到如下页面，能够获取到请求时间，后端响应时间，http code等大部分需要的指标了。3、指标的数据类型转换要将获取到的数据接入prometheus还需要将数据转为metrics类型的数据，vts模块中直接提供了/status/format/prometheus 接口，访问 IP:8088/status/format/prometheus 即可看到转换后的数据。部署nginx-vts-exportergit clone https://github.com/hnlq715/ng… +x nginx-vts-exporternginx-vts-exporter -nginx.scrape_uri=http://localhost:8088/status/format/json启动后默认端口为 :9913/metrics4、通过VTS获取其它指标通过以上部署只能拿到默认的指标，生产中可能还会需要监控uri的请求量，监控IP访问情况（同一个IP出现大量访问时可能被攻击），获取不同agent请求量用于分析等，通过vts模块的vhost_traffic_status_filter_by_set_key功能可以自定义需要获取的指标。此处的指标需要加到对应的server配置中server { listen 80; server_name nginx.test.com; vhost_traffic_status_filter_by_set_key $uri uri::$server_name; #每个uri访问量 vhost_traffic_status_filter_by_set_key $geoip_country_code country::$server_name; #不同国家/区域请求量 vhost_traffic_status_filter_by_set_key $filter_user_agent agent::$server_name; #获取用户所使用的agent vhost_traffic_status_filter_by_set_key $status $server_name; #http code统计 vhost_traffic_status_filter_by_set_key $upstream_addr upstream::backend; #后端转发统计 vhost_traffic_status_filter_by_set_key $remote_port client::ports::$server_name; #请求端口统计 vhost_traffic_status_filter_by_set_key $remote_addr client::addr::$server_name; #请求IP统计 location ~ ^/storage/(.+)/.*$ { set $volume $1; vhost_traffic_status_filter_by_set_key $volume storage::$server_name; #请求路径统计 } ……}prometheus部署及相应配置1、部署prometheusprometheus server采用go语言编写，下载后解压可直接运行tar xvfz prometheus-2.7.2.linux-amd64.tar.gzcd prometheus-2.7.2.linux-amd64/usr/local/prometheus-2.7.2.linux-amd64/prometheus –storage.tsdb.path=/data/prometheus –web.enable-lifecycle >> /data/prometheus/prometheus.log 2>&1 & #–storage.tsdb.path参数指定数据存储路径#–web.enable-lifecycle参数允许热加载，设置该参数后可以通过 curl XPOST localhost:9090/-/reload 快速加载配置2、nginx-vts-exporte接入修改prometheus.yml配置文件，将nginx-vts-exporter对应端口接入prometheus，采用文件发现的方式job_name: ‘Nginx_vts_exporter’ file_sd_configs: - files: [’./file_sd_configs/file_sd_configs_nginx.json’] refresh_interval: 30s编辑./file_sd_configs/file_sd_configs_nginx.json，nginx数量比较多的情况下，可以利用自定义labels对Nginx进行分组，便于后续图像展示[ { “targets”: [ “10.21.141.25:9913” ], “labels”: { “group”: “ops-test” } }, { “targets”: [ “10.21.141.26:9913” ], “labels”: { “group”: “ops-test” } }]grafana接入prometheus在grafana数据源设置中将部署好的prometheus加入，就可以对获取到的数据使用图像展示了导入nginx-vts-exporter的示例图https://grafana.com/dashboard…根据监控需求进行标签分组，增删图像。最终效果如下：