关于运维:Nginx-日志采集与分析

45次阅读

共计 2816 个字符,预计需要花费 8 分钟才能阅读完成。

概述

观测云领有全面的日志采集能力,包含系统日志、利用日志、平安日志等多种日志类型,通过观测云提供的自定义日志采集器可采集任意日志汇总到观测云进行对立存储和剖析;通过观测云提供的文本处理器(Pipeline)可对采集的日志进行自定义切割,并把切割进去的字段作为属性应用。通过属性字段,咱们能够疾速筛选相干日志、进行数据关联剖析,帮忙咱们疾速去定位问题并解决问题。

前置条件

您须要先创立一个【观测云账号】https://auth.guance.com/regis… 微信公众号

装置 DataKit【DataKit 装置文档】https://www.yuque.com/dataflu…

办法|步骤

开启 Nginx 采集器

主机装置 Datakit 当前,在 /usr/local/datakit/conf.d/nginx 目录下,复制 nginx.conf.sample 并命名为 nginx.conf,编辑 nginx.conf,开启寄存 Nginx 日志的地址和 Pipeline。如:

files = [“/var/log/nginx/access.log”,”/var/log/nginx/error.log”]

Pipeline = “nginx.p”(其中 “” 中能够不填写具体的 Pipeline 脚本名称,DataKit 会主动匹配跟 source 同名的脚本文件)

留神:Pipeline 开启后,DataKit 会主动依据日志起源来匹配 Pipeline 脚本文件。若日志起源和 Pipeline 文件名称不统一,则须要在采集器配置,如日志起源 nginx,Pipeline 文件名 nginx1.p,则须要配置 Pipeline = “nginx1.p”。

[[inputs.nginx]]

    url = "http://localhost/server_status"
    # ##(optional) collection interval, default is 30s
    # interval = "30s"
    use_vts = false
    ## Optional TLS Config
    # tls_ca = "/xxx/ca.pem"
    # tls_cert = "/xxx/cert.cer"
    # tls_key = "/xxx/key.key"
    ## Use TLS but skip chain & host verification
    insecure_skip_verify = false
    # HTTP response timeout (default: 5s)
    response_timeout = "20s"

    [inputs.nginx.log]
            files = ["/var/log/nginx/access.log","/var/log/nginx/error.log"]
    #       # grok pipeline script path
            pipeline = "nginx.p"
    [inputs.nginx.tags]
    # some_tag = "some_value"
    # more_tag = "some_other_value"
    # ...

配置实现后,应用命令行 datakit –restart 重启 DataKit 使配置失效。

更多详情,可参考文档【Nginx】https://www.yuque.com/dataflu…

在观测云工作空间查看和剖析日志数据

开启 Nginx 采集器,配置日志文件门路,开启 Pipeline 当前,即可在观测云工作空间查看采集到的 Nginx 日志。

在观测云工作空间的日志下,抉择 nginx 的日志,在日志详情页,咱们能够看到产生日志的主机及其属性指标视图、日志起源、通过 pipeline 切割的日志属性、日志内容详情等数据,通过配置链路关联日志,咱们还能够在日志详情页查看相干的链路详情,帮忙您疾速做数据关联剖析。

进阶参考

日志文本处理(Pipeline)

观测云提供三种日志 Pipeline 文本处理形式:

DataKit:在服务器装置 DataKit 当前,在终端工具中配置 DataKit 的日志采集器及其对应的 pipeline 文件,对文本数据进行解决;

Pipelines:反对在观测云工作空间手动配置和查看日志 pipeline 文件,无需登录 DataKit 服务器进行操作,帮忙您不便的应用在线日志 Pipeline 性能来切割您的日志;

DCA:DataKit Control APP,是 DataKit 的桌面客户端利用,须要先装置,装置实现后可在客户端查看和编辑 DataKit 默认自带的日志 pipeline 文件和自定义手动增加 pipeline 文件。

生成指标

观测云反对通过生成指标的形式,基于当前工作空间内的现有数据来自定义指标数据。在观测云工作空间「日志」-「生成指标」页面,点击「新建规定」即可开始创立新的生成指标规定。

更多详情,可参考文档【生成指标】https://www.yuque.com/dataflu…

生成的指标可对立在观测云「指标」中查看,或者在「生成指标」页面,点击规定右侧的「查看指标」,跳转至「指标」页面查看对应的指标集和指标。

生成的指标反对在观测云「场景」搭建仪表板,联合其余指标对采集的日志数据进行全面的可视化监测。

日志黑名单

观测云反对通过设置日志黑名单的形式过滤掉符合条件的日志,即配置日志黑名单当前,符合条件的日志数据不再上报到“观测云”工作空间,帮忙用户节约日志数据存储费用。

在 观测云工作空间,点击「日志」-「黑名单」-「新建黑名单」,抉择「日志起源」,增加一条或多条日志筛选过滤规定,点击确定即默认开启该日志过滤规定。

在日志黑名单设置了过滤掉所有日志起源为“nginx”的日志,在设置失效后,咱们能够看到“02/24 15:06:28”之后,nginx 日志不再上报到工作空间。

更多详情,可参考文档【日志黑名单】https://www.yuque.com/dataflu…

日志备份

观测云根底日志最多存储 60 天,如果须要更长时间的存储和查看须要对根底日志进行备份。日志备份反对两种形式:

备份到“观测云”:反对备份日志最多存储长达 720 天。

备份到内部存储:反对备份日志到阿里云 OSS。

更多详情,可参考文档【日志数据备份到 OSS 最佳实际】https://www.yuque.com/dataflu…

在日志「备份日志」页面,点击「日志备份治理」-「新建规定」,输出「规定名称」即可增加一条新的规定,反对通过「过滤条件」和「搜寻关键字」更精准定位须要备份的日志,节俭备份日志存储费用。

留神:

备份周期:按天进行备份,每天 00:00:00 开始备份前一天 00:00:00—23:59:59 的日志数据

免费版用户:无奈备份日志数据

设置日志备份规定当前,在日志「备份日志」页面,默认数据为空,须要先抉择查看备份日志的工夫范畴。

更多详情,可参考文档【日志备份】https://www.yuque.com/dataflu…

【立刻体验观测云】https://auth.guance.com/regis… 微信公众号

正文完
 0