关于java:logstash的安装和简单使用

38次阅读

共计 1579 个字符,预计需要花费 4 分钟才能阅读完成。

一、装置

1、下载并解压

# 下载,不同的操作系统下载不同的包
wget https://artifacts.elastic.co/downloads/logstash/logstash-7.12.0-darwin-x86_64.tar.gz
# 解压
tar -zxvf logstash-7.12.0-darwin-x86_64.tar.gz
# 重命名
mv logstash-7.12.0 logstash

2、logstash 一些命令行参数

1、查看帮忙信息

cd logstash
bin/logstash -h

2、加载指定 pipeline 文件门路

bin/logstash -f 文件门路

留神⚠️:
-f 前面跟的文件门路能够是一个文件的门路,也能够是一个文件夹的门路,如果是文件夹的门路,则会加载该文件夹下的文件,组成一个大的 pipeline 文件。

3、检测配置文件语法是否有谬误

bin/logstash -t

4、热加载 pipeline 配置文件

bin/logstash -r

5、指定绑定的主机和启动的端口

bin/logstash --http.host 127.0.0.1 --http.port 9210

留神⚠️:
更多配置项参考 bin/logstash -h 的输入。

3、批改 logstash 的配置文件

1、批改 jvm 的配置

vim config/jvm.options

批改 -Xms 和 -Xmx 等其余参数的值。

2、批改 logstash.yml 配置

vim config/logstash.yml

# 设置节点的名字
node.name: logstash-01
# 设置 pipeline 的 id
pipeline.id: main
pipeline.ordered: auto
# 设置 pipeline 的线程数(filter+output),默认是 cpu 的核数
# pipeline.workers: 2
# 设置 main pipeline 文件所在的地位
# path.config:
# 主动从新加载 pipeline 配置文件
config.reload.automatic: true
# 设置 http api 绑定的 ip 和端口
http.host: 127.0.0.1
http.port: 9201
# 设置 logstash 队列的类型 为长久化,默认是 memory
queue.type: persisted

4、编写一个 pipeline 文件

实现性能,接口从控制台输出的数据而后输入到管制台上。

文件名: pipeline.conf/demo-std.conf

# 输出,stdin 示意规范输出
input {
    stdin {
        codec => plain {charset => "UTF-8"}
        # type 的值轻易给,就一个标识,前期不便查问
        type => "console input"
        # 增加一个 tag
        tags => ["console"]
    }
}

# 数据过滤
filter { }

# 输入 stdout 示意输入
output {
    stdout {codec => rubydebug {}
    }
}

5、启动 logstash

启动的时候,间接某个 pipeline 文件

# -f 指定 pipeline 文件的门路
bin/logstash -f pipeline.conf/demo-std.conf

6、查看运行后果

二、pipeline 的组成


由上图可知,一个 pipeline 有三个元素组成 inputfilteroutput。其中 inputoutput 是必须的。filter是可选的。

input:指定了从那个中央抓取数据,比方:文件(file)、beats、tcp 等等。
filter:是咱们能够批改 input 的数据,比方减少字段、重命名字段、批改字段类型等等。
output:决定了咱们解决好的数据输入到哪里,比方:es、file、等等。

三、参考链接

1、logstash 下载地址
2、logstash 的目录构造
3、logstash.yml 配置文件的参数
4、logstash 命令行参数

正文完
 0