关于linux:Linux查看日志文件写入速度的4种方法

200次阅读

共计 1538 个字符,预计需要花费 4 分钟才能阅读完成。

原创:扣钉日记(微信公众号 ID:codelogs),欢送分享,转载请保留出处。

简介

有时,咱们须要查看某个文件的增长速度,如日志文件,以此来感触零碎的负载状况,因为个别状况下,日志写入越快,阐明零碎负载越重。

本文就来介绍下 Linux 中查看日志增长速度的几种办法,如下:

应用 dd

首先要介绍的是 dd,因为 dd 命令简直所有支流发行版都自带,无需额定装置,如下:

$ tail -F app.log | dd of=/dev/null status=progress
3875840 bytes (3.9 MB) copied, 8.228797 s, 471 kB/s

如上,应用 tail -F 获取新写入的数据,而后用管道将数据交给 dd,dd 将数据拷贝到 /dev/null,其中status=progress 是用来显示拷贝速度的,可见,咱们日志的写入速度是471 kB/s

应用 pv

pv 命令能够看做是带进度的 cp,如下:

$ yum install -y pv

$ tail -F app.log | pv >/dev/null
2.05MiB 0:00:03 [330kiB/s] [<=>]

原理与 dd 相似,不过命令换成了 pv。

应用 cv 命令

因为日志数据都是程序 (如 java) 写入的,而在如下的伪文件中,寄存着程序关上的文件信息,如下:

  • /proc/<pid>/fd:寄存着关上的文件描述符
  • /proc/<pid>/fdinfo:寄存着文件描述符写入到的 offset

于是定期的读取这个 offset 就能够晓得文件的写入速度了,这也是 cv 命令的实现原理,如下:

$ yum install -y cv

$ cv -mc java
[1] java app.log 100.0% (6.1 GiB / 6.1 GiB) 390.2 KiB/s

# 实际上,因为 Linux 上大多数命令 (如 cp) 没自带进度查看性能,而 cv 就成了很好的补充
# 比方查看 cp 复制文件的进度
$ cp app.log app.log.bak & cv -mc cp 

新版 cv 命令曾经改名为 progress,装置不到 cv 包时,可试着装置 progress 包。

编写小脚本

通过写一个小脚本,定期察看文件大小,也可查看文件写入速度,如下:

# 每秒获取文件大小,通过减去上一秒的大小,即可计算出速度
while sleep 1; do  \
  sz=`stat -c %s app.log`; \
  numfmt --from=auto --to=iec $((sz-psz)); \
  psz=$sz; \
done

492K
750K
370K

通过 watch 再加上察看,也能大抵看出速度,如下:

watch -d -t -n1 du app.log

触类旁通

其实转念一想,如果咱们在某个函数中打上日志,而后通过 grep 过滤出此日志,而后咱们只有计算每秒输入的日志行数,这岂不就是函数执行的 QPS 了!

# 应用 grep 过滤出日志,tr 删除非换行符,所以 dd 显示的是换行符的个数!$ tail -F app.log \
    | grep --line-buffered '/order/get' \
    | stdbuf -oL tr -dc '\n' \                     
    | dd of=/dev/null bs=1 status=progress

151 bytes (151 B) copied, 15.523018 s, 0.0 kB/s

这里能够通过 151/15 计算出 QPS 是 10,因为没有超过 1000,所以看到的是 0.0kB/s,如果应用 pv 命令,会更简略一些,如下:

$ tail -F app.log \
    | grep --line-buffered '/order/get' \
    | pv -l >/dev/null
    
144  0:00:03 [11.5 /s] [<=>]

往期内容

密码学入门
q 命令 - 用 SQL 剖析文本文件
神秘的 backlog 参数与 TCP 连贯队列
mysql 的 timestamp 会存在时区问题?
真正了解可反复读事务隔离级别
字符编码解惑

正文完
 0