乐趣区

关于linux:你知道吗du-和-df-的统计结果为什么不一样

咱们经常应用 du 和 df 来获取目录或文件系统已占用空间的状况。但它们的统计后果是不统一的,大多数时候,它们的后果相差不会很大,但有时候它们的统计后果会相差十分大。

例如:

df 的统计后果

[root@xuexi ~]# df -hT 
Filesystem          Type   Size  Used Avail Use% Mounted on
/dev/sda2           ext4    18G  1.7G   15G  11% /
tmpfs               tmpfs  491M     0  491M   0% /dev/shm
/dev/sda1           ext4   239M   68M  159M  30% /boot
//192.168.0.124/win cifs   381G  243G  138G  64% /mnt

du 对根目录的统计后果

[root@xuexi ~]# du -sh /  2>/dev/null
244G    /

df 中 ”/” 的应用空间是 1.7G,然而 du 的后果却是 244G。这里 du 的统计后果大于 df。

再看看对 /boot 分区的统计后果。

[root@xuexi ~]# df -hT /boot;echo;du -sh /boot
Filesystem     Type  Size  Used Avail Use% Mounted on
/dev/sda1      ext4  239M   68M  159M  30% /boot
66M     /boot

du 的后果是 66M,df 的后果是 68M,相差不大,但 df 的后果大于 du。

文件存储和删除的底层过程

这里简略阐明下文件系统相干的底层机制,首先阐明下文件是怎么存储到文件系统中的。如果要存储 a.txt 到 /tmp 目录下。当 a.txt 文件要存储到 /tmp 下时:

  • (1). 首先从 inode table 中找一个闲暇的 inode 号调配给 a.txt,例如 2222。再将 inode map(imap)中 2222 这个 inode 号标记为已应用。
  • (2). 在 /tmp 的 data block 中增加一条 a.txt 文件的记录。该记录中包含一个指向 inode 号的指针,例如 ”0x2222″。
  • (3). 而后从 block map(bmap)中找出闲暇的 data block,并开始将 a.txt 中的数据写入到 data block 中。每写一段空间 (ext4 每次调配一段空间) 就从 bmap 中找一次闲暇的 data block,直到存完所有数据。
  • (4). 设置 inode table 中对于 2222 这条记录的 data block 指针,通过该指针能够找到 a.txt 应用了哪些 data block。

当要删除 a.txt 文件时:

  • (1). 在 inode table 中删除指向 a.txt 的 data block 指针。这里只有一删除,外界就找不到 a.txt 的数据了。然而这个文件还存在,只是它是被 ” 损坏 ” 的文件,因为没有任何指针指向数据块。
  • (2). 在 imap 中将 2222 的 inode 号标记为未应用。于是这个 inode 号就被开释,能够被后续的文件重用。
  • (3). 删除父目录 /tmp 的 data block 中对于 a.txt 的记录。这里只有一删除,外界就看不到也找不到这个文件了。
  • (4). 在 bmap 中将 a.txt 占用的 block 标记为未应用。这里被标记为未应用后,这些 data block 就能够被后续文件笼罩重用。

思考一种状况,当一个文件被删除时,但此时还有过程在应用这个文件,这时是怎么的状况呢?外界是看不到也找不到这个文件的,所以删除的过程曾经进行到了第 (3) 步。但过程还在应用这个文件的数据,也能找到这个文件的数据,是因为过程在加载这个文件的时候就曾经获取到了该文件占用哪些 data block,尽管删除了文件,但 bmap 中这些 data block 还没有标记为未应用。

du 统计的原理

du 是通过 stat 命令来统计每个文件 (包含子目录) 的空间占用总和。因为会对每个波及到的文件应用 stat 命令,所以速度较慢。

1. 如果统计目录下挂载了其余文件系统,那么也会对这个文件系统进行统计。

例如 ”du -sh /” 的时候,会统计所有分区的文件,包含挂载上来的。正如本文结尾统计的 ”/” 一样,du 的后果是 244G,显著比 df 统计的后果大,就是因为将某个分区挂载到了 /mnt 目录下。

## df 的统计后果
[root@xuexi ~]# df -hT 
Filesystem          Type   Size  Used Avail Use% Mounted on
/dev/sda2           ext4    18G  1.7G   15G  11% /
tmpfs               tmpfs  491M     0  491M   0% /dev/shm
/dev/sda1           ext4   239M   68M  159M  30% /boot
//192.168.0.124/win cifs   381G  243G  138G  64% /mnt
## du 对根目录的统计后果
[root@xuexi ~]# du -sh /  2>/dev/null
244G    /

2. 如果文件被删除,即便被其余过程援用了,du 命令也无奈对其统计。因为 stat 命令找不到这个文件。

3. 能够跨分区统计某些你想统计的文件大小总和。因为它们都能被 stat 找到并统计。

例如:

统计 Linux 下所有 img 文件的大小。

[root@xuexi ~]# find / -type f -name "*.img" -print0 | xargs -0 du -csh 
19M     /boot/initramfs-2.6.32-504.el6.x86_64.img
13M     /mnt/linux 工具 /cirros-0.3.4-x86_64-disk.img
31M     total

这里统计的两个 img 文件就是在不同分区内的。

df 统计的原理

df 是读取每个分区的 superblock 来获取闲暇数据块、已应用数据块,从而计算出闲暇空间和已应用空间,因而 df 统计的速度极快(superblock 才占用 1024 字节)。

1. 当某个文件系统下挂载了其余分区,df 不会把这个分区也统计进去。

这很容易了解,因为 df 读取的是各自分区的 superblock,即便分区 1 挂载在分区 0 的目录下,df 统计分区 0 的时候,也只能读取分区 0 的 superblock。

例如,上面的 /mnt、/boot 都没有统计在 ”/” 中。

[root@xuexi ~]# df -hT 
Filesystem          Type   Size  Used Avail Use% Mounted on
/dev/sda2           ext4    18G  1.7G   15G  11% /
tmpfs               tmpfs  491M     0  491M   0% /dev/shm
/dev/sda1           ext4   239M   68M  159M  30% /boot
//192.168.0.124/win cifs   381G  243G  138G  64% /mnt

2. 因为 df 每次统计都是读取 superblock,所以 df 对文件系统中的某个文件进行统计时,会主动转为统计这个文件系统的信息。

[root@xuexi ~]# df -hT /etc/fstab
Filesystem     Type  Size  Used Avail Use% Mounted on
/dev/sda2      ext4   18G  1.7G   15G  11% /

3.df 会统计已删除但却仍有过程援用的文件。

失常状况下,删除文件会立即开释相干指针,并将 imap 和 bmap 中相干的位图标记为未应用。bmap 只有一扭转,文件系统立即就能晓得每个块组中哪些数据块是闲暇的,哪些数据块是被应用的,这些信息都会更新到分区的 superblock 中。于是 df 能立即统计到实时的空间信息。

然而当一个文件被删除时,如果还有过程在援用这个文件,依据前文的剖析,bmap 中不会将这个文件的 data block 标记为未应用,也就不会将数据块的应用状况更新到 superblock 中。因为 df 是依据 superblock 中闲暇和应用数据块的数量来计算闲暇空间和已应用空间的,所以 df 统计的时候会将这个已被 ” 删除 ” 的文件统计到已应用空间中。

例如,创立一个较大一点的文件放在 ”/” 目录下,并 du 和 df 统计根目录的已应用空间。

[root@xuexi ~]# dd if=/dev/zero of=/my.iso bs=1M count=1000
[root@xuexi ~]# df -hT /
Filesystem     Type  Size  Used Avail Use% Mounted on
/dev/sda2      ext4   18G  2.7G   14G  17% /
[root@xuexi ~]# du -sh --exclude="/mnt" / 2>/dev/null
2.7G    /

它们在 GB 级的单位上是相等的。

当初应用一个过程来援用这个文件,而后删除这个文件,再 du 和 df 统计。

[root@xuexi ~]# tail -f /my.iso &
[root@xuexi ~]# rm -rf /my.iso 
[root@xuexi ~]# ls /my.iso
ls: cannot access /my.iso: No such file or directory
[root@xuexi ~]# du -sh --exclude="/mnt" / 2>/dev/null
1.8G    /
[root@xuexi ~]# df -hT /
Filesystem     Type  Size  Used Avail Use% Mounted on
/dev/sda2      ext4   18G  2.7G   14G  17% /

能够发现,外界曾经获取不到 my.iso 文件了,所以 du 无奈统计这个文件。而 df 却将该文件大小统计进去了,因为 my.iso 占用的 data block 还未被标记为未应用。

再关掉 tail 过程,而后 df 再统计空间,后果将和 du 一样显示为失常的大小。

[root@xuexi ~]# jobs
[1]+  Running                 tail -f /my.iso &
[root@xuexi ~]# kill %1
[root@xuexi ~]# df -hT /
Filesystem     Type  Size  Used Avail Use% Mounted on
/dev/sda2      ext4   18G  1.7G   15G  11% /

如果不晓得文件系统中哪些已被删除,但却还被过程援用的文件,能够应用 lsof 来获取。通过它还能获取到文件的大小,看看到底是哪个文件在 ” 占着茅坑以及占了多少茅坑 ”。

例如,关掉 tail 过程前,应用 lsof 查看。能够看到 tail 过程占用了 /my.iso,且这个文件的大小为 1048576000 字节。

[root@xuexi ~]# lsof | grep deleted   
php-fpm   12597      root  txt     REG   8,2    4058416   931143 /usr/sbin/php-fpm (deleted)
php-fpm   12657    nobody  txt     REG   8,2    4058416   931143 /usr/sbin/php-fpm (deleted)
php-fpm   12707    nobody  txt     REG   8,2    4058416   931143 /usr/sbin/php-fpm (deleted)
php-fpm   12708    nobody  txt     REG   8,2    4058416   931143 /usr/sbin/php-fpm (deleted)
tail      14437      root    3r    REG   8,2 1048576000     7171 /my.iso (deleted)

通过下面的剖析,想必对 du 和 df 的后果不会再有任何纳闷了吧。

作者:骏马金龙
起源:https://www.cnblogs.com/f-ck-…

退出移动版