乐趣区

关于bpf:Datenlord-用BPF实现用户态tracing

jiezi

BPF 是最近 Linux 内核畛域热门的技术。传统的 BPF 指的是 tcpdump 命令用于过滤网络包的工具，当初 BPF 曾经失去极大的扩大，不再是 Berkeley Packet Filter 的缩写对应的简略的网络包过滤工具。从 Kernel 4.9 之后，BPF 曾经成为一个欠缺的内核扩大工具，BPF 在内核里运行一个 sandbox，用于执行 BPF 的字节码（bytecode），在执行 BPF 程序前，BPF 的查看器会对 BPF 程序的字节码进行安全检查（比方，指针要先判断不为空后再拜访，代码里不能有循环，等等），以保障 BPF 程序不会导致系统解体，因为 BPF 程序执行时是在内核态。因而，BPF 能够很平安地在内核态执行用户编写的程序，而且有平安保障，这比编写内核模块平安太多了。正是因为 BPF 能保障平安，并运行在内核态，能够大大简化很多以前很简单的事件，目前 BPF 曾经利用于性能剖析、网络、平安、驱动、区块链等等畛域。

曾经有很多文章介绍 BPF 在内核性能剖析（Kernel tracing）方面的利用。内核有各种定义的 tracepoint 用于动态 tracing，也能够采纳动静 tracing 来跟踪内核函数调用。用 BPF 进行内核 tracing，开销小而且性能好，因为 BPF 程序是运行在内核态，不须要把采集到的数据再传回用户态解决，而是间接在内核态实现数据采集和解决，而后把处理结果传回用户态用于展现。对于 BPF 用于内核 tracing 方面不再赘述，本文专一于利用 BPF 进行用户态利用性能剖析（Userspace tracing）方面。

用户态 tracing

在进行用户态 tracing 前，要在程序里定义 tracepoints。这里次要介绍 Userland Statically Defined Tracepoints（USDT）。

因为 USDT 依赖 systemtap-sdt-dev 包，先要装置依赖包，以 Ubuntu 为例，运行 sudo apt install systemtap-sdt-dev 进行装置。上面的示例 test-server.c 给出如何应用宏 DTRACE_PROBE1 在用户程序里定义 tracepoint：

#include <sys/sdt.h>
#include <unistd.h>

int main(int argc, char **argv)
{
    int idx = 0;
    while(1) {
        idx++;
        // 自定义的 tracepoint
        DTRACE_PROBE1(test_grp, test_idx, idx);
        sleep(1);
    }
    return 0;
}

下面的例子，用宏 DTRACE_PROBE1 定义了一个组名为 test_grp、名称为 test_idx 的用户态 tracepoint。该 tracepoint 只有一个参数，该参数是一个递增的整数变量。如果要定义有两个或更多参数的 tracepoint，要用 DTRACE_PROBE2、DTRACE_PROBE3，以此类推。如果 tracepoint 不带参数，则用 DTRACE_PROBE 来定义。用 gcc 命令编译下面的程序 gcc -g -fno-omit-frame-pointer -O0 test-server.c -o test-server，失去可执行的二进制程序 test-server。

USDT 的原理

用宏 DTRACE_PROBE1 定义的 tracepoint 在编译实现的二进制里对应 CPU 指令 nop 操作，能够用 gdb 看下二进制文件 test-server 对应的汇编：

$ gdb test-server
......
Reading symbols from test-server...
(gdb) disas main <<== gdb 命令用于查看二进制文件的汇编
Dump of assembler code for function main:
   0x0000000000001149 <+0>: endbr64
   0x000000000000114d <+4>: push   %rbp
   0x000000000000114e <+5>: mov    %rsp,%rbp
   0x0000000000001151 <+8>: sub    $0x20,%rsp
   0x0000000000001155 <+12>: mov    %edi,-0x14(%rbp)
   0x0000000000001158 <+15>: mov    %rsi,-0x20(%rbp)
   0x000000000000115c <+19>: movl   $0x0,-0x4(%rbp)
   0x0000000000001163 <+26>: addl   $0x1,-0x4(%rbp)
   0x0000000000001167 <+30>: nop <<= tracepoint 对应的 nop 指令
   0x0000000000001168 <+31>: mov    $0x1,%edi
   0x000000000000116d <+36>: callq  0x1050 <sleep@plt>
   0x0000000000001172 <+41>: jmp    0x1163 <main+26>
End of assembler dump.

从下面的汇编能够看出，nop 操作只是放空一个 CPU cycle，这个代价非常低，所以程序里定义 USDT 对性能的影响能够疏忽。

在运行时，如果用 BPF 对 test-server 进行 tracing（具体 tracing 的细节下文会讲），再用 sudo gdb 查看运行时的程序对应的汇编，会发现 nop 操作被替换成 int3 指令了：

$ sudo gdb -p $(pidof test-server)
......
(gdb) disas main
Dump of assembler code for function main:
   0x00005583ee599149 <+0>: endbr64
   0x00005583ee59914d <+4>: push   %rbp
   0x00005583ee59914e <+5>: mov    %rsp,%rbp
   0x00005583ee599151 <+8>: sub    $0x20,%rsp
   0x00005583ee599155 <+12>: mov    %edi,-0x14(%rbp)
   0x00005583ee599158 <+15>: mov    %rsi,-0x20(%rbp)
   0x00005583ee59915c <+19>: movl   $0x0,-0x4(%rbp)
   0x00005583ee599163 <+26>: addl   $0x1,-0x4(%rbp)
   0x00005583ee599167 <+30>: int3 <<== tracepoint 对应的 int3 指令
   0x00005583ee599168 <+31>: mov    $0x1,%edi
   0x00005583ee59916d <+36>: callq  0x5583ee599050 <sleep@plt>
   0x00005583ee599172 <+41>: jmp    0x5583ee599163 <main+26>
End of assembler dump.

从下面 gdb 展现的运行时 test-server 的汇编，发现 nop 指令被替换为 int3 指令，该指令是设置断点，用于转向执行 BPF 等 tracing 工具的指令，诸如采集 tracepoint 数据等等。所以 USDT 是从指令层面进行 tracing，对程序运行时性能影响很小。

用 bpftrace 命令进行 tracing

这里先介绍 bpftrace 命令，这个命令不须要写 BPF 程序，只用写脚本的形式来实现 tracing。在 Ubuntu 上运行 sudo apt-get install -y bpftrace 来装置 bpftrace。运行如下 bpftrace 命令，必须用 sudo 权限：

$ sudo bpftrace \
    -e 'usdt:/home/pwang/usdt_test/test-server:test_grp:test_idx \
        {printf("%d\n", arg0); }' \
    -p $(pidof test-server)
Attaching 1 probe...
1365
1366
1367
1368
1369
1370
^C

上述 bpftrace 命令采集到 test-server 的名为 test_idx 的 tracepoint，并打印出该 tracepoint 的第一个参数的值。该 bpftrace 命令蕴含如下几个组成部分：

- e 的含意是运行前面跟着的脚本，该脚本蕴含两局部：

1、第一局部 usdt:/home/pwang/usdt_test/test-server:test_grp:test_idx 是用冒号分隔的四段：

  • usdt 是 tracing 类型；
  • /home/pwang/usdt_test/test-server 是被 trace 的程序的绝对路径；
  • test_grp 是 tracepoint 的组名，也能够省略不写；
  • test_idx 是 tracepoint 的名称。

2、第二局部 {printf(“%d\n”, arg0); } 是打印该 tracepoint 的第一个参数的值；

- p 是指定被 trace 的过程 ID。

用 BCC 工具编写 BPF 程序进行 tracing

BCC 是用于编写 BPF 程序的开发框架和编译器。目前 BPF 程序次要用 C 语言来写，然而不反对 C 的全副语法，比方不反对循环。BCC 调用 LLVM 把 BPF 的 C 代码转成 BPF 的字节码，而后通过 BPF 查看器的测验，测验通过的 BPF 字节码胜利加载到 sandbox 里运行。BCC 还反对用 Python 代码来跟运行在 sandbox 里的 BPF 程序进行交互，比方拿到 BPF 的 tracing 后果并展现。在 Ubuntu 上运行 sudo apt-get install -y bpfcc-tools 来装置 BCC。

上面是一段 BCC 的 Python 脚本，内嵌了 BPF 的 C 代码：

#! /usr/bin/python3

from bcc import BPF, USDT
import sys

// 内嵌的 BPF 的 C 代码
bpf_src = """
int trace_udst(struct pt_regs *ctx) {
    u32 idx;
    bpf_usdt_readarg(1, ctx, &idx);
    bpf_trace_printk("test_idx=%d tracepoint cachted\\n", idx);
    return 0;
};
"""

// 指定 USDT 的 tracepoint，并关联 BPF 程序里的函数
procid = int(sys.argv[1])
u = USDT(pid=procid)
u.enable_probe(probe="test_idx", fn_name="trace_udst")

// 加载 BPF 程序并打印输出后果
b = BPF(text=bpf_src, usdt_contexts=[u])
print("Start USDT tracing")
b.trace_print()

下面的 BCC 代码分成几个局部：

1、第一局部是内嵌的 BPF 的 C 代码，用字符串的形式定义给 bpf_src 变量。bpf_src 里的 C 代码定义了 trace_udst 函数，该函数的输出参数是抓取到的 tracepoint 上下文，该函数做两件事：

  • bpf_usdt_readarg(1, ctx, &idx); 用于从 tracepoint 上下文中读取 tracepoint 的第一个参数的值；
  • bpf_trace_printk(“test_idx=%d tracepoint cachted\n”, idx); 打印输出后果，打印的后果会发送到一个管道，管道的门路是 /sys/kernel/debug/tracing/trace_pipe；

2、第二局部是指定 USDT 的 tracepoint，并关联 BPF 程序以实现 tracing：

  • u = USDT(pid=procid)生成 USDT 对象；
  • u.enable_probe(probe=”test_idx”, fn_name=”trace_udst”)指定 tracepoint 为 text_idx，并指定 BPF 程序中的 trace_udst 函数为 trace 到该 point 的执行操作；

3、第三局部是加载 BPF 程序并从管道中取出输入后果并打印到 STDOUT：

  • b = BPF(text=bpf_src, usdt_contexts=[u])生成 BPF 对象，并关联 USDT 对象，加载 BPF 程序到 sandbox 进行测验和运行；
  • b.trace_print()打印每次 BPF 程序 trace 到 text_idx 的输入后果。

上面是该 BCC 代码的执行后果，留神该脚本用 python3 来运行：

$ sudo ./ebpf_hello_usdt.py $(pidof test-server)
Start USDT tracing
b'test-server-27125 [000] .... 26587.633948: 0: test_idx=2958 tracepoint cachted'
b'test-server-27125 [000] .... 26588.634090: 0: test_idx=2959 tracepoint cachted'
b'test-server-27125 [000] .... 26589.634237: 0: test_idx=2960 tracepoint cachted'
b'test-server-27125 [000] .... 26590.634386: 0: test_idx=2961 tracepoint cachted'
b'test-server-27125 [000] .... 26591.634563: 0: test_idx=2962 tracepoint cachted'
b'test-server-27125 [000] .... 26592.634714: 0: test_idx=2963 tracepoint cachted'
b'test-server-27125 [000] .... 26593.634870: 0: test_idx=2964 tracepoint cachted'

能够看到 BPF 程序胜利 trace 到递增的 text_idx 的值。

BPF 是十分弱小的内核扩大工具，有了 BPF 能够做很多以前很简单或做不到的事件。此外，有了 BCC，编写 BPF 程序的复杂度大大降低，用 BCC 能够写出十分弱小的内核扩大利用，而且安全性和性能有保障。业内人士普遍认为，有了 BPF 之后，Linux 的内核会越来越成为微内核，很多在内核里或用内核扩大来做的事件能够让用户自行编写 BPF 程序来实现。

作者 | 王璞

退出移动版