I/O Multiplexing — Linux I/O 多路复用

5次阅读

共计 2904 个字符,预计需要花费 8 分钟才能阅读完成。

文章还会涉及到同步 I/O,异步 I/O,阻塞 I/O 和非阻塞 I/ O 首先我们需要理解以下概念:
Linux 用户态和内核态
在现在操作系统中,CPU 通常会在两种不同的模式下工作:
内核态
此模式下,程序代码能够完全,无限制地访问底层硬件,能够执行任意的 CPU 指令和访问任意的内存地址。内核模式通常留给最底层的,受信任的系统函数来使用。程序在内核模式下崩溃是灾难性的,这甚至可以使整台 PC 宕机。
用户态
在用户模式下,程序代码不能够直接访问硬件和内存。执行在用户态的代码必须委托系统函数去访问硬件和内存。因为有这种隔离机制的保护,程序在用户态下崩溃通常是可恢复的。PC 中大多数程序也是在用户态下执行。
进程切换
指操作系统进程调度切换,从某个进程到另外的进程。切换过程需要保存当前进程的所有状态,包括寄存器状态,关联的内核状态,虚拟内存的配置等,具体会经历以下几个步骤:

保存处理器上下文,包括程序计数器和其他寄存器
更新进程控制块 (PCB)
移动进程的 PCB 到合适的队列,例如就绪队列,事件阻塞队列
选择其他进程,并更新他的 PCB
更新内存数据结构
恢复 PCB 上下文

进程阻塞
一个阻塞的进程通常是在等待某个事件,例如信号的释放或者消息的到达。在多任务的系统中,阻塞的进程会通过系统调用去通知调度器自己处于 wait 的状态,以便能够被移除出时序队列。进程如果在 wait 状态下还霸占 CPU 继续执行,这被称为 busy-waiting (空等?)。显然这是不合理的,因为他浪费了 CPU 时钟周期,这原本可以被其他进程使用。所以当一个进程进入了阻塞状态,不应继续占用 CPU 资源。
缓冲式 I/O
当我们写数据(到文件系统),I/O 系统会累积数据到一个中间缓冲区,当缓冲区积累到足够数据时(或者调用 flush())才会把数据发送到文件系统,这样减少了文件系统的访问次数。因为对文件系统(磁盘)的访问通常来说开销很大(对比内存间的拷贝),缓冲式 I/O 能够有效提高性能,尤其是那种多次的小数据量写操作。若是大数据量的写操作,非缓冲式 I/O 会更好,因为缓冲式 I/O 并不会显著减少(对文件系统)系统调用,却引入的额外的内存拷贝工作,这些数据拷贝操作带来了更高的 CPU 和内存开销。
文件描述符 (FD)
在 Unix 及其衍生的操作系统中,文件描述符 (FD) 是一个抽象的指示符 (原文:indicator, handle,多数文章翻译成句柄),用来访问文件或其他 I/O 资源,例如管道,socket 等。FD 是 POSIX 编程接口的一部分,是个非负索引值,许多底层的程序都会使用到 FD
I/O 模型
当一个读操作发生,会经历以下两个阶段:

数据准备阶段 —— 例如等待网络数据到达,当数据包到达时,他们会拷贝到内核缓冲区中
数据转移阶段 —— 把数据从内核拷贝到用户进程

因为这两个阶段的存在,Linux 提供了以下 5 种 I/O 模型
Blocking I/O Model —— 阻塞式 I/O
阻塞式 I/O 是最常见的 I/O 模式,默认地,所有的 socket 都是阻塞式的这里我们用 UDP 协议和 recvfrom 系统调用来举例。上图中,进程调用了 recvfrom,系统函数在有数据报到达并已经拷贝到应用程序缓冲区时,或者有错误发生时才会返回(最常见的错误是被信号中断)。我们认为进程在 recvfrom 从调用到返回的整个阶段都被阻塞了。当 recvfrom 成功返回,应用程序才会去处理数据报。
Nonblocking I/O Model —— 非阻塞式 I/O
如果一个(数据准备阶段)I/O 调用没有完成,内核会立即返回一个错误标记,而不是阻塞这个进程第一次调用 recvfrom 时并没有数据到达,于是内核立即返回了错误标记 EWOULDBLOCK 第四次调用 recvfrom 时数据报已经到达,拷贝到应用程序缓冲区后,recvfrom 成功返回,之后程序会处理这些数据。像这样,程序在一个非阻塞的 FD 上循环调用 recvfrom 被称为轮询。这通常会浪费 CPU 时钟周期,但这种模型也会偶尔使用到,例如一个系统只专注于某个功能的时候。
I/O Multiplexing Model —— I/O 多路复用
在 Linux I/O 多路复用模型,我们会阻塞在 select, poll, epoll 这些系统函数中,而不是阻塞在真正的 I/O 调用上。我们阻塞在 select 函数上,等待 socket 数据可读。当 select 返回则表示 socket 数据可读,我们之后才调用 recvfrom 拷贝数据到应用程序缓冲区

缺点:这里我们使用了两次系统调用 (select 和 recvfrom),而阻塞式 I/O 只使用了一次 recvfrom
优势:我们可以监听多个 FD 是否就绪

I/O 多路复用模型与阻塞式 I/O 模式非常相似。阻塞式 I/O 使用多线程(每个线程负责一个 FD)且每个线程都可以很自由地调用(阻塞式)系统函数 recvfrom,而非使用 select 负责监听多个 FD。
Signal-Driven I/O Model —— 信号驱动 I/O
告诉内核当某个 FD 就绪时,释放 SIGIO 信号来通知应用程序我们首先让 socket 使用信号驱动 I/O 模式,并使用 sigaction 系统函数注册一个信号处理器 (signal handler),该系统函数立即返回,这是非阻塞的。
当数据可读,SIGIO 信号释放出来被进程接收到,我们可以进行如下操作之一

在 signal handler 中调用 recvfrom 读取数据,随后通知主循环数据已经准备好了
signal handler 通知主循环去读取数据

该模型的优势在于,等待数据到达的阶段不会阻塞,主循环可以继续执行其他任务并等待 signal handler 的通知(数据可读或可处理)
Asynchronous I/O Model —— 异步 I/O
异步 I/O 模型告诉内核执行 I/O 操作,等到整个 I/O 操作(包括数据准备阶段和数据转移阶段)完成后再通知我们。该模式跟信号驱动 I/O 非常相似,主要的区别是:信号驱动 I/O 中,内核通知进程 I/O 操作可以开始(仍需把数据从内核拷贝到进程),而异步 I/O 中内核通知我们 I/O 操作已经完成(数据已经在进程缓冲区中)我们调用了系统函数 aio_read,向内核传递了以下信息:

FD, 缓冲区指针,缓冲区大小
文件偏移量
I/O 执行完毕的通知方式

aio_read 会立即返回,进程在等待 I/O 操作完成的整个阶段都不会被阻塞。
I/O 模型的比较

前面 4 种模型的主要区别在第一个阶段(数据准备阶段),第二阶段(数据转移阶段)是一样的:进程都阻塞在数据转移阶段(从内核拷贝到应用程序缓冲区)。异步 I/O 内核负责这两个阶段,不需要应用程序干预。
同步 I/O 和异步 I/O
POSIX 定义如下

同步 I/O 会导致请求 I/O 操作的进程阻塞,直到 I/O 操作完成
异步 I/O 不会导致请求 I/O 操作的进程阻塞

根据这些定义,前面 4 种 I/O 模型 (blocking, nonblocking, I/O multiplexing, and signal-driven I/O) 都是同步 I/O,因为实际的 I/O 操作都会阻塞进程(举例:信号驱动 I/O 在等待数据时非阻塞,但在数据转移时阻塞了,是同步 I/O),只有异步 I/O 模型符合定义。
select, poll, epoll
施工中

正文完
 0