我们讲以 Python 3.7 上的 asyncio 为例讲解如何使用 Python 的异步 IO。
创建第一个协程
Python 3.7 推荐使用 async/await 语法来声明协程,来编写异步应用程序。我们来创建第一个协程函数:首先打印一行“你好”,等待 1 秒钟后再打印“猿人学”。
sayhi()函数通过 async 声明为协程函数,较之前的修饰器声明更简洁明了。
在实践过程中,什么功能的函数要用 async 声明为协程函数呢?就是那些能发挥异步 IO 性能的函数,比如读写文件、读写网络、读写数据库,这些都是浪费时间的 IO 操作,把它们协程化、异步化从而提高程序的整体效率(速度)。
sayhi()函数是通过 asyncio.run()
来运行的,而不是直接调用这个函数(协程)。因为,直接调用并不会把它加入调度日程,而只是简单的返回一个协程对象:
那么,如何真正运行一个协程呢?asyncio 提供了三种机制:
(1)asyncio.run() 函数,这是异步程序的主入口,相当于 C 语言中的 main 函数。
(2)用 await 等待协程 ,比如上例中的 await asyncio.sleep(1)
。再看下面的例子,我们定义了协程 say_delay()
,在 main() 协程中调用两次,第一次延迟 1 秒后打印“你好”,第二次延迟 2 秒后打印“猿人学”。这样我们通过 await 运行了两个协程。
从起止时间可以看出,两个协程是顺序执行的,总共耗时 1 +2= 3 秒。
(3)通过 asyncio.create_task()
函数并发运行作为 asyncio 任务(Task)的多个协程。下面,我们用 create_task()来修改上面的 main()协程,从而让两个 say_delay()协程并发运行:
从运行结果的起止时间可以看出,两个协程是并发执行的了,总耗时等于最大耗时 2 秒。
asyncio.create_task()
是一个很有用的函数,在爬虫中它可以帮助我们实现大量并发去下载网页。在 Python 3.6 中与它对应的是 ensure_future()
。
可等待对象(awaitables)
可等待对象,就是可以在 await 表达式中使用的对象,前面我们已经接触了两种可等待对象的类型:协程和任务,还有一个是低层级的 Future。
asyncio 模块的许多 API 都需要传入可等待对象,比如 run(), create_task() 等等。
(1)协程
协程是可等待对象,可以在其它协程中被等待。协程两个紧密相关的概念是:
- 协程函数:通过 async def 定义的函数;
- 协程对象:调用协程函数返回的对象。
运行上面这段程序,结果为:
co is
now is 1548512708.2026224
now is 1548512708.202648
可以看到,直接运行协程函数 whattime()得到的 co 是一个协程对象,因为协程对象是可等待的,所以通过 await 得到真正的当前时间。now2 是直接 await 协程函数,也得到了当前时间的返回值。
(2)任务
前面我们讲到,任务是用来调度协程的,以便并发执行协程。当一个协程通过 asyncio.create_task()
被打包为一个 任务,该协程将自动加入程序调度日程准备立即运行。
create_task()的基本使用前面例子已经讲过。它返回的 task 通过 await 来等待其运行完。如果,我们不等待,会发生什么?“准备立即运行”又该如何理解呢?先看看下面这个例子:
运行这段代码的情况是这样的:
首先,1 秒钟后打印一行,这是第 13,14 行代码运行的结果:
calling:0, now is 09:15:15
接着,停顿 1 秒后,连续打印 4 行:
calling:1, now is 09:15:16
calling:2, now is 09:15:16
calling:3, now is 09:15:16
calling:4, now is 09:15:16
从这个结果看,asyncio.create_task()
产生的 4 个任务,我们并没有 await
,它们也执行了。关键在于第 18 行的 await
,如果把这一行去掉或是 sleep 的时间小于 1 秒(比 whattime() 里面的 sleep 时间少即可),就会只看到第一行的输出结果而看不到后面四行的输出。这是因为,main()不 sleep 或 sleep 少于 1 秒钟,main()就在 whattime()还未来得及打印结果(因为,它要 sleep 1 秒)就退出了,从而整个程序也退出了,就没有 whattime()的输出结果。
再来理解一下 “准备立即执行” 这个说法。它的意思就是,create_task()只是打包了协程并加入调度队列还未执行,并准备立即执行,什么时候执行呢?在“主协程”(调用 create_task()的协程)挂起的时候,这里的“挂起”有两个方式:
一是,通过 await task 来执行这个任务;
另一个是,主协程通过 await sleep 挂起,事件循环就去执行 task 了。
我们知道,asyncio 是通过事件循环实现异步的。在主协程 main()里面,没有遇到 await 时,事件就是执行 main()函数,遇到 await 时,事件循环就去执行别的协程,即 create_task()生成的 whattime()的 4 个任务,这些任务一开始就是 await sleep 1 秒。这时候,主协程和 4 个任务协程都挂起了,CPU 空闲,事件循环等待协程的消息。
如果 main()协程只 sleep 了 0.1 秒,它就先醒了,给事件循环发消息,事件循环就来继续执行 main()协程,而 main()后面已经没有代码,就退出该协程,退出它也就意味着整个程序退出,4 个任务就没机会打印结果;
如果 main()协程 sleep 时间多余 1 秒,那么 4 个任务先唤醒,就会得到全部的打印结果;
如果 main()的 18 行 sleep 等于 1 秒时,和 4 个任务的 sleep 时间相同,也会得到全部打印结果。这是为什么呢?
我猜想是这样的:4 个任务生成在前,第 18 行的 sleep 在后,事件循环的消息响应可能有个先进先出的顺序。后面深入 asyncio 的代码专门研究一下这个猜想正确与否。
(3)Future
它是一个低层级的可等待对象,表示一个异步操作的最终结果。目前,我们写应用程序还用不到它,暂不学习。
asyncio 异步 IO 协程总结
协程就是我们异步操作的片段。通常,写程序都会把全部功能分成很多不同功能的函数,目的是为了结构清晰;进一步,把那些涉及耗费时间的 IO 操作(读写文件、数据库、网络)的函数通过 async def 异步化,就是异步编程。
那些异步函数(协程函数)都是通过消息机制被事件循环管理调度着,整个程序的执行是单线程的,但是某个协程 A 进行 IO 时,事件循环就去执行其它协程非 IO 的代码。当事件循环收到协程 A 结束 IO 的消息时,就又回来执行协程 A,这样事件循环不断在协程之间转换,充分利用了 IO 的闲置时间,从而并发的进行多个 IO 操作,这就是异步 IO。
写异步 IO 程序时记住一个准则:需要 IO 的地方异步。其它地方即使用了协程函数也是没用的。