概述

本文通过运行一段Python小程序,模仿一个实在的工作。比拟在多线程(Multi-thread)和在多协程(Coroutine)环境下的编程实现。发现和解释一些乏味的景象。以期为大家带来一些对协程的直观感触,加深对这种陈腐事物的了解。

Python中的协程

协程(coroutine)是一个有很长历史的概念,它是计算机程序的一类组件,推广了合作式多任务的子程序。其具体的概念和历史请参照维基百科中的条目:https://en.wikipedia.org/wiki...
Python天生反对的生成器(generator)其实就是协程的一种实现,生成器容许执行被挂起与被复原。然而因为不足更多语法上的反对,以及不足利用生成器实现异步编程的成熟模式,限度了生成器作为协程参加合作式多任务编程的用处。不过当初状况产生的扭转,Python自3.6版本开始增加了async/await的语法间接反对协程的异步编程,同时在asyncio库中提供了协程编程的接口以及必要的根底实现。社区也在一直致力为现有的IO库提供异步的版本以便用于协程开发环境,例如http client目前至多在aiohttp以及tornado中都提供了可用于协程的异步版本。咱们晓得IO操作天生是异步的,为了适应广泛应用的同步编程模式,很多的IO库都采纳阻塞调用者的形式来实现同步。这样尽管简化了编程,可也带来的并行度不高的问题。在一些有大量耗时IO操作的环境里,利用不得不忍耐串行操作造成的漫长期待,或是转向多过程(Multi-Process)多线程编程以期进步并行水平。而多过程多线程编程又会引入争用、通信,同步、爱护等辣手的问题。而且咱们晓得即便是作为轻量级的线程也会对应一个独立的运行栈。线程的调度和切换不可避免地包含运行栈的切换和加载。如果在一个过程中有成千盈百的线程,那么相应的调度开销会急剧回升到难以忍受的水平。而且线程之间的同步和互锁也将成为一个噩梦。除去boss级别的死锁问题,其余任何的bug或是缺点在多线程环境下都难于重现和追踪,这是因为线程的调度有很大的随机性。

一个Python小程序

上面是一个Python的小程序,能够在Python3.8或者更新的版本上运行。

import threadingimport timeimport asynciodef gen():    s = 0    while s < 1000:        yield s        s += 1def unsafe_thread_worker(g):    t = 0    try:         while True:            v = next(g)            time.sleep(0.01)            t += v    except StopIteration:        print(f" {t} ")async def wrong_coroutine_worker(g):    t = 0    try:         while True:            v = next(g)            time.sleep(0.01)            t += v    except StopIteration:        print(f" {t} ")        async def starter_with_wrong_workers():    tasks = []    for _ in range(10):        task = asyncio.create_task(wrong_coroutine_worker(g))        tasks.append(task)    await asyncio.gather(*tasks)    async def right_coroutine_worker(g):    t = 0    try:         while True:            v = next(g)            await asyncio.sleep(0.01)            t += v    except StopIteration:        print(f" {t} ")        async def starter_with_right_workers():    tasks = []    for _ in range(10):        task = asyncio.create_task(right_coroutine_worker(g))        tasks.append(task)    await asyncio.gather(*tasks)if __name__ == '__main__':        print('----------------- Sequence  -----------------')    g = gen()    started_at = time.monotonic()    t = 0    for v in g:        time.sleep(0.01)        t += v    print(t)    total_time = time.monotonic() - started_at    print(f'total time consumed: {total_time:.2f} seconds')        print('----------------- Unsafe threading  -----------------')    g = gen()    started_at = time.monotonic()    threads =[]    for _ in range(10):        w = threading.Thread(target=unsafe_thread_worker, args=[g])        w.start()        threads.append(w)    for w in threads:        w.join()    total_time = time.monotonic() - started_at    print(f'total time consumed: {total_time:.2f} seconds')    print('----------------- Async with wrong coroutine  -----------------')    g = gen()    started_at = time.monotonic()    loop = asyncio.get_event_loop()    loop.run_until_complete(starter_with_wrong_workers())    total_time = time.monotonic() - started_at    print(f'total time consumed: {total_time:.2f} seconds')                print('----------------- Async with right coroutine  -----------------')    g = gen()    started_at = time.monotonic()    loop = asyncio.get_event_loop()    loop.run_until_complete(starter_with_right_workers())    total_time = time.monotonic() - started_at    print(f'total time consumed: {total_time:.2f} seconds')

一个典型的运行输入看起来像是这个样子的:

----------------- Sequence  -----------------499500total time consumed: 10.53 seconds----------------- Unsafe threading  ----------------- 49804  49609  50033  49682  49574  50005  50143  50069  50219  50362 total time consumed: 1.09 seconds----------------- Async with wrong coroutine  ----------------- 499500  0  0  0  0  0  0  0  0  0 total time consumed: 10.55 seconds----------------- Async with right coroutine  ----------------- 49500  49967  49973  50100  49965  50000  49968  49963  49964  50100 total time consumed: 1.16 seconds

这个小程序实际上模仿了一个常见的实在工作。构想咱们通过一个http的数据API一页一页地获取一个比拟大地数据集。每页数据通过一个带有页号或是起始地位的URL予以标识,而后通过向API服务器发送一个http request,并解析返回的http response中所蕴含的数据。其中的http拜访显然是一个耗时的IO操作。返回数据的解析和解决是一个计算密集型的操作,相比IO期待,其耗费的工夫不值一提。那个生成器gen能够看作是一个数据页面URL的生成器,也就是工作生成器。而后咱们应用sleep来模仿一个耗时的IO操作,应用加法来模仿数据的合并与剖析。你也能够把这个小程序设想成为一个网络爬虫,咱们在一个全局的列表里保留了所有指标网站的地址,而后或串行或并行地拜访所有地指标,取回咱们感兴趣的数据存储并合并剖析。
总之,咱们有1000个比拟独立的小工作,每个工作有一个耗时0.01秒的IO操作。