协程(Coroutine):协程(Coroutine),又称微线程。

子程序,或者称为函数,在所有语言中都是层级调用,比如A调用B,B在执行过程中又调用了C,C执行完毕返回,B执行完毕返回,最后是A执行完毕。
所以子程序调用是通过栈实现的,一个线程就是执行一个子程序。
子程序调用总是一个入口,一次返回,调用顺序是明确的。(子程序就是协程的一种特例。)

协程的调用和子程序不同。协程看上去也是子程序,但执行过程中,在子程序内部可中断,然后转而执行别的子程序,在适当的时候再返回来接着执行。

协程最大的优势就是协程极高的执行效率。因为子程序切换不是线程切换,而是由程序自身控制,因此,没有线程切换的开销,和多线程比,线程数量越多,协程的性能优势就越明显。第二大优势就是不需要多线程的锁机制,因为只有一个线程,也不存在同时写变量冲突,在协程中控制共享资源不加锁,只需要判断状态就好了,所以执行效率比多线程高很多。

因为协程是一个线程执行,那怎么利用多核CPU呢?最简单的方法是多进程+协程,既充分利用多核,又充分发挥协程的高效率,可获得极高的性能。

generator(生成器)实现的协程

Python对协程的支持是通过generator实现的。

在generator中,我们不但可以通过for循环来迭代,还可以不断调用next()函数获取由yield语句返回的下一个值。

但是Python的yield不但可以返回一个值,它还可以接收调用者发出的参数。

示例:

传统的生产者-消费者模型是一个线程写消息,一个线程取消息,通过锁机制控制队列和等待,但一不小心就可能死锁。

如果改用协程,生产者生产消息后,直接通过yield跳转到消费者开始执行,待消费者执行完毕后,切换回生产者继续生产,效率极高:

  1. def consumer():
  2. r = ''
  3. while True:
  4. n = yield r
  5. if not n:
  6. return
  7. print('[消费者] 消耗 %s...' % n)
  8. r = '处理完毕'
  9. def produce(c):
  10. c.send(None)
  11. n = 0
  12. while n < 5:
  13. n = n + 1
  14. print('[生产者] 生产 %s...' % n)
  15. r = c.send(n)
  16. print('[生产者] 消费者返回: %s' % r)
  17. c.close()
  18. c = consumer()
  19. produce(c)

运行结果:

  1. <class 'generator'>
  2. [生产者] 生产 1...
  3. [消费者] 消耗 1...
  4. [生产者] 消费者返回: 处理完毕
  5. [生产者] 生产 2...
  6. [消费者] 消耗 2...
  7. [生产者] 消费者返回: 处理完毕
  8. [生产者] 生产 3...
  9. [消费者] 消耗 3...
  10. [生产者] 消费者返回: 处理完毕
  11. [生产者] 生产 4...
  12. [消费者] 消耗 4...
  13. [生产者] 消费者返回: 处理完毕
  14. [生产者] 生产 5...
  15. [消费者] 消耗 5...
  16. [生产者] 消费者返回: 处理完毕

consumer函数是一个generator类型的数据,把一个consumer函数传入product方法后:

  1. 首先调用c.send(None)启动生成器;
  2. 然后,产生了新的东西,就通过c.send(n)把新生成的事物传递给consumer函数执行;
  3. consumer通过yield拿到事物,处理,又通过yield将结果传回;
  4. produce拿到consumer处理的结果,继续生产下一条消息;
  5. produce决定不生产了,通过c.close()关闭consumer,整个过程结束。

整个流程无锁,由一个线程执行,produce和consumer协作完成任务,所以称为“协程”,而非线程的抢占式多任务。