一种线程池的工作原理与C＋实现

1 简介

线程池（thread pool）：一种线程的使用模式，线程过多会带来调度开销，进而影响缓存局部性和整体性能。而线程池维护着多个线程，等待着监督管理者分配可并发执行的任务。这避免了在处理短时间任务时创建与销毁线程的代价。线程池不仅能够保证内核的充分利用，还能防止过分调度。可用线程数量应该取决于可用的并发处理器、处理器内核、内存、网络sockets等的数量。

2 线程池的组成

2.1 线程池管理器

创建一定数量的线程，启动线程，调配任务，管理着线程池。本篇线程池目前只需要启动(start())，停止方法(stop())，及任务添加方法(addTask).

start()创建一定数量的线程池,进行线程循环

stop()停止所有线程循环，回收所有资源

addTask()添加任务

2.2 工作线程

线程池中线程，在线程池中等待并执行分配的任务.本篇选用条件变量实现等待与通知机制.

2.3 任务接口

添加任务的接口,以供工作线程调度任务的执行。

2.4 任务队列

用于存放没有处理的任务。提供一种缓冲机制同时任务队列具有调度功能，高优先级的任务放在任务队列前面;本篇选用priority_queue 与pair的结合用作任务优先队列的结构.

3 线程池工作的四种情况

假设我们的线程池大小为3，任务队列目前不做大小限制。

3.1 情形1-线程池空闲

主程序当前没有任务要执行，线程池中的任务队列为空闲状态

此情况下所有工作线程处于空闲的等待状态，任务缓冲队列为空.

img3.2 情形2-线程池未饱和工作

主程序添加小于等于线程池中线程数量的任务

此情况基于情形1，所有工作线程已处在等待状态，主线程开始添加三个任务，添加后通知(notif())唤醒线程池中的线程开始取(take())任务执行. 此时的任务缓冲队列还是空。

img3.3 情形3-线程池饱和，启用任务缓冲

主程序添加任务数量大于当前线程池中线程数量的任务

此情况发生情形2后面，所有工作线程都在工作中，主线程开始添加第四个任务，添加后发现现在线程池中的线程用完了,于是存入任务缓冲队列。工作线程空闲后主动从任务队列取任务执行.

3.4 情形4-任务缓冲也饱和

主程序添加任务数量大于当前线程池中线程数量的任务，且任务缓冲队列已满

此情况发生情形3且设置了任务缓冲队列大小后面，主程序添加第N个任务，添加后发现池子中的线程用完了，任务缓冲队列也满了，于是进入等待状态、等待任务缓冲队列中的任务腾空通知。但是要注意这种情形会阻塞主线程，本篇暂不限制任务队列大小,必要时再来优化.

img5 实现

等待通知机制通过条件变量实现，Logger和CurrentThread,用于调试，可以无视.

5.1 threadpool.h

5.2 threadpool.cpp

6 测试程序

6.1 start、stop

测试线程池基本的创建退出工作，及检测资源是否正常回收.

运行结果：

6.2 addTask()、PriorityTaskQueue

测试添加任务接口，及优先任务队列.

主线程首先添加了5个普通任务、 1s后添加一个高优先级任务，当前3个线程中的最先一个空闲后，会最先执行后面添加的priorityFunc().

运行结果：