线程池简介

线程池（英语：thread pool）：一种线程使用模式。线程过多会带来调度开销， 进而影响缓存局部性和整体性能。而线程池维护着多个线程，等待着监督管理 者分配可并发执行的任务。这避免了在处理短时间任务时创建与销毁线程的代 价。线程池不仅能够保证内核的充分利用，还能防止过分调度。

例子： 10 年前单核 CPU 电脑，假的多线程，像马戏团小丑玩多个球，CPU 需 要来回切换。 现在是多核电脑，多个线程各自跑在独立的 CPU 上，不用切换 效率高。

线程池的优势： 线程池做的主要工作就是控制运行的线程的数量，处理过程中，将任务放入到队列中，然后线程创建后，启动这些任务，如果线程数量超过了最大数量的线程排队等候，等其它线程执行完毕，再从队列中取出任务来执行。 它的主要特点为：线程复用、控制最大并发数、管理线程 线程池中的任务是放入到阻塞队列中的

线程池的好处

多核处理的好处是：省略的上下文的切换开销 原来我们实例化对象的时候，是使用 new关键字进行创建，到了Spring后，我们学了IOC依赖注入，发现Spring帮我们将对象已经加载到了Spring容器中，只需要通过@Autowrite注解，就能够自动注入，从而使用 因此使用多线程有如下好处

  • 降低资源消耗。通过重复利用已创建的线程，降低线程创建和销毁造成的消耗
  • 提高响应速度。当任务到达时，任务可以不需要等到线程创建就立即执行
  • 提高线程的可管理性。线程是稀缺资源，如果无线创建，不仅会消耗系统资源，还会降低系统的稳定性，使用线程池可以进行统一的分配，调优和监控

主要架构

java中线程池是通过Executor框架实现的，该框架中用到了Executor，Executors（代表工具类），ExecutorService，ThreadPoolExecutor这几个类。
image.png

线程池的种类与创建

概述

  • Executors.newFixedThreadPool(int i) ：创建一个拥有 i 个线程的线程池

    • 执行长期的任务，性能好很多
    • 创建一个定长线程池，可控制线程数最大并发数，超出的线程会在队列中等待

  • Executors.newSingleThreadExecutor：创建一个只有1个线程的 单线程池

    • 一个任务一个任务执行的场景
    • 创建一个单线程化的线程池，它只会用唯一的工作线程来执行任务，保证所有任务按照指定顺序执行

  • Executors.newCacheThreadPool(); 创建一个可扩容的线程池

    • 执行很多短期异步的小程序或者负载教轻的服务器
    • 创建一个可缓存线程池，如果线程长度超过处理需要，可灵活回收空闲线程，如无可回收，则新建新线程

  • Executors.newScheduledThreadPool(int corePoolSize)：线程池支持定时以及周期性执行任务，创建一个corePoolSize为传入参数，最大线程数为整形的最大数的线程池

具体使用，首先我们需要使用Executors工具类，进行创建线程池，这里创建了一个拥有5个线程的线程池

具体使用

  1. // 一池5个处理线程（用池化技术，一定要记得关闭）
  2. ExecutorService threadPool = Executors.newFixedThreadPool(5);
  4. // 创建一个只有一个线程的线程池
  5. ExecutorService threadPool = Executors.newSingleThreadExecutor();
  7. // 创建一个拥有N个线程的线程池，根据调度创建合适的线程
  8. ExecutorService threadPool = Executors.newCachedThreadPool();

示例代码

  1. public class MyThreadPoolDemo {
  3.     public static void main(String[] args) {
  5.         // 一池5个处理线程（用池化技术，一定要记得关闭）
  6.         ExecutorService threadPool = Executors.newFixedThreadPool(5);
  8.         // 模拟10个用户来办理业务，每个用户就是一个来自外部请求线程
  9.         try {
  10.             // 循环十次，模拟业务办理，让5个线程处理这10个请求
  11.             for (int i = 0; i < 10; i++) {
  12.                 final int tempInt = i;
  13.                 threadPool.execute(() -> {
  14.                     System.out.println(Thread.currentThread().getName() + "\t 给用户:" + tempInt + " 办理业务");
  15.                 });
  16.             }
  17.         } catch (Exception e) {
  18.             e.printStackTrace();
  19.         } finally {
  20.             threadPool.shutdown();
  21.         }
  22.     }
  24. }

运行结果

pool-1-thread-1 给用户:0 办理业务 pool-1-thread-2 给用户:1 办理业务 pool-1-thread-5 给用户:4 办理业务 pool-1-thread-2 给用户:6 办理业务 pool-1-thread-1 给用户:5 办理业务 pool-1-thread-5 给用户:7 办理业务 pool-1-thread-3 给用户:2 办理业务 pool-1-thread-4 给用户:3 办理业务 pool-1-thread-1 给用户:9 办理业务 pool-1-thread-2 给用户:8 办理业务

底层实现

image.png

线程池执行流程

image.png

线程池核心参数

image.png

线程池在创建的时候，一共有7大参数

  • corePoolSize：核心线程数，线程池中的常驻核心线程数
    • 在创建线程池后，当有请求任务来之后，就会安排池中的线程去执行请求任务，近似理解为今日当值线程
    • 当线程池中的线程数目达到corePoolSize后，就会把到达的队列放到缓存队列中
  • maximumPoolSize：线程池能够容纳同时执行的最大线程数，此值必须大于等于1、
    • 相当有扩容后的线程数，这个线程池能容纳的最多线程数
  • keepAliveTime：多余的空闲线程存活时间
    • 当线程池数量超过corePoolSize时，当空闲时间达到keepAliveTime值时，多余的空闲线程会被销毁，直到只剩下corePoolSize个线程为止
    • 默认情况下，只有当线程池中的线程数大于corePoolSize时，keepAliveTime才会起作用
  • unit：keepAliveTime的单位
  • workQueue：任务队列，被提交的但未被执行的任务（类似于银行里面的候客区）
    • LinkedBlockingQueue：链表阻塞队列
    • SynchronousBlockingQueue：同步阻塞队列
  • threadFactory：表示生成线程池中工作线程的线程工厂，用于创建线程池 一般用默认即可
  • handler：拒绝策略，表示当队列满了并且工作线程大于线程池的最大线程数（maximumPoolSize）时，如何来拒绝请求执行的Runnable的策略

拒绝策略

以下所有拒绝策略都实现了RejectedExecutionHandler接口

  • AbortPolicy：默认，直接抛出RejectedExcutionException异常，阻止系统正常运行
  • DiscardPolicy：直接丢弃任务，不予任何处理也不抛出异常，如果运行任务丢失，这是一种好方案
  • CallerRunsPolicy：该策略既不会抛弃任务，也不会抛出异常，而是将某些任务回退到调用者
  • DiscardOldestPolicy：抛弃队列中等待最久的任务，然后把当前任务加入队列中尝试再次提交当前任务

自定义线程池

示例代码

  1. public class MyThreadPoolDemo {
  3.     public static void main(String[] args) {
  5.         // 手写线程池
  6.         final Integer corePoolSize = 2;
  7.         final Integer maximumPoolSize = 5;
  8.         final Long keepAliveTime = 1L;
  10.         // 自定义线程池，只改变了LinkBlockingQueue的队列大小
  11.         ExecutorService executorService = new ThreadPoolExecutor(
  12.                 corePoolSize,
  13.                 maximumPoolSize,
  14.                 keepAliveTime,
  15.                 TimeUnit.SECONDS,
  16.                 new LinkedBlockingQueue<>(3),
  17.                 Executors.defaultThreadFactory(),
  18.                 new ThreadPoolExecutor.AbortPolicy());
  20.         // 模拟10个用户来办理业务，每个用户就是一个来自外部请求线程
  21.         try {
  23.             // 循环十次，模拟业务办理，让5个线程处理这10个请求
  24.             for (int i = 0; i < 10; i++) {
  25.                 final int tempInt = i;
  26.                 executorService.execute(() -> {
  27.                     System.out.println(Thread.currentThread().getName() + "\t 给用户:" + tempInt + " 办理业务");
  28.                 });
  29.             }
  30.         } catch (Exception e) {
  31.             e.printStackTrace();
  32.         } finally {
  33.             executorService.shutdown();
  34.         }
  35.     }
  37. }

运行结果

pool-1-thread-1 给用户:0 办理业务 pool-1-thread-5 给用户:7 办理业务 pool-1-thread-4 给用户:6 办理业务 pool-1-thread-3 给用户:5 办理业务 pool-1-thread-2 给用户:1 办理业务 pool-1-thread-4 给用户:4 办理业务 pool-1-thread-5 给用户:3 办理业务 pool-1-thread-1 给用户:2 办理业务 java.util.concurrent.RejectedExecutionException: Task com.moxi.interview.study.thread.MyThreadPoolDemo$$Lambda$1/1747585824@4dd8dc3 rejected from java.util.concurrent.ThreadPoolExecutor@6d03e736[Running, pool size = 5, active threads = 3, queued tasks = 0, completed tasks = 5] at java.util.concurrent.ThreadPoolExecutor$AbortPolicy.rejectedExecution(ThreadPoolExecutor.java:2047) at java.util.concurrent.ThreadPoolExecutor.reject(ThreadPoolExecutor.java:823) at java.util.concurrent.ThreadPoolExecutor.execute(ThreadPoolExecutor.java:1369) at com.moxi.interview.study.thread.MyThreadPoolDemo.main(MyThreadPoolDemo.java:34)

结论

我们创建了一个 核心线程数为2，最大线程数为5，并且阻塞队列数为3的线程池，然后使用for循环，模拟10个用户来进行请求，但是在用户执行到第九个的时候，触发了异常，程序中断，这是因为触发了拒绝策略，而我们设置的拒绝策略是默认的AbortPolicy，也就是抛异常的触发条件是，请求的线程大于 阻塞队列大小 + 最大线程数 = 8 的时候，也就是说第9个线程来获取线程池中的线程时，就会抛出异常从而报错退出。

采用CallerRunsPolicy拒绝策略

当我们更好其它的拒绝策略时，采用CallerRunsPolicy拒绝策略，也称为回退策略，就是把任务丢回原来的请求开启线程着，我们看运行结果

main 给用户:8 办理业务 pool-1-thread-4 给用户:6 办理业务 pool-1-thread-3 给用户:5 办理业务 pool-1-thread-5 给用户:7 办理业务 pool-1-thread-2 给用户:1 办理业务 pool-1-thread-3 给用户:4 办理业务 pool-1-thread-1 给用户:0 办理业务 pool-1-thread-5 给用户:3 办理业务 pool-1-thread-4 给用户:2 办理业务 main 给用户:9 办理业务

我们发现，输出的结果里面出现了main线程，因为线程池出发了拒绝策略，把任务回退到main线程，然后main线程对任务进行处理

采用 DiscardPolicy 拒绝策略

pool-1-thread-1 给用户:0 办理业务 pool-1-thread-3 给用户:5 办理业务 pool-1-thread-1 给用户:2 办理业务 pool-1-thread-1 给用户:4 办理业务 pool-1-thread-4 给用户:6 办理业务 pool-1-thread-5 给用户:7 办理业务 pool-1-thread-2 给用户:1 办理业务 pool-1-thread-3 给用户:3 办理业务

采用DiscardPolicy拒绝策略会，线程池会自动把后面的任务都直接丢弃，也不报异常，当任务无关紧要的时候，可以采用这个方式

采用DiscardOldestPolicy拒绝策略

pool-1-thread-2 给用户:1 办理业务 pool-1-thread-5 给用户:7 办理业务 pool-1-thread-5 给用户:4 办理业务 pool-1-thread-5 给用户:8 办理业务 pool-1-thread-5 给用户:9 办理业务 pool-1-thread-1 给用户:0 办理业务 pool-1-thread-3 给用户:5 办理业务 pool-1-thread-4 给用户:6 办理业务

这个策略和刚刚差不多，会把最久的队列中的任务替换掉

线程池合理设置参数

生产环境中如何配置 corePoolSize 和 maximumPoolSize 这个是根据具体业务来配置的，分为CPU密集型和IO密集型

  • CPU密集型

CPU密集的意思是该任务需要大量的运算，而没有阻塞，CPU一直全速运行 CPU密集任务只有在真正的多核CPU上才可能得到加速（通过多线程） 而在单核CPU上，无论你开几个模拟的多线程该任务都不可能得到加速，因为CPU总的运算能力就那些 CPU密集型任务配置尽可能少的线程数量： 一般公式：CPU核数 + 1个线程数

  • IO密集型

由于IO密集型任务线程并不是一直在执行任务，则可能多的线程，如 CPU核数 * 2 IO密集型，即该任务需要大量的IO操作，即大量的阻塞 在单线程上运行IO密集型的任务会导致浪费大量的CPU运算能力花费在等待上 所以IO密集型任务中使用多线程可以大大的加速程序的运行，即使在单核CPU上，这种加速主要就是利用了被浪费掉的阻塞时间。 IO密集时，大部分线程都被阻塞，故需要多配置线程数： 参考公式：CPU核数 / (1 - 阻塞系数) 阻塞系数在0.8 ~ 0.9左右 例如：8核CPU：8/ (1 - 0.9) = 80个线程数