第五章 共享模型之内存

本章内容

上一章讲解的 Monitor 主要关注的是访问共享变量时,保证临界区代码的原子性
这一章我们进一步深入学习共享变量在多线程间的【可见性】问题与多条指令执行时的【有序性】问题

5.1 Java内存模型

JMM 即 Java Memory Model,它定义了主存、工作内存抽象概念,底层对应着 CPU 寄存器、缓存、硬件内存、CPU 指令优化等。
JMM 体现在以下几个方面

  • 原子性 - 保证指令不会受到线程上下文切换的影响
  • 可见性 - 保证指令不会受 cpu 缓存的影响
  • 有序性 - 保证指令不会受 cpu 指令并行优化的影响

    5.2 可见性

    退不出的循环

    先来看一个现象,main 线程对 run 变量的修改对于 t 线程不可见,导致了 t 线程无法停止:

    1. static boolean run = true;
    2. public static void main(String[] args) throws InterruptedException {
    3. Thread t = new Thread(()->{
    4. while(run){
    5. // ....
    6. }
    7. });
    8. t.start();
    9. sleep(1);
    10. run = false; // 线程t不会如预想的停下来
    11. }

    为什么呢?分析一下:

  1. 初始状态, t 线程刚开始从主内存读取了 run 的值到工作内存。

image.png
2. 因为 t 线程要频繁从主内存中读取 run 的值,JIT 编译器会将 run 的值缓存至自己工作内存中的高速缓存中,
减少对主存中 run 的访问,提高效率
image.png

  1. 1 秒之后,main 线程修改了 run 的值,并同步至主存,而 t 是从自己工作内存中的高速缓存中读取这个变量
    的值,结果永远是旧值

image.png

解决方法

volatile(易变关键字)
它可以用来修饰成员变量和静态成员变量,他可以避免线程从自己的工作缓存中查找变量的值,必须到主存中获取它的值,线程操作 volatile 变量都是直接操作主存

可见性 vs 原子性

前面例子体现的实际就是可见性,它保证的是在多个线程之间,一个线程对 volatile 变量的修改对另一个线程可见, 不能保证原子性,仅用在一个写线程,多个读线程的情况: 上例从字节码理解是这样的:(volatile可保证可见性,因此这种一个线程写,多个线程读非常适合,但是和synchronized比还是有很多不足,synchronized不仅可以保证可见性,还能保证原子性,我们看下面的例子)

  1. getstatic run // 线程 t 获取 run true
  2. getstatic run // 线程 t 获取 run true
  3. getstatic run // 线程 t 获取 run true
  4. getstatic run // 线程 t 获取 run true
  5. putstatic run // 线程 main 修改 run 为 false, 仅此一次
  6. getstatic run // 线程 t 获取 run false

比较一下之前我们将线程安全时举的例子:两个线程一个 i++ 一个 i— ,只能保证看到最新值,不能解决指令交错
其中1和6,7,8是一个线程,2,3,4,5是另外一个线程。我们看到指令1读到0,指令2读到0,然后线程2一顿操作。在指令5时,此时是线程1,其还是在指令1的基础上操作的,即还是在0的基础上操作的,纵使你加了volatile,但是呢?你已经读过了。因此这里用synchronized更好,用volatile无法保证原子性

  1. // 假设i的初始值为0
  2. getstatic i // 线程2-获取静态变量i的值 线程内i=0
  3. getstatic i // 线程1-获取静态变量i的值 线程内i=0
  4. iconst_1 // 线程1-准备常量1
  5. iadd // 线程1-自增 线程内i=1
  6. putstatic i // 线程1-将修改后的值存入静态变量i 静态变量i=1
  7. iconst_1 // 线程2-准备常量1
  8. isub // 线程2-自减 线程内i=-1
  9. putstatic i // 线程2-将修改后的值存入静态变量i 静态变量i=-1

注意 synchronized 语句块既可以保证代码块的原子性,也同时保证代码块内变量的可见性。但缺点是synchronized 是属于重量级操作,性能相对更低 如果在前面示例的死循环中加入 System.out.println() 会发现即使不加 volatile 修饰符,线程 t 也能正确看到对 run 变量的修改了,想一想为什么? 因为 printIn() 方法使用了 synchronized 同步代码块,可以保证原子性与可见性,它是 PrintStream 类的方法。

原理之CPU缓存架构

模式之两阶段终止

模式之Balking

5.3 有序性

JVM 会在不影响正确性的前提下,可以调整语句的执行顺序,思考下面一段代码

  1. static int i;
  2. static int j;
  3. // 在某个线程内执行如下赋值操作
  4. i = ...;
  5. j = ...;

可以看到,至于是先执行 i 还是 先执行 j ,对最终的结果不会产生影响。所以,上面代码真正执行时,既可以是

  1. i = ...;
  2. j = ...;

也可以是

  1. j = ...;
  2. i = ...;

这种特性称之为『指令重排』,多线程下『指令重排』会影响正确性。为什么要有重排指令这项优化呢?从 CPU
执行指令的原理来理解一下吧

原理之指令级并行

诡异的结果

  1. int num = 0;
  2. boolean ready = false;
  3. // 线程1 执行此方法
  4. public void actor1(I_Result r) {
  5. if(ready) {
  6. r.r1 = num + num;
  7. } else {
  8. r.r1 = 1;
  9. }
  10. }
  11. // 线程2 执行此方法
  12. public void actor2(I_Result r) {
  13. num = 2;
  14. ready = true;
  15. }

I_Result 是一个对象,有一个属性 r1 用来保存结果,问,可能的结果有几种?
有同学这么分析
情况1:线程1 先执行,这时 ready = false,所以进入 else 分支结果为 1
情况2:线程2 先执行 num = 2,但没来得及执行 ready = true,线程1 执行,还是进入 else 分支,结果为1
情况3:线程2 执行到 ready = true,线程1 执行,这回进入 if 分支,结果为 4(因为 num 已经执行过了)

但我告诉你,结果还有可能是 0 😁😁😁,信不信吧!
这种情况下是:线程2 执行 ready = true,切换到线程1,进入 if 分支,相加为 0,再切回线程2 执行 num = 2
相信很多人已经晕了 😵😵😵
我这里有一个疑问,就是可见性,线程2修改了ready,线程1可以看到吗?我个人认为是可以看到,为什么?因为线程1只会取1次ready值,如果线程2没改前取,那就是false,之后就是true,都是从主内存取的,因为只是一次,没有进入工作内存取的可能
这种现象叫做指令重排,是 JIT 编译器在运行时的一些优化,这个现象需要通过大量测试才能复现:
借助 java 并发压测工具 jcstress https://wiki.openjdk.java.net/display/CodeTools/jcstress

  1. mvn archetype:generate -DinteractiveMode=false -DarchetypeGroupId=org.openjdk.jcstress -
  2. DarchetypeArtifactId=jcstress-java-test-archetype -DarchetypeVersion=0.5 -DgroupId=cn.itcast -
  3. DartifactId=ordering -Dversion=1.0

创建 maven 项目,提供如下测试类

  1. @JCStressTest
  2. @Outcome(id = {"1", "4"}, expect = Expect.ACCEPTABLE, desc = "ok")
  3. @Outcome(id = "0", expect = Expect.ACCEPTABLE_INTERESTING, desc = "!!!!")
  4. @State
  5. public class ConcurrencyTest {
  6. int num = 0;
  7. boolean ready = false;
  8. @Actor
  9. public void actor1(I_Result r) {
  10. if(ready) {
  11. r.r1 = num + num;
  12. } else {
  13. r.r1 = 1;
  14. }
  15. }
  16. @Actor
  17. public void actor2(I_Result r) {
  18. num = 2;
  19. ready = true;
  20. }
  21. }

执行

  1. mvn clean install
  2. java -jar target/jcstress.jar

会输出我们感兴趣的结果,摘录其中一次结果:

  1. *** INTERESTING tests
  2. Some interesting behaviors observed. This is for the plain curiosity.
  3. 2 matching test results.
  4. [OK] test.ConcurrencyTest
  5. (JVM args: [-XX:-TieredCompilation])
  6. Observed state Occurrences Expectation Interpretation
  7. 0 1,729 ACCEPTABLE_INTERESTING !!!!
  8. 1 42,617,915 ACCEPTABLE ok
  9. 4 5,146,627 ACCEPTABLE ok
  10. [OK] test.ConcurrencyTest
  11. (JVM args: [])
  12. Observed state Occurrences Expectation Interpretation
  13. 0 1,652 ACCEPTABLE_INTERESTING !!!!
  14. 1 46,460,657 ACCEPTABLE ok
  15. 4 4,571,072 ACCEPTABLE ok

可以看到,出现结果为 0 的情况有 638 次,虽然次数相对很少,但毕竟是出现了。

解决方法

volatile 修饰的变量,可以禁用指令重排

  1. @JCStressTest
  2. @Outcome(id = {"1", "4"}, expect = Expect.ACCEPTABLE, desc = "ok")
  3. @Outcome(id = "0", expect = Expect.ACCEPTABLE_INTERESTING, desc = "!!!!")
  4. @State
  5. public class ConcurrencyTest {
  6. int num = 0;
  7. volatile boolean ready = false;
  8. @Actor
  9. public void actor1(I_Result r) {
  10. if(ready) {
  11. r.r1 = num + num;
  12. } else {
  13. r.r1 = 1;
  14. }
  15. }
  16. @Actor
  17. public void actor2(I_Result r) {
  18. num = 2;
  19. ready = true;
  20. }
  21. }

结果为:

  1. *** INTERESTING tests
  2. Some interesting behaviors observed. This is for the plain curiosity.
  3. 0 matching test results.

原理之volatile

happens-before

happens-before 规定了对共享变量的写操作对其它线程的读操作可见,它是可见性与有序性的一套规则总结,抛开以下 happens-before 规则,JMM 并不能保证一个线程对共享变量的写,对于其它线程对该共享变量的读可见

  • 线程解锁 m 之前对变量的写,对于接下来对 m 加锁的其它线程对该变量的读可见 ```java static int x; static Object m = new Object();

new Thread(()->{ synchronized(m) { x = 10; } },”t1”).start();

new Thread(()->{ synchronized(m) { System.out.println(x); } },”t2”).start();

  1. - 线程对 volatile 变量的写,对接下来其它线程对该变量的读可见
  2. ```java
  3. volatile static int x;
  4. new Thread(()->{
  5. x = 10;
  6. },"t1").start();
  7. new Thread(()->{
  8. System.out.println(x);
  9. },"t2").start();

线程 start 前对变量的写,对该线程开始后对该变量的读可见

  1. static int x;
  2. x = 10;
  3. new Thread(()->{
  4. System.out.println(x);
  5. },"t2").start();
  • 线程结束前对变量的写,对其它线程得知它结束后的读可见(比如其它线程调用 t1.isAlive() 或 t1.join()等待
    它结束) ```java static int x;

Thread t1 = new Thread(()->{ x = 10; },”t1”); t1.start();

t1.join(); System.out.println(x);

  1. - 线程 t1 打断 t2interrupt)前对变量的写,对于其他线程得知 t2 被打断后对变量的读可见(通过<br />t2.interrupted t2.isInterrupted
  2. ```java
  3. static int x;
  4. public static void main(String[] args) {
  5. Thread t2 = new Thread(()->{
  6. while(true) {
  7. if(Thread.currentThread().isInterrupted()) {
  8. System.out.println(x);
  9. break;
  10. }
  11. }
  12. },"t2");
  13. t2.start();
  14. new Thread(()->{
  15. sleep(1);
  16. x = 10;
  17. t2.interrupt();
  18. },"t1").start();
  19. while(!t2.isInterrupted()) {
  20. Thread.yield();
  21. }
  22. System.out.println(x);
  23. }
  • 对变量默认值(0,false,null)的写,对其它线程对该变量的读可见
  • 具有传递性,如果 x hb-> y 并且 y hb-> z 那么有 x hb-> z ,配合 volatile 的防指令重排,有下面的例子 ```java volatile static int x; static int y;

new Thread(()->{ y = 10; x = 20; },”t1”).start();

new Thread(()->{ // x=20 对 t2 可见, 同时 y=10 也对 t2 可见 System.out.println(x); },”t2”).start();

  1. > 变量都是指成员变量或静态成员变量
  2. > 参考: 17
  3. <a name="GvwpV"></a>
  4. ### 习题
  5. <a name="RZBBi"></a>
  6. ### balking模拟习题
  7. 希望 doInit() 方法仅被调用一次,下面的实现是否有问题,为什么?
  8. ```java
  9. public class TestVolatile {
  10. volatile boolean initialized = false;
  11. void init() {
  12. if (initialized) {
  13. return;
  14. }
  15. doInit();
  16. initialized = true;
  17. }
  18. private void doInit() {
  19. }
  20. }

volatile修只能保证共享变的可见性,但是有多行代码设计共享变量,不能保证这多行代码的原子性。

线程安全单例习题

单例模式有很多实现方法,饿汉、懒汉、静态内部类、枚举类,试分析每种实现下获取单例对象(即调用
getInstance)时的线程安全,并思考注释中的问题

饿汉式:类加载就会导致该单实例对象被创建 懒汉式:类加载不会导致该单实例对象被创建,而是首次使用该对象时才会创建

实现1:

  1. // 问题1:为什么加 final 怕子类破坏父类的单例
  2. // 问题2:如果实现了序列化接口, 还要做什么来防止反序列化破坏单例
  3. public final class Singleton implements Serializable {
  4. // 问题3:为什么设置为私有? 是否能防止反射创建新的实例? 但是是不能,我们知道反射很强大,就是私有构造也可以创建对象
  5. private Singleton() {}
  6. // 问题4:这样初始化是否能保证单例对象创建时的线程安全? 静态成员变量的赋值是在类加载阶段完成的,我们可以相信JVM保证了线程安全
  7. private static final Singleton INSTANCE = new Singleton();
  8. // 问题5:为什么提供静态方法而不是直接将 INSTANCE 设置为 public, 说出你知道的理由 原有很多:更好的封装性;用方法可以有泛型的支持,静态成员变量没有;可以在方法中提供附加功能;等等
  9. public static Singleton getInstance() {
  10. return INSTANCE;
  11. }
  12. public Object readResolve() {
  13. return INSTANCE;
  14. }
  15. }

image.png
实现2:

  1. // 问题1:枚举单例是如何限制实例个数的 里面定义几个,就有几个实例
  2. // 问题2:枚举单例在创建时是否有并发问题 没有,因为其也是静成员变量,也是在类加载阶段完成的
  3. // 问题3:枚举单例能否被反射破坏单例 不能
  4. // 问题4:枚举单例能否被反序列化破坏单例 强调一下,枚举类都是默认实现序列化接口的,但是枚举类设计考虑到了这个破坏单例,因此不可以破话
  5. // 问题5:枚举单例属于懒汉式还是饿汉式 饿汉式
  6. // 问题6:枚举单例如果希望加入一些单例创建时的初始化逻辑该如何做 很简单,加入构造方法就可以了,枚举类也可以加构造方法
  7. enum Singleton {
  8. INSTANCE;
  9. }

实现3:

  1. public final class Singleton {
  2. private Singleton() { }
  3. private static Singleton INSTANCE = null;
  4. // 分析这里的线程安全, 并说明有什么缺点 缺点,锁的范围大,第二次,第三次都需要锁
  5. public static synchronized Singleton getInstance() {
  6. if( INSTANCE != null ){
  7. return INSTANCE;
  8. }
  9. INSTANCE = new Singleton();
  10. return INSTANCE;
  11. }
  12. }

实现4:DCL 其实就是double-check

  1. public final class Singleton {
  2. private Singleton() { }
  3. // 问题1:解释为什么要加 volatile ?
  4. private static volatile Singleton INSTANCE = null;
  5. // 问题2:对比实现3, 说出这样做的意义
  6. public static Singleton getInstance() {
  7. if (INSTANCE != null) {
  8. return INSTANCE;
  9. }
  10. synchronized (Singleton.class) {
  11. // 问题3:为什么还要在这里加为空判断, 之前不是判断过了吗 防止首次创建,多个线程的并发问题
  12. if (INSTANCE != null) { // t2
  13. return INSTANCE;
  14. }
  15. INSTANCE = new Singleton();
  16. return INSTANCE;
  17. }
  18. }
  19. }

实现5 静态内部类

  1. public final class Singleton {
  2. private Singleton() { }
  3. // 问题1:属于懒汉式还是饿汉式 懒汉式
  4. private static class LazyHolder {
  5. static final Singleton INSTANCE = new Singleton();
  6. }
  7. // 问题2:在创建时是否有并发问题 没有,因为是JVM操作
  8. public static Singleton getInstance() {
  9. return LazyHolder.INSTANCE;
  10. }
  11. }

本章小结

本章重点讲解了 JMM 中的

  • 可见性 - 由 JVM 缓存优化引起
  • 有序性 - 由 JVM 指令重排序优化引起
  • happens-before 规则
  • 原理方面
    • CPU 指令并行
    • volatile
  • 模式方面
    • 两阶段终止模式的 volatile 改进
    • 同步模式之 balking

      第六章 共享模型之无锁

      本章内容

      • CAS 与 volatile CAS和volatile结合可以实现无锁并发!
      • 原子整数 无锁并发的典型实现
      • 原子引用 无锁并发的典型实现
      • 原子累加器 无锁并发的典型实现
      • Unsafe 比较底层的一个类 它提供了CAS比较底层的访问接口

6.1 问题提出

有如下需求,保证 account.withdraw 取款方法的线程安全

  1. package cn.itcast;
  2. import java.util.ArrayList;
  3. import java.util.List;
  4. interface Account {
  5. // 获取余额
  6. Integer getBalance();
  7. // 取款
  8. void withdraw(Integer amount);
  9. /**
  10. * 方法内会启动 1000 个线程,每个线程做 -10 元 的操作
  11. * 如果初始余额为 10000 那么正确的结果应当是 0
  12. */
  13. static void demo(Account account) {
  14. List<Thread> ts = new ArrayList<>();
  15. long start = System.nanoTime();
  16. for (int i = 0; i < 1000; i++) {
  17. ts.add(new Thread(() -> {
  18. account.withdraw(10);
  19. }));
  20. }
  21. ts.forEach(Thread::start);
  22. ts.forEach(t -> {
  23. try {
  24. t.join();
  25. } catch (InterruptedException e) {
  26. e.printStackTrace();
  27. }
  28. });
  29. long end = System.nanoTime();
  30. System.out.println(account.getBalance()
  31. + " cost: " + (end-start)/1000_000 + " ms");
  32. }
  33. }

原有实现并不是线程安全的

  1. class AccountUnsafe implements Account {
  2. private Integer balance;
  3. public AccountUnsafe(Integer balance) {
  4. this.balance = balance;
  5. }
  6. @Override
  7. public Integer getBalance() {
  8. return balance;
  9. }
  10. @Override
  11. public void withdraw(Integer amount) {
  12. balance -= amount;
  13. }
  14. }

执行测试代码

  1. public static void main(String[] args) {
  2. Account.demo(new AccountUnsafe(10000));
  3. }

某次的执行结果

  1. 330 cost: 306 ms

为什么不安全

withdraw 方法

  1. public void withdraw(Integer amount) {
  2. balance -= amount;
  3. }

对应的字节码

  1. ALOAD 0 // <- this
  2. ALOAD 0
  3. GETFIELD cn/itcast/AccountUnsafe.balance : Ljava/lang/Integer; // <- this.balance
  4. INVOKEVIRTUAL java/lang/Integer.intValue ()I // 拆箱
  5. ALOAD 1 // <- amount
  6. INVOKEVIRTUAL java/lang/Integer.intValue ()I // 拆箱
  7. ISUB // 减法
  8. INVOKESTATIC java/lang/Integer.valueOf (I)Ljava/lang/Integer; // 结果装箱
  9. PUTFIELD cn/itcast/AccountUnsafe.balance : Ljava/lang/Integer; // -> this.balance

多线程执行流程

  1. ALOAD 0 // thread-0 <- this
  2. ALOAD 0
  3. GETFIELD cn/itcast/AccountUnsafe.balance // thread-0 <- this.balance
  4. INVOKEVIRTUAL java/lang/Integer.intValue // thread-0 拆箱
  5. ALOAD 1 // thread-0 <- amount
  6. INVOKEVIRTUAL java/lang/Integer.intValue // thread-0 拆箱
  7. ISUB // thread-0 减法
  8. INVOKESTATIC java/lang/Integer.valueOf // thread-0 结果装箱
  9. PUTFIELD cn/itcast/AccountUnsafe.balance // thread-0 -> this.balance
  10. ALOAD 0 // thread-1 <- this
  11. ALOAD 0
  12. GETFIELD cn/itcast/AccountUnsafe.balance // thread-1 <- this.balance
  13. INVOKEVIRTUAL java/lang/Integer.intValue // thread-1 拆箱
  14. ALOAD 1 // thread-1 <- amount
  15. INVOKEVIRTUAL java/lang/Integer.intValue // thread-1 拆箱
  16. ISUB // thread-1 减法
  17. INVOKESTATIC java/lang/Integer.valueOf // thread-1 结果装箱
  18. PUTFIELD cn/itcast/AccountUnsafe.balance // thread-1 -> this.balance
  • 单核的指令交错
  • 多核的指令交错

    解决思路-锁

    首先想到的是给 Account 对象加锁

    1. class AccountUnsafe implements Account {
    2. private Integer balance;
    3. public AccountUnsafe(Integer balance) {
    4. this.balance = balance;
    5. }
    6. @Override
    7. public synchronized Integer getBalance() {
    8. return balance;
    9. }
    10. @Override
    11. public synchronized void withdraw(Integer amount) {
    12. balance -= amount;
    13. }
    14. }

    结果:

    1. 0 cost: 399 ms

    解决思路-无锁()原理看后面

    1. class AccountSafe implements Account {
    2. private AtomicInteger balance;
    3. public AccountSafe(Integer balance) {
    4. this.balance = new AtomicInteger(balance);
    5. }
    6. @Override
    7. public Integer getBalance() {
    8. return balance.get();
    9. }
    10. @Override
    11. public void withdraw(Integer amount) {
    12. while (true) {
    13. // 获取余额的最新值 前两个值都是在栈中,线程私有
    14. int prev = balance.get();
    15. // 要修改的余额 前两个值都是在栈中,线程私有
    16. int next = prev - amount;
    17. // 真正的修改
    18. if (balance.compareAndSet(prev, next)) {
    19. break;
    20. }
    21. }
    22. // 可以简化为下面的方法
    23. // balance.addAndGet(-1 * amount);
    24. }
    25. }

    执行测试代码

    1. public static void main(String[] args) {
    2. Account.demo(new AccountSafe(10000));
    3. }

    某次的执行结果

    1. 0 cost: 302 ms

    6.2 CAS 与 volatile

    前面看到的 AtomicInteger 的解决方法,内部并没有用锁来保护共享变量的线程安全。那么它是如何实现的呢?
    CAS虽然没有用锁,但是是在CPU指令级别保证了原子性。下面的compareAndSet还有后面的compareAndSweep被称为CAS。

    1. public void withdraw(Integer amount) {
    2. while(true) {
    3. // 需要不断尝试,直到成功为止
    4. while (true) {
    5. // 比如拿到了旧值 1000
    6. int prev = balance.get();
    7. // 在这个基础上 1000-10 = 990
    8. int next = prev - amount;
    9. /*
    10. compareAndSet 正是做这个检查,在 set 前,先比较 prev 与当前值
    11. - 不一致了,next 作废,返回 false 表示失败
    12. 比如,别的线程已经做了减法,当前值已经被减成了 990
    13. 那么本线程的这次 990 就作废了,进入 while 下次循环重试
    14. - 一致,以 next 设置为新值,返回 true 表示成功
    15. */
    16. if (balance.compareAndSet(prev, next)) {
    17. break;
    18. }
    19. }
    20. }
    21. }

    其中的关键是 compareAndSet,它的简称就是 CAS (也有 Compare And Swap 的说法),它必须是原子操作(cpu指令层面保证原子性)。
    image.png

    注意
    其实 CAS 的底层是 lock cmpxchg 指令(X86 架构),在单核 CPU 和多核 CPU 下都能够保证【比较-交换】的原子性。

    • 在多核状态下,某个核执行到带 lock 的指令时,CPU 会让总线锁住,当这个核把此指令执行完毕,再开启总线。这个过程中不会被线程的调度机制所打断,保证了多个线程对内存操作的准确性,是原子的。

慢动作分析

  1. @Slf4j
  2. public class SlowMotion {
  3. public static void main(String[] args) {
  4. AtomicInteger balance = new AtomicInteger(10000);
  5. int mainPrev = balance.get();
  6. log.debug("try get {}", mainPrev);
  7. new Thread(() -> {
  8. sleep(1000);
  9. int prev = balance.get();
  10. balance.compareAndSet(prev, 9000);
  11. log.debug(balance.toString());
  12. }, "t1").start();
  13. sleep(2000);
  14. log.debug("try set 8000...");
  15. boolean isSuccess = balance.compareAndSet(mainPrev, 8000);
  16. log.debug("is success ? {}", isSuccess);
  17. if(!isSuccess){
  18. mainPrev = balance.get();
  19. log.debug("try set 8000...");
  20. isSuccess = balance.compareAndSet(mainPrev, 8000);
  21. log.debug("is success ? {}", isSuccess);
  22. }
  23. }
  24. private static void sleep(int millis) {
  25. try {
  26. Thread.sleep(millis);
  27. } catch (InterruptedException e) {
  28. e.printStackTrace();
  29. }
  30. }
  31. }

输出结果

  1. 2019-10-13 11:28:37.134 [main] try get 10000
  2. 2019-10-13 11:28:38.154 [t1] 9000
  3. 2019-10-13 11:28:39.154 [main] try set 8000...
  4. 2019-10-13 11:28:39.154 [main] is success ? false
  5. 2019-10-13 11:28:39.154 [main] try set 8000...
  6. 2019-10-13 11:28:39.154 [main] is success ? true

volatile

获取共享变量时,为了保证该变量的可见性,需要使用 volatile 修饰。
它可以用来修饰成员变量和静态成员变量,他可以避免线程从自己的工作缓存中查找变量的值,必须到主存中获取它的值,线程操作 volatile 变量都是直接操作主存。即一个线程对 volatile 变量的修改,对另一个线程可见。

注意 volatile 仅仅保证了共享变量的可见性,让其它线程能够看到最新值,但不能解决指令交错问题(不能保证原子性)

CAS 必须借助 volatile 才能读取到共享变量的最新值来实现【比较并交换】的效果

为什么无锁效率高

  • 无锁情况下,即使重试失败,线程始终在高速运行,没有停歇,而 synchronized 会让线程在没有获得锁的时候,发生上下文切换,进入阻塞。打个比喻
  • 线程就好像高速跑道上的赛车,高速运行时,速度超快,一旦发生上下文切换,就好比赛车要减速、熄火,等被唤醒又得重新打火、启动、加速… 恢复到高速运行,代价比较大
  • 但无锁情况下,因为线程要保持运行,需要额外 CPU 的支持,CPU 在这里就好比高速跑道,没有额外的跑道,线程想高速运行也无从谈起,虽然不会进入阻塞,但由于没有分到时间片,仍然会进入可运行状态,还是会导致上下文切换

image.png

CAS的特点

结合 CAS 和 volatile 可以实现无锁并发,适用于线程数少、多核 CPU 的场景下(前面我们分析过,CAS和volatile实现的并发,线程数不要多余核心数)。

  • CAS 是基于乐观锁的思想:最乐观的估计,不怕别的线程来修改共享变量,就算改了也没关系,我吃亏点再
    重试呗。
  • synchronized 是基于悲观锁的思想:最悲观的估计,得防着其它线程来修改共享变量,我上了锁你们都别想改,我改完了解开锁,你们才有机会。
  • CAS 体现的是无锁并发、无阻塞并发,请仔细体会这两句话的意思

    • 因为没有使用 synchronized,所以线程不会陷入阻塞,这是效率提升的因素之一
    • 但如果竞争激烈,可以想到重试必然频繁发生,反而效率会受影响

      6.3 原子整数(利用CAS实的工具类)

      这些工具类就是在juc包下的atomic包下,内部用volatile修饰,保证可任线程修改后,可以读取到最新值!
      J.U.C 并发包提供了:
  • AtomicBoolean

  • AtomicInteger
  • AtomicLong

以 AtomicInteger 为例

前面我们用过compareAndSet,但是其要配合while使用才行,这是很不方便的。 因此这里提供了几个加减法不需要配合while使用。 其中有之前的i++,++i,i—和—i。 还有getAndAdd和addAndGet,当然这个可以替换上面的例子中的compareAndSet。

上面这些只是加和减。都很简单的,那么更复杂的呢乘和除?? 那么就是getAndUpdate和updateAndGet,我们发现其要传入的是一个函数式接口,如下 AtomicInteger i = new AtomicInteger(5); i.getAndUpdate(value -> value * 2); 那么这个就i.get() 就是10了。就乘以10了。当然这个也可用于加和减。

如果只是这么看API,我们有点不知所以,假设我们要自己模仿一下updateAndGet方法,如果让我们自己做一个线程安全的计算,我们该怎么实现?我就用最基的compareAndSet实现!

  1. AtomicInteger i = new AtomicInteger(0);
  2. // 获取并自增(i = 0, 结果 i = 1, 返回 0),类似于 i++
  3. System.out.println(i.getAndIncrement());
  4. // 自增并获取(i = 1, 结果 i = 2, 返回 2),类似于 ++i
  5. System.out.println(i.incrementAndGet());
  6. // 自减并获取(i = 2, 结果 i = 1, 返回 1),类似于 --i
  7. System.out.println(i.decrementAndGet());
  8. // 获取并自减(i = 1, 结果 i = 0, 返回 1),类似于 i--
  9. System.out.println(i.getAndDecrement());
  10. // 获取并加值(i = 0, 结果 i = 5, 返回 0)
  11. System.out.println(i.getAndAdd(5));
  12. // 加值并获取(i = 5, 结果 i = 0, 返回 0)
  13. System.out.println(i.addAndGet(-5));
  14. // 获取并更新(i = 0, p 为 i 的当前值, 结果 i = -2, 返回 0)
  15. // 其中函数中的操作能保证原子,但函数需要无副作用
  16. System.out.println(i.getAndUpdate(p -> p - 2));
  17. // 更新并获取(i = -2, p 为 i 的当前值, 结果 i = 0, 返回 0)
  18. // 其中函数中的操作能保证原子,但函数需要无副作用
  19. System.out.println(i.updateAndGet(p -> p + 2));
  20. // 获取并计算(i = 0, p 为 i 的当前值, x 为参数1, 结果 i = 10, 返回 0)
  21. // 其中函数中的操作能保证原子,但函数需要无副作用
  22. // getAndUpdate 如果在 lambda 中引用了外部的局部变量,要保证该局部变量是 final 的
  23. // getAndAccumulate 可以通过 参数1 来引用外部的局部变量,但因为其不在 lambda 中因此不必是 final
  24. System.out.println(i.getAndAccumulate(10, (p, x) -> p + x));
  25. // 计算并获取(i = 10, p 为 i 的当前值, x 为参数1, 结果 i = 0, 返回 0)
  26. // 其中函数中的操作能保证原子,但函数需要无副作用
  27. System.out.println(i.accumulateAndGet(-10, (p, x) -> p + x));

6.4 原子引用

为什么需要原子引用类型?

  • AtomicReference
  • AtomicMarkableReference
  • AtomicStampedReference

有如下方法

  1. public interface DecimalAccount {
  2. // 获取余额
  3. BigDecimal getBalance();
  4. // 取款
  5. void withdraw(BigDecimal amount);
  6. /**
  7. * 方法内会启动 1000 个线程,每个线程做 -10 元 的操作
  8. * 如果初始余额为 10000 那么正确的结果应当是 0
  9. */
  10. static void demo(DecimalAccount account) {
  11. List<Thread> ts = new ArrayList<>();
  12. for (int i = 0; i < 1000; i++) {
  13. ts.add(new Thread(() -> {
  14. account.withdraw(BigDecimal.TEN);
  15. }));
  16. }
  17. ts.forEach(Thread::start);
  18. ts.forEach(t -> {
  19. try {
  20. t.join();
  21. } catch (InterruptedException e) {
  22. e.printStackTrace();
  23. }
  24. });
  25. System.out.println(account.getBalance());
  26. }
  27. }

试着提供不同的 DecimalAccount 实现,实现安全的取款操作

不安全实现

  1. class DecimalAccountUnsafe implements DecimalAccount {
  2. BigDecimal balance;
  3. public DecimalAccountUnsafe(BigDecimal balance) {
  4. this.balance = balance;
  5. }
  6. @Override
  7. public BigDecimal getBalance() {
  8. return balance;
  9. }
  10. @Override
  11. public void withdraw(BigDecimal amount) {
  12. BigDecimal balance = this.getBalance();
  13. this.balance = balance.subtract(amount);
  14. }
  15. }

安全实现-使用锁

  1. class DecimalAccountSafeLock implements DecimalAccount {
  2. private final Object lock = new Object();
  3. BigDecimal balance;
  4. public DecimalAccountSafeLock(BigDecimal balance) {
  5. this.balance = balance;
  6. }
  7. @Override
  8. public BigDecimal getBalance() {
  9. return balance;
  10. }
  11. @Override
  12. public void withdraw(BigDecimal amount) {
  13. synchronized (lock) {
  14. BigDecimal balance = this.getBalance();
  15. this.balance = balance.subtract(amount);
  16. }
  17. }
  18. }

安全实现-使用CAS

  1. class DecimalAccountSafeCas implements DecimalAccount {
  2. AtomicReference<BigDecimal> ref;
  3. public DecimalAccountSafeCas(BigDecimal balance) {
  4. ref = new AtomicReference<>(balance);
  5. }
  6. @Override
  7. public BigDecimal getBalance() {
  8. return ref.get();
  9. }
  10. @Override
  11. public void withdraw(BigDecimal amount) {
  12. while (true) {
  13. BigDecimal prev = ref.get();
  14. BigDecimal next = prev.subtract(amount);
  15. if (ref.compareAndSet(prev, next)) {
  16. break;
  17. }
  18. }
  19. }
  20. }

测试代码

  1. DecimalAccount.demo(new DecimalAccountUnsafe(new BigDecimal("10000")));
  2. DecimalAccount.demo(new DecimalAccountSafeLock(new BigDecimal("10000")));
  3. DecimalAccount.demo(new DecimalAccountSafeCas(new BigDecimal("10000")));

运行结果

  1. 4310 cost: 425 ms
  2. 0 cost: 285 ms
  3. 0 cost: 274 ms

ABA问题及解决

ABA问题

  1. static AtomicReference<String> ref = new AtomicReference<>("A");
  2. public static void main(String[] args) throws InterruptedException {
  3. log.debug("main start...");
  4. // 获取值 A
  5. // 这个共享变量被它线程修改过?
  6. String prev = ref.get();
  7. other();
  8. sleep(1);
  9. // 尝试改为 C
  10. log.debug("change A->C {}", ref.compareAndSet(prev, "C"));
  11. }
  12. private static void other() {
  13. new Thread(() -> {
  14. log.debug("change A->B {}", ref.compareAndSet(ref.get(), "B"));
  15. }, "t1").start();
  16. sleep(0.5);
  17. new Thread(() -> {
  18. log.debug("change B->A {}", ref.compareAndSet(ref.get(), "A"));
  19. }, "t2").start();
  20. }

输出

  1. 11:29:52.325 c.Test36 [main] - main start...
  2. 11:29:52.379 c.Test36 [t1] - change A->B true
  3. 11:29:52.879 c.Test36 [t2] - change B->A true
  4. 11:29:53.880 c.Test36 [main] - change A->C true

主线程仅能判断出共享变量的值与最初值 A 是否相同,不能感知到这种从 A 改为 B 又 改回 A 的情况,如果主线程希望:
只要有其它线程【动过了】共享变量,那么自己的 cas 就算失败,这时,仅比较值是不够的,需要再加一个版本号

AtomicStampedReference

  1. static AtomicStampedReference<String> ref = new AtomicStampedReference<>("A", 0);
  2. public static void main(String[] args) throws InterruptedException {
  3. log.debug("main start...");
  4. // 获取值 A
  5. String prev = ref.getReference();
  6. // 获取版本号
  7. int stamp = ref.getStamp();
  8. log.debug("版本 {}", stamp);
  9. // 如果中间有其它线程干扰,发生了 ABA 现象
  10. other();
  11. sleep(1);
  12. // 尝试改为 C
  13. log.debug("change A->C {}", ref.compareAndSet(prev, "C", stamp, stamp + 1));
  14. }
  15. private static void other() {
  16. new Thread(() -> {
  17. log.debug("change A->B {}", ref.compareAndSet(ref.getReference(), "B",
  18. ref.getStamp(), ref.getStamp() + 1));
  19. log.debug("更新版本为 {}", ref.getStamp());
  20. }, "t1").start();
  21. sleep(0.5);
  22. new Thread(() -> {
  23. log.debug("change B->A {}", ref.compareAndSet(ref.getReference(), "A",
  24. ref.getStamp(), ref.getStamp() + 1));
  25. log.debug("更新版本为 {}", ref.getStamp());
  26. }, "t2").start();
  27. }

输出为

  1. 15:41:34.891 c.Test36 [main] - main start...
  2. 15:41:34.894 c.Test36 [main] - 版本 0
  3. 15:41:34.956 c.Test36 [t1] - change A->B true
  4. 15:41:34.956 c.Test36 [t1] - 更新版本为 1
  5. 15:41:35.457 c.Test36 [t2] - change B->A true
  6. 15:41:35.457 c.Test36 [t2] - 更新版本为 2
  7. 15:41:36.457 c.Test36 [main] - change A->C false

AtomicStampedReference 可以给原子引用加上版本号,追踪原子引用整个的变化过程,如: A -> B -> A -> C ,通过AtomicStampedReference,我们可以知道,引用变量中途被更改了几次。
但是有时候,并不关心引用变量更改了几次,只是单纯的关心是否更改过,所以就有了AtomicMarkableReference
image.png

AtomicMarkableReference

  1. class GarbageBag {
  2. String desc;
  3. public GarbageBag(String desc) {
  4. this.desc = desc;
  5. }
  6. public void setDesc(String desc) {
  7. this.desc = desc;
  8. }
  9. @Override
  10. public String toString() {
  11. return super.toString() + " " + desc;
  12. }
  13. }
  1. @Slf4j
  2. public class TestABAAtomicMarkableReference {
  3. public static void main(String[] args) throws InterruptedException {
  4. GarbageBag bag = new GarbageBag("装满了垃圾");
  5. // 参数2 mark 可以看作一个标记,表示垃圾袋满了
  6. AtomicMarkableReference<GarbageBag> ref = new AtomicMarkableReference<>(bag, true);
  7. log.debug("主线程 start...");
  8. GarbageBag prev = ref.getReference();
  9. log.debug(prev.toString());
  10. new Thread(() -> {
  11. log.debug("打扫卫生的线程 start...");
  12. bag.setDesc("空垃圾袋");
  13. while (!ref.compareAndSet(bag, bag, true, false)) {}
  14. log.debug(bag.toString());
  15. }).start();
  16. Thread.sleep(1000);
  17. log.debug("主线程想换一只新垃圾袋?");
  18. boolean success = ref.compareAndSet(prev, new GarbageBag("空垃圾袋"), true, false);
  19. log.debug("换了么?" + success);
  20. log.debug(ref.getReference().toString());
  21. }
  22. }

输出

  1. 2019-10-13 15:30:09.264 [main] 主线程 start...
  2. 2019-10-13 15:30:09.270 [main] cn.itcast.GarbageBag@5f0fd5a0 装满了垃圾
  3. 2019-10-13 15:30:09.293 [Thread-1] 打扫卫生的线程 start...
  4. 2019-10-13 15:30:09.294 [Thread-1] cn.itcast.GarbageBag@5f0fd5a0 空垃圾袋
  5. 2019-10-13 15:30:10.294 [main] 主线程想换一只新垃圾袋?
  6. 2019-10-13 15:30:10.294 [main] 换了么?false
  7. 2019-10-13 15:30:10.294 [main] cn.itcast.GarbageBag@5f0fd5a0 空垃圾袋

可以注释掉打扫卫生线程代码,再观察输出

6.5 原子数组

  • AtomicIntegerArray
  • AtomicLongArray
  • AtomicReferenceArray

有如下方法

  1. /**
  2. 参数1,提供数组、可以是线程不安全数组或线程安全数组
  3. 参数2,获取数组长度的方法
  4. 参数3,自增方法,回传 array, index
  5. 参数4,打印数组的方法
  6. */
  7. // supplier 提供者 无中生有 ()->结果
  8. // function 函数 一个参数一个结果 (参数)->结果 , BiFunction (参数1,参数2)->结果
  9. // consumer 消费者 一个参数没结果 (参数)->void, BiConsumer (参数1,参数2)->
  10. private static <T> void demo(
  11. Supplier<T> arraySupplier,
  12. Function<T, Integer> lengthFun,
  13. BiConsumer<T, Integer> putConsumer,
  14. Consumer<T> printConsumer ) {
  15. List<Thread> ts = new ArrayList<>();
  16. T array = arraySupplier.get();
  17. int length = lengthFun.apply(array);
  18. for (int i = 0; i < length; i++) {
  19. // 每个线程对数组作 10000 次操作
  20. ts.add(new Thread(() -> {
  21. for (int j = 0; j < 10000; j++) {
  22. putConsumer.accept(array, j%length);
  23. }
  24. }));
  25. }
  26. ts.forEach(t -> t.start()); // 启动所有线程
  27. ts.forEach(t -> {
  28. try {
  29. t.join();
  30. } catch (InterruptedException e) {
  31. e.printStackTrace();
  32. }
  33. }); // 等所有线程结束
  34. printConsumer.accept(array);
  35. }

不安全的数组

  1. demo(
  2. ()->new int[10],
  3. (array)->array.length,
  4. (array, index) -> array[index]++,
  5. array-> System.out.println(Arrays.toString(array))
  6. );

结果

  1. [9870, 9862, 9774, 9697, 9683, 9678, 9679, 9668, 9680, 9698]

安全的数组

  1. demo(
  2. ()-> new AtomicIntegerArray(10),
  3. (array) -> array.length(),
  4. (array, index) -> array.getAndIncrement(index),
  5. array -> System.out.println(array)
  6. );

结果

  1. [10000, 10000, 10000, 10000, 10000, 10000, 10000, 10000, 10000, 10000]

6.6 字段更新器

  • AtomicReferenceFieldUpdater // 域 字段
  • AtomicIntegerFieldUpdater
  • AtomicLongFieldUpdater

利用字段更新器,可以针对对象的某个域(Field)进行原子操作,只能配合 volatile 修饰的字段使用,否则会出现异常

  1. Exception in thread "main" java.lang.IllegalArgumentException: Must be volatile type
  1. public class Test5 {
  2. private volatile int field;
  3. public static void main(String[] args) {
  4. AtomicIntegerFieldUpdater fieldUpdater =
  5. AtomicIntegerFieldUpdater.newUpdater(Test5.class, "field");
  6. Test5 test5 = new Test5();
  7. fieldUpdater.compareAndSet(test5, 0, 10);
  8. // 修改成功 field = 10
  9. System.out.println(test5.field);
  10. // 修改成功 field = 20
  11. fieldUpdater.compareAndSet(test5, 10, 20);
  12. System.out.println(test5.field);
  13. // 修改失败 field = 20
  14. fieldUpdater.compareAndSet(test5, 10, 30);
  15. System.out.println(test5.field);
  16. }
  17. }

输出

  1. 10
  2. 20
  3. 20

6.7 原子累加器

累加器性能比较

  1. private static <T> void demo(Supplier<T> adderSupplier, Consumer<T> action) {
  2. T adder = adderSupplier.get();
  3. long start = System.nanoTime();
  4. List<Thread> ts = new ArrayList<>();
  5. // 4 个线程,每人累加 50 万
  6. for (int i = 0; i < 40; i++) {
  7. ts.add(new Thread(() -> {
  8. for (int j = 0; j < 500000; j++) {
  9. action.accept(adder);
  10. }
  11. }));
  12. }
  13. ts.forEach(t -> t.start());
  14. ts.forEach(t -> {
  15. try {
  16. t.join();
  17. } catch (InterruptedException e) {
  18. e.printStackTrace();
  19. }
  20. });
  21. long end = System.nanoTime();
  22. System.out.println(adder + " cost:" + (end - start)/1000_000);
  23. }

比较 AtomicLong 与 LongAdder

  1. for (int i = 0; i < 5; i++) {
  2. demo(() -> new LongAdder(), adder -> adder.increment());
  3. }
  4. for (int i = 0; i < 5; i++) {
  5. demo(() -> new AtomicLong(), adder -> adder.getAndIncrement());
  6. }

输出

  1. 1000000 cost:43
  2. 1000000 cost:9
  3. 1000000 cost:7
  4. 1000000 cost:7
  5. 1000000 cost:7
  6. 1000000 cost:31
  7. 1000000 cost:27
  8. 1000000 cost:28
  9. 1000000 cost:24
  10. 1000000 cost:22

性能提升的原因很简单,就是在有竞争时,设置多个累加单元,Therad-0 累加 Cell[0],而 Thread-1 累加Cell[1]… 最后将结果汇总。这样它们在累加时操作的不同的 Cell 变量,因此减少了 CAS 重试失败,从而提高性能。

源码之 LongAdder

LongAdder 是并发大师 @author Doug Lea (大哥李)的作品,设计的非常精巧
LongAdder 类有几个关键域

  1. // 累加单元数组, 懒惰初始化
  2. transient volatile Cell[] cells;
  3. // 基础值, 如果没有竞争, 则用 cas 累加这个域
  4. transient volatile long base;
  5. // 在 cells 创建或扩容时, 置为 1, 表示加锁
  6. transient volatile int cellsBusy;

cas锁

  1. // 不要用于实践!!!
  2. public class LockCas {
  3. private AtomicInteger state = new AtomicInteger(0);
  4. public void lock() {
  5. while (true) {
  6. if (state.compareAndSet(0, 1)) {
  7. break;
  8. }
  9. }
  10. }
  11. public void unlock() {
  12. log.debug("unlock...");
  13. state.set(0);
  14. }
  15. }

测试

  1. LockCas lock = new LockCas();
  2. new Thread(() -> {
  3. log.debug("begin...");
  4. lock.lock();
  5. try {
  6. log.debug("lock...");
  7. sleep(1);
  8. } finally {
  9. lock.unlock();
  10. }
  11. }).start();
  12. new Thread(() -> {
  13. log.debug("begin...");
  14. lock.lock();
  15. try {
  16. log.debug("lock...");
  17. } finally {
  18. lock.unlock();
  19. }
  20. }).start();

输出

  1. 18:27:07.198 c.Test42 [Thread-0] - begin...
  2. 18:27:07.202 c.Test42 [Thread-0] - lock...
  3. 18:27:07.198 c.Test42 [Thread-1] - begin...
  4. 18:27:08.204 c.Test42 [Thread-0] - unlock...
  5. 18:27:08.204 c.Test42 [Thread-1] - lock...
  6. 18:27:08.204 c.Test42 [Thread-1] - unlock...

原理之伪共享

其中 Cell 即为累加单元

  1. // 防止缓存行伪共享
  2. @sun.misc.Contended
  3. static final class Cell {
  4. volatile long value;
  5. Cell(long x) { value = x; }
  6. // 最重要的方法, 用来 cas 方式进行累加, prev 表示旧值, next 表示新值
  7. final boolean cas(long prev, long next) {
  8. return UNSAFE.compareAndSwapLong(this, valueOffset, prev, next);
  9. }
  10. // 省略不重要代码
  11. }

得从缓存说起
缓存与内存的速度比较
image.png
image.png
因为 CPU 与 内存的速度差异很大,需要靠预读数据至缓存来提升效率。
而缓存以缓存行为单位,每个缓存行对应着一块内存,一般是 64 byte(8 个 long)
缓存的加入会造成数据副本的产生,即同一份数据会缓存在不同核心的缓存行中
CPU 要保证数据的一致性,如果某个 CPU 核心更改了数据,其它 CPU 核心对应的整个缓存行必须失效
image.png
因为 Cell 是数组形式,在内存中是连续存储的,一个 Cell 为 24 字节(16 字节的对象头和 8 字节的 value),因此缓存行可以存下 2 个的 Cell 对象。这样问题来了:

  • Core-0 要修改 Cell[0]
  • Core-1 要修改 Cell[1]

无论谁修改成功,都会导致对方 Core 的缓存行失效,比如 Core-0 中 Cell[0]=6000, Cell[1]=8000 要累加Cell[0]=6001, Cell[1]=8000 ,这时会让 Core-1 的缓存行失效
@sun.misc.Contended 用来解决这个问题,它的原理是在使用此注解的对象或字段的前后各增加 128 字节大小的padding,从而让 CPU 将对象预读至缓存时占用不同的缓存行,这样,不会造成对方缓存行的失效
image.png
累加主要调用下面的方法

  1. public void add(long x) {
  2. // as 为累加单元数组
  3. // b 为基础值
  4. // x 为累加值
  5. Cell[] as; long b, v; int m; Cell a;
  6. // 进入 if 的两个条件
  7. // 1. as 有值, 表示已经发生过竞争, 进入 if
  8. // 2. cas 给 base 累加时失败了, 表示 base 发生了竞争, 进入 if
  9. if ((as = cells) != null || !casBase(b = base, b + x)) {
  10. // uncontended 表示 cell 没有竞争
  11. boolean uncontended = true;
  12. if (
  13. // as 还没有创建
  14. as == null || (m = as.length - 1) < 0 ||
  15. // 当前线程对应的 cell 还没有
  16. (a = as[getProbe() & m]) == null ||
  17. // cas 给当前线程的 cell 累加失败 uncontended=false ( a 为当前线程的 cell )
  18. !(uncontended = a.cas(v = a.value, v + x))
  19. ) {
  20. // 进入 cell 数组创建、cell 创建的流程
  21. longAccumulate(x, null, uncontended);
  22. }
  23. }
  24. }

add 流程图
image.png

  1. final void longAccumulate(long x, LongBinaryOperator fn,
  2. boolean wasUncontended) {
  3. int h;
  4. // 当前线程还没有对应的 cell, 需要随机生成一个 h 值用来将当前线程绑定到 cell
  5. if ((h = getProbe()) == 0) {
  6. // 初始化 probe
  7. ThreadLocalRandom.current();
  8. // h 对应新的 probe 值, 用来对应 cell
  9. h = getProbe();
  10. wasUncontended = true;
  11. }
  12. // collide 为 true 表示需要扩容
  13. boolean collide = false;
  14. for (;;) {
  15. Cell[] as; Cell a; int n; long v;
  16. // 已经有了 cells
  17. if ((as = cells) != null && (n = as.length) > 0) {
  18. // 还没有 cell
  19. if ((a = as[(n - 1) & h]) == null) {
  20. // 为 cellsBusy 加锁, 创建 cell, cell 的初始累加值为 x
  21. // 成功则 break, 否则继续 continue 循环
  22. }
  23. // 有竞争, 改变线程对应的 cell 来重试 cas
  24. else if (!wasUncontended)
  25. wasUncontended = true;
  26. // cas 尝试累加, fn 配合 LongAccumulator 不为 null, 配合 LongAdder 为 null
  27. else if (a.cas(v = a.value, ((fn == null) ? v + x : fn.applyAsLong(v, x))))
  28. break;
  29. // 如果 cells 长度已经超过了最大长度, 或者已经扩容, 改变线程对应的 cell 来重试 cas
  30. else if (n >= NCPU || cells != as)
  31. collide = false;
  32. // 确保 collide 为 false 进入此分支, 就不会进入下面的 else if 进行扩容了
  33. else if (!collide)
  34. collide = true;
  35. // 加锁
  36. else if (cellsBusy == 0 && casCellsBusy()) {
  37. // 加锁成功, 扩容
  38. continue;
  39. }
  40. // 改变线程对应的 cell
  41. h = advanceProbe(h);
  42. }
  43. // 还没有 cells, 尝试给 cellsBusy 加锁
  44. else if (cellsBusy == 0 && cells == as && casCellsBusy()) {
  45. // 加锁成功, 初始化 cells, 最开始长度为 2, 并填充一个 cell
  46. // 成功则 break;
  47. }
  48. // 上两种情况失败, 尝试给 base 累加
  49. else if (casBase(v = base, ((fn == null) ? v + x : fn.applyAsLong(v, x))))
  50. break;
  51. }
  52. }

longAccumulate 流程图
image.png
image.png
每个线程刚进入 longAccumulate 时,会尝试对应一个 cell 对象(找到一个坑位)
image.png
获取最终结果通过 sum 方法

  1. public long sum() {
  2. Cell[] as = cells; Cell a;
  3. long sum = base;
  4. if (as != null) {
  5. for (int i = 0; i < as.length; ++i) {
  6. if ((a = as[i]) != null)
  7. sum += a.value;
  8. }
  9. }
  10. return sum;
  11. }

6.8 Unsafe

概述

Unsafe 对象提供了非常底层的,操作内存、线程的方法,Unsafe 对象不能直接调用,只能通过反射获得

  1. public class UnsafeAccessor {
  2. static Unsafe unsafe;
  3. static {
  4. try {
  5. Field theUnsafe = Unsafe.class.getDeclaredField("theUnsafe");
  6. theUnsafe.setAccessible(true);
  7. unsafe = (Unsafe) theUnsafe.get(null);
  8. } catch (NoSuchFieldException | IllegalAccessException e) {
  9. throw new Error(e);
  10. }
  11. }
  12. static Unsafe getUnsafe() {
  13. return unsafe;
  14. }
  15. }

Unsafe CAS操作

  1. @Data
  2. class Student {
  3. volatile int id;
  4. volatile String name;
  5. }
  1. Unsafe unsafe = UnsafeAccessor.getUnsafe();
  2. Field id = Student.class.getDeclaredField("id");
  3. Field name = Student.class.getDeclaredField("name");
  4. // 获得成员变量的偏移量
  5. long idOffset = UnsafeAccessor.unsafe.objectFieldOffset(id);
  6. long nameOffset = UnsafeAccessor.unsafe.objectFieldOffset(name);
  7. Student student = new Student();
  8. // 使用 cas 方法替换成员变量的值
  9. UnsafeAccessor.unsafe.compareAndSwapInt(student, idOffset, 0, 20); // 返回 true
  10. UnsafeAccessor.unsafe.compareAndSwapObject(student, nameOffset, null, "张三"); // 返回 true
  11. System.out.println(student);

输出

  1. Student(id=20, name=张三)

使用自定义的 AtomicData 实现之前线程安全的原子整数 Account 实现

  1. class AtomicData {
  2. private volatile int data;
  3. static final Unsafe unsafe;
  4. static final long DATA_OFFSET;
  5. static {
  6. unsafe = UnsafeAccessor.getUnsafe();
  7. try {
  8. // data 属性在 DataContainer 对象中的偏移量,用于 Unsafe 直接访问该属性
  9. DATA_OFFSET = unsafe.objectFieldOffset(AtomicData.class.getDeclaredField("data"));
  10. } catch (NoSuchFieldException e) {
  11. throw new Error(e);
  12. }
  13. }
  14. public AtomicData(int data) {
  15. this.data = data;
  16. }
  17. public void decrease(int amount) {
  18. int oldValue;
  19. while(true) {
  20. // 获取共享变量旧值,可以在这一行加入断点,修改 data 调试来加深理解
  21. oldValue = data;
  22. // cas 尝试修改 data 为 旧值 + amount,如果期间旧值被别的线程改了,返回 false
  23. if (unsafe.compareAndSwapInt(this, DATA_OFFSET, oldValue, oldValue - amount)) {
  24. return;
  25. }
  26. }
  27. }
  28. public int getData() {
  29. return data;
  30. }
  31. }

Account 实现

  1. Account.demo(new Account() {
  2. AtomicData atomicData = new AtomicData(10000);
  3. @Override
  4. public Integer getBalance() {
  5. return atomicData.getData();
  6. }
  7. @Override
  8. public void withdraw(Integer amount) {
  9. atomicData.decrease(amount);
  10. }
  11. });

本章小结

  • CAS 与 volatile
  • API
    • 原子整数
    • 原子引用
    • 原子数组
    • 字段更新器
    • 原子累加器
  • Unsafe
  • * 原理方面
    • LongAdder 源码
    • 伪共享

      7. 共享模型之不可变

      本章内容

      • 不可变类的使用
      • 不可变类设计
      • 无状态类设计

7.1 日期转换的问题

问题的提出

下面的代码在运行时,由于 SimpleDateFormat 不是线程安全的

  1. SimpleDateFormat sdf = new SimpleDateFormat("yyyy-MM-dd");
  2. for (int i = 0; i < 10; i++) {
  3. new Thread(() -> {
  4. try {
  5. log.debug("{}", sdf.parse("1951-04-21"));
  6. } catch (Exception e) {
  7. log.error("{}", e);
  8. }
  9. }).start();
  10. }

有很大几率出现 java.lang.NumberFormatException 或者出现不正确的日期解析结果,例如:

  1. 19:10:40.859 [Thread-2] c.TestDateParse - {}
  2. java.lang.NumberFormatException: For input string: ""
  3. at java.lang.NumberFormatException.forInputString(NumberFormatException.java:65)
  4. at java.lang.Long.parseLong(Long.java:601)
  5. at java.lang.Long.parseLong(Long.java:631)
  6. at java.text.DigitList.getLong(DigitList.java:195)
  7. at java.text.DecimalFormat.parse(DecimalFormat.java:2084)
  8. at java.text.SimpleDateFormat.subParse(SimpleDateFormat.java:2162)
  9. at java.text.SimpleDateFormat.parse(SimpleDateFormat.java:1514)
  10. at java.text.DateFormat.parse(DateFormat.java:364)
  11. at cn.itcast.n7.TestDateParse.lambda$test1$0(TestDateParse.java:18)
  12. at java.lang.Thread.run(Thread.java:748)
  13. 19:10:40.859 [Thread-1] c.TestDateParse - {}
  14. java.lang.NumberFormatException: empty String
  15. at sun.misc.FloatingDecimal.readJavaFormatString(FloatingDecimal.java:1842)
  16. at sun.misc.FloatingDecimal.parseDouble(FloatingDecimal.java:110)
  17. at java.lang.Double.parseDouble(Double.java:538)
  18. at java.text.DigitList.getDouble(DigitList.java:169)
  19. at java.text.DecimalFormat.parse(DecimalFormat.java:2089)
  20. at java.text.SimpleDateFormat.subParse(SimpleDateFormat.java:2162)
  21. at java.text.SimpleDateFormat.parse(SimpleDateFormat.java:1514)
  22. at java.text.DateFormat.parse(DateFormat.java:364)
  23. at cn.itcast.n7.TestDateParse.lambda$test1$0(TestDateParse.java:18)
  24. at java.lang.Thread.run(Thread.java:748)
  25. 19:10:40.857 [Thread-8] c.TestDateParse - Sat Apr 21 00:00:00 CST 1951
  26. 19:10:40.857 [Thread-9] c.TestDateParse - Sat Apr 21 00:00:00 CST 1951
  27. 19:10:40.857 [Thread-6] c.TestDateParse - Sat Apr 21 00:00:00 CST 1951
  28. 19:10:40.857 [Thread-4] c.TestDateParse - Sat Apr 21 00:00:00 CST 1951
  29. 19:10:40.857 [Thread-5] c.TestDateParse - Mon Apr 21 00:00:00 CST 178960645
  30. 19:10:40.857 [Thread-0] c.TestDateParse - Sat Apr 21 00:00:00 CST 1951
  31. 19:10:40.857 [Thread-7] c.TestDateParse - Sat Apr 21 00:00:00 CST 1951
  32. 19:10:40.857 [Thread-3] c.TestDateParse - Sat Apr 21 00:00:00 CST 1951

思路-同步锁

这样虽能解决问题,但带来的是性能上的损失,并不算很好:

  1. SimpleDateFormat sdf = new SimpleDateFormat("yyyy-MM-dd");
  2. for (int i = 0; i < 50; i++) {
  3. new Thread(() -> {
  4. synchronized (sdf) {
  5. try {
  6. log.debug("{}", sdf.parse("1951-04-21"));
  7. } catch (Exception e) {
  8. log.error("{}", e);
  9. }
  10. }
  11. }).start();
  12. }

思路-不可变

如果一个对象在不能够修改其内部状态(属性),那么它就是线程安全的,因为不存在并发修改啊!这样的对象在Java 中有很多,例如在 Java 8 后,提供了一个新的日期格式化类:

  1. DateTimeFormatter dtf = DateTimeFormatter.ofPattern("yyyy-MM-dd");
  2. for (int i = 0; i < 10; i++) {
  3. new Thread(() -> {
  4. LocalDate date = dtf.parse("2018-10-01", LocalDate::from);
  5. log.debug("{}", date);
  6. }).start();
  7. }

可以看 DateTimeFormatter 的文档:

  1. @implSpec
  2. This class is immutable and thread-safe.

不可变对象,实际是另一种避免竞争的方式。

7.2 不可变设计

另一个大家更为熟悉的 String 类也是不可变的,以它为例,说明一下不可变设计的要素

  1. public final class String
  2. implements java.io.Serializable, Comparable<String>, CharSequence {
  3. /** The value is used for character storage. */
  4. private final char value[];
  5. /** Cache the hash code for the string */
  6. private int hash; // Default to 0
  7. // ...
  8. }

final 的使用

发现该类、类中所有属性都是 final 的

  • 属性用 final 修饰保证了该属性是只读的,不能修改
  • 类用 final 修饰保证了该类中的方法不能被覆盖,防止子类无意间破坏不可变性

    保护性拷贝

    但有同学会说,使用字符串时,也有一些跟修改相关的方法啊,比如 substring 等,那么下面就看一看这些方法是如何实现的,就以 substring 为例:
    1. public String substring(int beginIndex) {
    2. if (beginIndex < 0) {
    3. throw new StringIndexOutOfBoundsException(beginIndex);
    4. }
    5. int subLen = value.length - beginIndex;
    6. if (subLen < 0) {
    7. throw new StringIndexOutOfBoundsException(subLen);
    8. }
    9. return (beginIndex == 0) ? this : new String(value, beginIndex, subLen);
    10. }
    发现其内部是调用 String 的构造方法创建了一个新字符串,再进入这个构造看看,是否对 final char[] value 做出
    了修改:
    1. public String(char value[], int offset, int count) {
    2. if (offset < 0) {
    3. throw new StringIndexOutOfBoundsException(offset);
    4. }
    5. if (count <= 0) {
    6. if (count < 0) {
    7. throw new StringIndexOutOfBoundsException(count);
    8. }
    9. if (offset <= value.length) {
    10. this.value = "".value;
    11. return;
    12. }
    13. }
    14. if (offset > value.length - count) {
    15. throw new StringIndexOutOfBoundsException(offset + count);
    16. }
    17. this.value = Arrays.copyOfRange(value, offset, offset+count);
    18. }
    结果发现也没有,构造新字符串对象时,会生成新的 char[] value,对内容进行复制 。这种通过创建副本对象来避免共享的手段称之为【保护性拷贝(defensive copy)】

    模式之亨元

原理之final

7.3 无状态

在 web 阶段学习时,设计 Servlet 时为了保证其线程安全,都会有这样的建议,不要为 Servlet 设置成员变量,这种没有任何成员变量的类是线程安全的

因为成员变量保存的数据也可以称为状态信息,因此没有成员变量就称之为【无状态】

本章小结

  • 不可变类使用
  • 不可变类设计
    • 原理方面
      • final
  • 模式方面

    • 享元

      8. 共享模型之工具

      8.1 线程池

      1. 自定义线程池

      image.png
      步骤1:自定义拒绝策略接口

      1. @FunctionalInterface // 拒绝策略
      2. interface RejectPolicy<T> {
      3. void reject(BlockingQueue<T> queue, T task);
      4. }

      步骤2:自定义任务队列

      1. class BlockingQueue<T> {
      2. // 1. 任务队列
      3. private Deque<T> queue = new ArrayDeque<>();
      4. // 2. 锁
      5. private ReentrantLock lock = new ReentrantLock();
      6. // 3. 生产者条件变量
      7. private Condition fullWaitSet = lock.newCondition();
      8. // 4. 消费者条件变量
      9. private Condition emptyWaitSet = lock.newCondition();
      10. // 5. 容量
      11. private int capcity;
      12. public BlockingQueue(int capcity) {
      13. this.capcity = capcity;
      14. }
      15. // 带超时阻塞获取
      16. public T poll(long timeout, TimeUnit unit) {
      17. lock.lock();
      18. try {
      19. // 将 timeout 统一转换为 纳秒
      20. long nanos = unit.toNanos(timeout);
      21. while (queue.isEmpty()) {
      22. try {
      23. // 返回值是剩余时间
      24. if (nanos <= 0) {
      25. return null;
      26. }
      27. nanos = emptyWaitSet.awaitNanos(nanos);
      28. } catch (InterruptedException e) {
      29. e.printStackTrace();
      30. }
      31. }
      32. T t = queue.removeFirst();
      33. fullWaitSet.signal();
      34. return t;
      35. } finally {
      36. lock.unlock();
      37. }
      38. }
      39. // 阻塞获取
      40. public T take() {
      41. lock.lock();
      42. try {
      43. while (queue.isEmpty()) {
      44. try {
      45. emptyWaitSet.await();
      46. } catch (InterruptedException e) {
      47. e.printStackTrace();
      48. }
      49. }
      50. T t = queue.removeFirst();
      51. fullWaitSet.signal();
      52. return t;
      53. } finally {
      54. lock.unlock();
      55. }
      56. }
      57. // 阻塞添加
      58. public void put(T task) {
      59. lock.lock();
      60. try {
      61. while (queue.size() == capcity) {
      62. try {
      63. log.debug("等待加入任务队列 {} ...", task);
      64. fullWaitSet.await();
      65. } catch (InterruptedException e) {
      66. e.printStackTrace();
      67. }
      68. }
      69. log.debug("加入任务队列 {}", task);
      70. queue.addLast(task);
      71. emptyWaitSet.signal();
      72. } finally {
      73. lock.unlock();
      74. }
      75. }
      76. // 带超时时间阻塞添加
      77. public boolean offer(T task, long timeout, TimeUnit timeUnit) {
      78. lock.lock();
      79. try {
      80. long nanos = timeUnit.toNanos(timeout);
      81. while (queue.size() == capcity) {
      82. try {
      83. if(nanos <= 0) {
      84. return false;
      85. }
      86. log.debug("等待加入任务队列 {} ...", task);
      87. nanos = fullWaitSet.awaitNanos(nanos);
      88. } catch (InterruptedException e) {
      89. e.printStackTrace();
      90. }
      91. }
      92. log.debug("加入任务队列 {}", task);
      93. queue.addLast(task);
      94. emptyWaitSet.signal();
      95. return true;
      96. } finally {
      97. lock.unlock();
      98. }
      99. }
      100. public int size() {
      101. lock.lock();
      102. try {
      103. return queue.size();
      104. } finally {
      105. lock.unlock();
      106. }
      107. }
      108. public void tryPut(RejectPolicy<T> rejectPolicy, T task) {
      109. lock.lock();
      110. try {
      111. // 判断队列是否满
      112. if(queue.size() == capcity) {
      113. rejectPolicy.reject(this, task);
      114. } else { // 有空闲
      115. log.debug("加入任务队列 {}", task);
      116. queue.addLast(task);
      117. emptyWaitSet.signal();
      118. }
      119. } finally {
      120. lock.unlock();
      121. }
      122. }
      123. }

      步骤3:自定义线程池

      1. class ThreadPool {
      2. // 任务队列
      3. private BlockingQueue<Runnable> taskQueue;
      4. // 线程集合
      5. private HashSet<Worker> workers = new HashSet<>();
      6. // 核心线程数
      7. private int coreSize;
      8. // 获取任务时的超时时间
      9. private long timeout;
      10. private TimeUnit timeUnit;
      11. private RejectPolicy<Runnable> rejectPolicy;
      12. // 执行任务
      13. public void execute(Runnable task) {
      14. // 当任务数没有超过 coreSize 时,直接交给 worker 对象执行
      15. // 如果任务数超过 coreSize 时,加入任务队列暂存
      16. synchronized (workers) {
      17. if(workers.size() < coreSize) {
      18. Worker worker = new Worker(task);
      19. log.debug("新增 worker{}, {}", worker, task);
      20. workers.add(worker);
      21. worker.start();
      22. } else {
      23. // taskQueue.put(task);
      24. // 1) 死等
      25. // 2) 带超时等待
      26. // 3) 让调用者放弃任务执行
      27. // 4) 让调用者抛出异常
      28. // 5) 让调用者自己执行任务
      29. taskQueue.tryPut(rejectPolicy, task);
      30. }
      31. }
      32. }
      33. public ThreadPool(int coreSize, long timeout, TimeUnit timeUnit, int queueCapcity,
      34. RejectPolicy<Runnable> rejectPolicy) {
      35. this.coreSize = coreSize;
      36. this.timeout = timeout;
      37. this.timeUnit = timeUnit;
      38. this.taskQueue = new BlockingQueue<>(queueCapcity);
      39. this.rejectPolicy = rejectPolicy;
      40. }
      41. class Worker extends Thread{
      42. private Runnable task;
      43. public Worker(Runnable task) {
      44. this.task = task;
      45. }
      46. @Override
      47. public void run() {
      48. // 执行任务
      49. // 1) 当 task 不为空,执行任务
      50. // 2) 当 task 执行完毕,再接着从任务队列获取任务并执行
      51. // while(task != null || (task = taskQueue.take()) != null) {
      52. while(task != null || (task = taskQueue.poll(timeout, timeUnit)) != null) {
      53. try {
      54. log.debug("正在执行...{}", task);
      55. task.run();
      56. } catch (Exception e) {
      57. e.printStackTrace();
      58. } finally {
      59. task = null;
      60. }
      61. }
      62. synchronized (workers) {
      63. log.debug("worker 被移除{}", this);
      64. workers.remove(this);
      65. }
      66. }
      67. }
      68. }

      步骤4:测试

      1. public static void main(String[] args) {
      2. ThreadPool threadPool = new ThreadPool(1,
      3. 1000, TimeUnit.MILLISECONDS, 1, (queue, task)->{
      4. // 1. 死等
      5. // queue.put(task);
      6. // 2) 带超时等待
      7. // queue.offer(task, 1500, TimeUnit.MILLISECONDS);
      8. // 3) 让调用者放弃任务执行
      9. // log.debug("放弃{}", task);
      10. // 4) 让调用者抛出异常
      11. // throw new RuntimeException("任务执行失败 " + task);
      12. // 5) 让调用者自己执行任务
      13. task.run();
      14. });
      15. for (int i = 0; i < 4; i++) {
      16. int j = i;
      17. threadPool.execute(() -> {
      18. try {
      19. Thread.sleep(1000L);
      20. } catch (InterruptedException e) {
      21. e.printStackTrace();
      22. }
      23. log.debug("{}", j);
      24. });
      25. }
      26. }

      2. ThreadPpoolExecutor

      image.png

      1)线程池状态

      ThreadPoolExecutor 使用 int 的高 3 位来表示线程池状态,低 29 位表示线程数量
      image.png
      从数字上比较,TERMINATED > TIDYING > STOP > SHUTDOWN > RUNNING
      这些信息存储在一个原子变量 ctl 中,目的是将线程池状态与线程个数合二为一,这样就可以用一次 cas 原子操作进行赋值 ```java // c 为旧值, ctlOf 返回结果为新值 ctl.compareAndSet(c, ctlOf(targetState, workerCountOf(c))));

// rs 为高 3 位代表线程池状态, wc 为低 29 位代表线程个数,ctl 是合并它们 private static int ctlOf(int rs, int wc) { return rs | wc; }

  1. <a name="nWNYt"></a>
  2. #### 2)构造方法
  3. ```java
  4. public ThreadPoolExecutor(int corePoolSize,
  5. int maximumPoolSize,
  6. long keepAliveTime,
  7. TimeUnit unit,
  8. BlockingQueue<Runnable> workQueue,
  9. ThreadFactory threadFactory,
  10. RejectedExecutionHandler handler)
  • corePoolSize 核心线程数目 (最多保留的线程数)
  • maximumPoolSize 最大线程数目
  • keepAliveTime 生存时间 - 针对救急线程
  • unit 时间单位 - 针对救急线程
  • workQueue 阻塞队列
  • threadFactory 线程工厂 - 可以为线程创建时起个好名字
  • handler 拒绝策略

工作方式:
image.png

  • 线程池中刚开始没有线程,当一个任务提交给线程池后,线程池会创建一个新线程来执行任务。
  • 当线程数达到 corePoolSize 并没有线程空闲,这时再加入任务,新加的任务会被加入workQueue 队列排
    队,直到有空闲的线程。
  • 如果队列选择了有界队列,那么任务超过了队列大小时,会创建 maximumPoolSize - corePoolSize 数目的线
    程来救急。
  • 如果线程到达 maximumPoolSize 仍然有新任务这时会执行拒绝策略。拒绝策略 jdk 提供了 4 种实现,其它
    著名框架也提供了实现
    • AbortPolicy 让调用者抛出 RejectedExecutionException 异常,这是默认策略
    • CallerRunsPolicy 让调用者运行任务
    • DiscardPolicy 放弃本次任务
    • DiscardOldestPolicy 放弃队列中最早的任务,本任务取而代之
    • Dubbo 的实现,在抛出 RejectedExecutionException 异常之前会记录日志,并 dump 线程栈信息,方
      便定位问题
    • Netty 的实现,是创建一个新线程来执行任务
    • ActiveMQ 的实现,带超时等待(60s)尝试放入队列,类似我们之前自定义的拒绝策略
    • PinPoint 的实现,它使用了一个拒绝策略链,会逐一尝试策略链中每种拒绝策略
  • 当高峰过去后,超过corePoolSize 的救急线程如果一段时间没有任务做,需要结束节省资源,这个时间由
    keepAliveTime 和 unit 来控制。

image.png

根据这个构造方法,JDK Executors 类中提供了众多工厂方法来创建各种用途的线程池

3)newFixedThreadPool

  1. public static ExecutorService newFixedThreadPool(int nThreads) {
  2. return new ThreadPoolExecutor(nThreads, nThreads,
  3. 0L, TimeUnit.MILLISECONDS,
  4. new LinkedBlockingQueue<Runnable>());
  5. }

特点

  • 核心线程数 == 最大线程数(没有救急线程被创建),因此也无需超时时间
  • 阻塞队列是无界的,可以放任意数量的任务

    评价 适用于任务量已知,相对耗时的任务

4)newCachedThreadPool

  1. public static ExecutorService newCachedThreadPool() {
  2. return new ThreadPoolExecutor(0, Integer.MAX_VALUE,
  3. 60L, TimeUnit.SECONDS,
  4. new SynchronousQueue<Runnable>());
  5. }

特点

  • 核心线程数是 0, 最大线程数是 Integer.MAX_VALUE,救急线程的空闲生存时间是 60s,意味着
    • 全部都是救急线程(60s 后可以回收)
    • 救急线程可以无限创建
  • 队列采用了 SynchronousQueue 实现特点是,它没有容量,没有线程来取是放不进去的(一手交钱、一手交货) ```java SynchronousQueue integers = new SynchronousQueue<>(); new Thread(() -> { try {

    1. log.debug("putting {} ", 1);
    2. integers.put(1);
    3. log.debug("{} putted...", 1);
    4. log.debug("putting...{} ", 2);
    5. integers.put(2);
    6. log.debug("{} putted...", 2);

    } catch (InterruptedException e) {

    1. e.printStackTrace();

    } },”t1”).start();

sleep(1);

new Thread(() -> { try { log.debug(“taking {}”, 1); integers.take(); } catch (InterruptedException e) { e.printStackTrace(); } },”t2”).start();

sleep(1);

new Thread(() -> { try { log.debug(“taking {}”, 2); integers.take(); } catch (InterruptedException e) { e.printStackTrace(); } },”t3”).start();

  1. 输出
  2. ```java
  3. 11:48:15.500 c.TestSynchronousQueue [t1] - putting 1
  4. 11:48:16.500 c.TestSynchronousQueue [t2] - taking 1
  5. 11:48:16.500 c.TestSynchronousQueue [t1] - 1 putted...
  6. 11:48:16.500 c.TestSynchronousQueue [t1] - putting...2
  7. 11:48:17.502 c.TestSynchronousQueue [t3] - taking 2
  8. 11:48:17.503 c.TestSynchronousQueue [t1] - 2 putted...

评价 整个线程池表现为线程数会根据任务量不断增长,没有上限,当任务执行完毕,空闲 1分钟后释放线程。 适合任务数比较密集,但每个任务执行时间较短的情况

5)newSingleTthreadPool

  1. public static ExecutorService newSingleThreadExecutor() {
  2. return new FinalizableDelegatedExecutorService
  3. (new ThreadPoolExecutor(1, 1,
  4. 0L, TimeUnit.MILLISECONDS,
  5. new LinkedBlockingQueue<Runnable>()));
  6. }

使用场景:
希望多个任务排队执行。线程数固定为 1,任务数多于 1 时,会放入无界队列排队。任务执行完毕,这唯一的线程也不会被释放。
区别:

  • 自己创建一个单线程串行执行任务,如果任务执行失败而终止那么没有任何补救措施,而线程池还会新建一
    个线程,保证池的正常工作
  • Executors.newSingleThreadExecutor() 线程个数始终为1,不能修改
    • FinalizableDelegatedExecutorService 应用的是装饰器模式,只对外暴露了 ExecutorService 接口,因
      此不能调用 ThreadPoolExecutor 中特有的方法
  • Executors.newFixedThreadPool(1) 初始时为1,以后还可以修改
    • 对外暴露的是 ThreadPoolExecutor 对象,可以强转后调用 setCorePoolSize 等方法进行修改

      6)提交任务

      ```java // 执行任务 void execute(Runnable command);

// 提交任务 task,用返回值 Future 获得任务执行结果

Future submit(Callable task);

// 提交 tasks 中所有任务

List> invokeAll(Collection<? extends Callable> tasks) throws InterruptedException;

// 提交 tasks 中所有任务,带超时时间

List> invokeAll(Collection<? extends Callable> tasks, long timeout, TimeUnit unit) throws InterruptedException;

// 提交 tasks 中所有任务,哪个任务先成功执行完毕,返回此任务执行结果,其它任务取消

T invokeAny(Collection<? extends Callable> tasks) throws InterruptedException, ExecutionException;

// 提交 tasks 中所有任务,哪个任务先成功执行完毕,返回此任务执行结果,其它任务取消,带超时时间

T invokeAny(Collection<? extends Callable> tasks, long timeout, TimeUnit unit) throws InterruptedException, ExecutionException, TimeoutException;

  1. <a name="K31f4"></a>
  2. #### 7)关闭线程池
  3. **shutdown**
  4. ```java
  5. /*
  6. 线程池状态变为 SHUTDOWN
  7. - 不会接收新任务
  8. - 但已提交任务会执行完
  9. - 此方法不会阻塞调用线程的执行
  10. */
  11. void shutdown();
  1. public void shutdown() {
  2. final ReentrantLock mainLock = this.mainLock;
  3. mainLock.lock();
  4. try {
  5. checkShutdownAccess();
  6. // 修改线程池状态
  7. advanceRunState(SHUTDOWN);
  8. // 仅会打断空闲线程
  9. interruptIdleWorkers();
  10. onShutdown(); // 扩展点 ScheduledThreadPoolExecutor
  11. } finally {
  12. mainLock.unlock();
  13. }
  14. // 尝试终结(没有运行的线程可以立刻终结,如果还有运行的线程也不会等)
  15. tryTerminate();
  16. }

shutdownNow

  1. /*
  2. 线程池状态变为 STOP
  3. - 不会接收新任务
  4. - 会将队列中的任务返回
  5. - 并用 interrupt 的方式中断正在执行的任务
  6. */
  7. List<Runnable> shutdownNow();
  1. public List<Runnable> shutdownNow() {
  2. List<Runnable> tasks;
  3. final ReentrantLock mainLock = this.mainLock;
  4. mainLock.lock();
  5. try {
  6. checkShutdownAccess();
  7. // 修改线程池状态
  8. advanceRunState(STOP);
  9. // 打断所有线程
  10. interruptWorkers();
  11. // 获取队列中剩余任务
  12. tasks = drainQueue();
  13. } finally {
  14. mainLock.unlock();
  15. }
  16. // 尝试终结
  17. tryTerminate();
  18. return tasks;
  19. }

其它方法

  1. // 不在 RUNNING 状态的线程池,此方法就返回 true
  2. boolean isShutdown();
  3. // 线程池状态是否是 TERMINATED
  4. boolean isTerminated();
  5. // 调用 shutdown 后,由于调用线程并不会等待所有任务运行结束,因此如果它想在线程池 TERMINATED 后做些事
  6. 情,可以利用此方法等待
  7. boolean awaitTermination(long timeout, TimeUnit unit) throws InterruptedException;

模式之Worker Thread

8)任务调度线程池

在『任务调度线程池』功能加入之前,可以使用 java.util.Timer 来实现定时功能,Timer 的优点在于简单易用,但由于所有任务都是由同一个线程来调度,因此所有任务都是串行执行的,同一时间只能有一个任务在执行,前一个任务的延迟或异常都将会影响到之后的任务。

  1. public static void main(String[] args) {
  2. Timer timer = new Timer();
  3. TimerTask task1 = new TimerTask() {
  4. @Override
  5. public void run() {
  6. log.debug("task 1");
  7. sleep(2);
  8. }
  9. };
  10. TimerTask task2 = new TimerTask() {
  11. @Override
  12. public void run() {
  13. log.debug("task 2");
  14. }
  15. };
  16. // 使用 timer 添加两个任务,希望它们都在 1s 后执行
  17. // 但由于 timer 内只有一个线程来顺序执行队列中的任务,因此『任务1』的延时,影响了『任务2』的执行
  18. timer.schedule(task1, 1000);
  19. timer.schedule(task2, 1000);
  20. }

输出

  1. 20:46:09.444 c.TestTimer [main] - start...
  2. 20:46:10.447 c.TestTimer [Timer-0] - task 1
  3. 20:46:12.448 c.TestTimer [Timer-0] - task 2

使用 ScheduledExecutorService 改写:

  1. ScheduledExecutorService executor = Executors.newScheduledThreadPool(2);
  2. // 添加两个任务,希望它们都在 1s 后执行
  3. executor.schedule(() -> {
  4. System.out.println("任务1,执行时间:" + new Date());
  5. try { Thread.sleep(2000); } catch (InterruptedException e) { }
  6. }, 1000, TimeUnit.MILLISECONDS);
  7. executor.schedule(() -> {
  8. System.out.println("任务2,执行时间:" + new Date());
  9. }, 1000, TimeUnit.MILLISECONDS);

输出

  1. 任务1,执行时间:Thu Jan 03 12:45:17 CST 2019
  2. 任务2,执行时间:Thu Jan 03 12:45:17 CST 2019

scheduleAtFixedRate 例子:

  1. ScheduledExecutorService pool = Executors.newScheduledThreadPool(1);
  2. log.debug("start...");
  3. pool.scheduleAtFixedRate(() -> {
  4. log.debug("running...");
  5. }, 1, 1, TimeUnit.SECONDS);

输出

  1. 21:45:43.167 c.TestTimer [main] - start...
  2. 21:45:44.215 c.TestTimer [pool-1-thread-1] - running...
  3. 21:45:45.215 c.TestTimer [pool-1-thread-1] - running...
  4. 21:45:46.215 c.TestTimer [pool-1-thread-1] - running...
  5. 21:45:47.215 c.TestTimer [pool-1-thread-1] - running...

scheduleAtFixedRate 例子(任务执行时间超过了间隔时间):

  1. ScheduledExecutorService pool = Executors.newScheduledThreadPool(1);
  2. log.debug("start...");
  3. pool.scheduleAtFixedRate(() -> {
  4. log.debug("running...");
  5. sleep(2);
  6. }, 1, 1, TimeUnit.SECONDS);

输出分析:一开始,延时 1s,接下来,由于任务执行时间 > 间隔时间,间隔被『撑』到了 2s

  1. 21:44:30.311 c.TestTimer [main] - start...
  2. 21:44:31.360 c.TestTimer [pool-1-thread-1] - running...
  3. 21:44:33.361 c.TestTimer [pool-1-thread-1] - running...
  4. 21:44:35.362 c.TestTimer [pool-1-thread-1] - running...
  5. 21:44:37.362 c.TestTimer [pool-1-thread-1] - running...

scheduleWithFixedDelay 例子:

  1. ScheduledExecutorService pool = Executors.newScheduledThreadPool(1);
  2. log.debug("start...");
  3. pool.scheduleWithFixedDelay(()-> {
  4. log.debug("running...");
  5. sleep(2);
  6. }, 1, 1, TimeUnit.SECONDS);

输出分析:一开始,延时 1s,scheduleWithFixedDelay 的间隔是 上一个任务结束 <-> 延时 <-> 下一个任务开始 所以间隔都是 3s

  1. 21:40:55.078 c.TestTimer [main] - start...
  2. 21:40:56.140 c.TestTimer [pool-1-thread-1] - running...
  3. 21:40:59.143 c.TestTimer [pool-1-thread-1] - running...
  4. 21:41:02.145 c.TestTimer [pool-1-thread-1] - running...
  5. 21:41:05.147 c.TestTimer [pool-1-thread-1] - running...

评价 整个线程池表现为:线程数固定,任务数多于线程数时,会放入无界队列排队。任务执行完毕,这些线
程也不会被释放。用来执行延迟或反复执行的任务

9)正确处理执行任务异常

方法1:主动捉异常

  1. ExecutorService pool = Executors.newFixedThreadPool(1);
  2. pool.submit(() -> {
  3. try {
  4. log.debug("task1");
  5. int i = 1 / 0;
  6. } catch (Exception e) {
  7. log.error("error:", e);
  8. }
  9. });

输出

  1. 21:59:04.558 c.TestTimer [pool-1-thread-1] - task1
  2. 21:59:04.562 c.TestTimer [pool-1-thread-1] - error:
  3. java.lang.ArithmeticException: / by zero
  4. at cn.itcast.n8.TestTimer.lambda$main$0(TestTimer.java:28)
  5. at java.util.concurrent.Executors$RunnableAdapter.call(Executors.java:511)
  6. at java.util.concurrent.FutureTask.run(FutureTask.java:266)
  7. at java.util.concurrent.ThreadPoolExecutor.runWorker(ThreadPoolExecutor.java:1149)
  8. at java.util.concurrent.ThreadPoolExecutor$Worker.run(ThreadPoolExecutor.java:624)
  9. at java.lang.Thread.run(Thread.java:748)

方法2:使用 Future

  1. ExecutorService pool = Executors.newFixedThreadPool(1);
  2. Future<Boolean> f = pool.submit(() -> {
  3. log.debug("task1");
  4. int i = 1 / 0;
  5. return true;
  6. });
  7. log.debug("result:{}", f.get());

输出

  1. 21:54:58.208 c.TestTimer [pool-1-thread-1] - task1
  2. Exception in thread "main" java.util.concurrent.ExecutionException:
  3. java.lang.ArithmeticException: / by zero
  4. at java.util.concurrent.FutureTask.report(FutureTask.java:122)
  5. at java.util.concurrent.FutureTask.get(FutureTask.java:192)
  6. at cn.itcast.n8.TestTimer.main(TestTimer.java:31)
  7. Caused by: java.lang.ArithmeticException: / by zero
  8. at cn.itcast.n8.TestTimer.lambda$main$0(TestTimer.java:28)
  9. at java.util.concurrent.FutureTask.run(FutureTask.java:266)
  10. at java.util.concurrent.ThreadPoolExecutor.runWorker(ThreadPoolExecutor.java:1149)
  11. at java.util.concurrent.ThreadPoolExecutor$Worker.run(ThreadPoolExecutor.java:624)
  12. at java.lang.Thread.run(Thread.java:748)

应用之定时任务

10)Tomcat线程池

Tomcat 在哪里用到了线程池呢

  • LimitLatch 用来限流,可以控制最大连接个数,类似 J.U.C 中的 Semaphore 后面再讲
  • Acceptor 只负责【接收新的 socket 连接】
  • Poller 只负责监听 socket channel 是否有【可读的 I/O 事件】
  • 一旦可读,封装一个任务对象(socketProcessor),提交给 Executor 线程池处理
  • Executor 线程池中的工作线程最终负责【处理请求】

Tomcat 线程池扩展了 ThreadPoolExecutor,行为稍有不同

  • 如果总线程数达到 maximumPoolSize
    • 这时不会立刻抛 RejectedExecutionException 异常
    • 而是再次尝试将任务放入队列,如果还失败,才抛出 RejectedExecutionException 异常

源码 tomcat-7.0.42

  1. public void execute(Runnable command, long timeout, TimeUnit unit) {
  2. submittedCount.incrementAndGet();
  3. try {
  4. super.execute(command);
  5. } catch (RejectedExecutionException rx) {
  6. if (super.getQueue() instanceof TaskQueue) {
  7. final TaskQueue queue = (TaskQueue)super.getQueue();
  8. try {
  9. if (!queue.force(command, timeout, unit)) {
  10. submittedCount.decrementAndGet();
  11. throw new RejectedExecutionException("Queue capacity is full.");
  12. }
  13. } catch (InterruptedException x) {
  14. submittedCount.decrementAndGet();
  15. Thread.interrupted();
  16. throw new RejectedExecutionException(x);
  17. }
  18. } else {
  19. submittedCount.decrementAndGet();
  20. throw rx;
  21. }
  22. }
  23. }

TaskQueue.java

  1. public boolean force(Runnable o, long timeout, TimeUnit unit) throws InterruptedException {
  2. if ( parent.isShutdown() )
  3. throw new RejectedExecutionException(
  4. "Executor not running, can't force a command into the queue"
  5. );
  6. return super.offer(o,timeout,unit); //forces the item onto the queue, to be used if the task
  7. is rejected
  8. }

Connector 配置
image.png
Executor 线程配置
image.png
image.png

3. Fork/Join

1)概念

Fork/Join 是 JDK 1.7 加入的新的线程池实现,它体现的是一种分治思想,适用于能够进行任务拆分的 cpu 密集型运算
所谓的任务拆分,是将一个大任务拆分为算法上相同的小任务,直至不能拆分可以直接求解。跟递归相关的一些计算,如归并排序、斐波那契数列、都可以用分治思想进行求解
Fork/Join 在分治的基础上加入了多线程,可以把每个任务的分解和合并交给不同的线程来完成,进一步提升了运算效率
Fork/Join 默认会创建与 cpu 核心数大小相同的线程池

2)使用

提交给 Fork/Join 线程池的任务需要继承 RecursiveTask(有返回值)或 RecursiveAction(没有返回值),例如下面定义了一个对 1~n 之间的整数求和的任务

  1. @Slf4j(topic = "c.AddTask")
  2. class AddTask1 extends RecursiveTask<Integer> {
  3. int n;
  4. public AddTask1(int n) {
  5. this.n = n;
  6. }
  7. @Override
  8. public String toString() {
  9. return "{" + n + '}';
  10. }
  11. @Override
  12. protected Integer compute() {
  13. // 如果 n 已经为 1,可以求得结果了
  14. if (n == 1) {
  15. log.debug("join() {}", n);
  16. return n;
  17. }
  18. // 将任务进行拆分(fork)
  19. AddTask1 t1 = new AddTask1(n - 1);
  20. t1.fork();
  21. log.debug("fork() {} + {}", n, t1);
  22. // 合并(join)结果
  23. int result = n + t1.join();
  24. log.debug("join() {} + {} = {}", n, t1, result);
  25. return result;
  26. }
  27. }

然后提交给 ForkJoinPool 来执行

  1. public static void main(String[] args) {
  2. ForkJoinPool pool = new ForkJoinPool(4);
  3. System.out.println(pool.invoke(new AddTask1(5)));
  4. }

结果

  1. [ForkJoinPool-1-worker-0] - fork() 2 + {1}
  2. [ForkJoinPool-1-worker-1] - fork() 5 + {4}
  3. [ForkJoinPool-1-worker-0] - join() 1
  4. [ForkJoinPool-1-worker-0] - join() 2 + {1} = 3
  5. [ForkJoinPool-1-worker-2] - fork() 4 + {3}
  6. [ForkJoinPool-1-worker-3] - fork() 3 + {2}
  7. [ForkJoinPool-1-worker-3] - join() 3 + {2} = 6
  8. [ForkJoinPool-1-worker-2] - join() 4 + {3} = 10
  9. [ForkJoinPool-1-worker-1] - join() 5 + {4} = 15
  10. 15

用图来表示
image.png
改进

  1. class AddTask3 extends RecursiveTask<Integer> {
  2. int begin;
  3. int end;
  4. public AddTask3(int begin, int end) {
  5. this.begin = begin;
  6. this.end = end;
  7. }
  8. @Override
  9. public String toString() {
  10. return "{" + begin + "," + end + '}';
  11. }
  12. @Override
  13. protected Integer compute() {
  14. // 5, 5
  15. if (begin == end) {
  16. log.debug("join() {}", begin);
  17. return begin;
  18. }
  19. // 4, 5
  20. if (end - begin == 1) {
  21. log.debug("join() {} + {} = {}", begin, end, end + begin);
  22. return end + begin;
  23. }
  24. // 1 5
  25. int mid = (end + begin) / 2; // 3
  26. AddTask3 t1 = new AddTask3(begin, mid); // 1,3
  27. t1.fork();
  28. AddTask3 t2 = new AddTask3(mid + 1, end); // 4,5
  29. t2.fork();
  30. log.debug("fork() {} + {} = ?", t1, t2);
  31. int result = t1.join() + t2.join();
  32. log.debug("join() {} + {} = {}", t1, t2, result);
  33. return result;
  34. }
  35. }

然后提交给 ForkJoinPool 来执行

  1. public static void main(String[] args) {
  2. ForkJoinPool pool = new ForkJoinPool(4);
  3. System.out.println(pool.invoke(new AddTask3(1, 10)));
  4. }

结果

  1. [ForkJoinPool-1-worker-0] - join() 1 + 2 = 3
  2. [ForkJoinPool-1-worker-3] - join() 4 + 5 = 9
  3. [ForkJoinPool-1-worker-0] - join() 3
  4. [ForkJoinPool-1-worker-1] - fork() {1,3} + {4,5} = ?
  5. [ForkJoinPool-1-worker-2] - fork() {1,2} + {3,3} = ?
  6. [ForkJoinPool-1-worker-2] - join() {1,2} + {3,3} = 6
  7. [ForkJoinPool-1-worker-1] - join() {1,3} + {4,5} = 15
  8. 15

用图来表示
image.png

8.3 J.U.C

1. AQS原理