管程即 monitor 是阻塞式的悲观锁实现并发控制,这章我们将通过非阻塞式的乐观锁的来实现并发控制

1. 无锁解决线程安全问题

案例

有10000元,1000个线程每次取10元,最终结果应该为0元。

  1. public class Code_04_UnsafeTest {
  2. public static void main(String[] args) {
  3. Account acount = new AccountUnsafe(10000);
  4. Account.demo(acount);
  5. }
  6. }
  7. class AccountUnsafe implements Account {
  8. private Integer balance;
  9. public AccountUnsafe(Integer balance) {
  10. this.balance = balance;
  11. }
  12. @Override
  13. public Integer getBalance() {
  14. return this.balance;
  15. }
  16. @Override
  17. public void withdraw(Integer amount) {
  18. this.balance -= amount;
  19. }
  20. }
  21. interface Account {
  22. // 获取金额的方法
  23. Integer getBalance();
  24. // 取款的方法
  25. void withdraw(Integer amount);
  26. static void demo(Account account) {
  27. List<Thread> list = new ArrayList<>();
  28. long start = System.nanoTime();
  29. for(int i = 0; i < 1000; i++) {
  30. list.add(new Thread(() -> {
  31. account.withdraw(10);
  32. }));
  33. }
  34. list.forEach(Thread::start);
  35. list.forEach(t -> {
  36. try {
  37. t.join();
  38. } catch (InterruptedException e) {
  39. e.printStackTrace();
  40. }
  41. });
  42. long end = System.nanoTime();
  43. System.out.println(account.getBalance()
  44. + " cost: " + (end-start)/1000_000 + " ms");
  45. }
  46. }
  1. 490 cost: 215 ms

存在线程安全问题。withdraw方法不是原子的,又有读操作,又有写操作。

  • 使用synchronized修改withdraw方法 ```java @Override public void withdraw(Integer amount) {
    1. synchronized (this) { // 加锁。
    2. this.balance -= amount;
    3. }
    }
  1. ```java
  2. 0 cost: 190 ms
  • 使用无锁实现线程安全问题 ```java public class Test1 {

    public static void main(String[] args) {

    1. Account acount = new AccountCas(10000);
    2. Account.demo(acount);

    } }

class AccountCas implements Account {

  1. private AtomicInteger balance;
  2. public AccountCas(int balance) {
  3. this.balance = new AtomicInteger(balance);
  4. }
  5. @Override
  6. public Integer getBalance() {
  7. return balance.get();
  8. }
  9. @Override
  10. public void withdraw(Integer amount) {
  11. while (true){
  12. // 余额最新值
  13. int prev = balance.get();
  14. // 修改后的余额
  15. int next = prev - amount;
  16. // 修改的余额同步到主存中
  17. // 修改成功,退出;修改失败,重新操作循环
  18. if (balance.compareAndSet(prev, next)){
  19. break;
  20. }
  21. }
  22. //balance.addAndGet(-1 * amount);
  23. }

}

interface Account {

  1. // 获取金额的方法
  2. Integer getBalance();
  3. // 取款的方法
  4. void withdraw(Integer amount);
  5. static void demo(Account account) {
  6. List<Thread> list = new ArrayList<>();
  7. long start = System.nanoTime();
  8. for(int i = 0; i < 1000; i++) {
  9. list.add(new Thread(() -> {
  10. account.withdraw(10);
  11. }));
  12. }
  13. list.forEach(Thread::start);
  14. list.forEach(t -> {
  15. try {
  16. t.join();
  17. } catch (InterruptedException e) {
  18. e.printStackTrace();
  19. }
  20. });
  21. long end = System.nanoTime();
  22. System.out.println(account.getBalance()
  23. + " cost: " + (end-start)/1000_000 + " ms");
  24. }

}

  1. ```java
  2. 0 cost: 177 ms

2. CAS 与 volatile

2.1 CAS

  • 前面看到的 AtomicInteger 的解决方法,内部并没有用锁来保护共享变量的线程安全。那么它是如何实现的呢?其中的关键是 compareAndSwap(比较并设置值),它的简称就是 CAS(也有 Compare And Swap 的说法),它必须是原子操作
  • CAS的全称为Compare-And-Swap ,它是一条CPU并发原语,比较工作内存值(预期值)和主物理内存的共享值是否相同,相同则执行规定操作,否则继续比较直到主内存和工作内存的值一致为止。这个过程是原子的(AtomicInteger类主要利用CAS(compare and swap)+volatile和native方法来保证原子操作,从而避免synchronized的高开销,执行效率大为提升)

image.png

  1. public void withdraw(Integer amount) {
  2. while (true){
  3. // 余额最新值
  4. int prev = balance.get();
  5. // 修改后的余额
  6. int next = prev - amount;
  7. // 修改的余额同步到主存中
  8. // 修改成功,退出;修改失败,重新操作循环
  9. if (balance.compareAndSet(prev, next)){
  10. break;
  11. }
  12. }
  13. }

image.png
如图所示,它的工作流程如下:当一个线程要去修改 Account 对象中的值时,先获取值 preVal(调用get方法),然后再将其设置为新的值 nextVal(调用 cas 方法)。在调用 cas 方法时,会将 pre 与 Account 中的余额进行比较。

  • 如果两者相等,就说明该值还未被其他线程修改,此时便可以进行修改操作。
  • 如果两者不相等,就不设置值,重新获取值 preVal(调用get方法),然后再将其设置为新的值 nextVal(调用cas方法),直到修改成功为止。

注意:

  • 其实 CAS 的底层是 lock cmpxchg 指令(X86 架构),在单核 CPU 和多核 CPU 下都能够保证【比较-交换】的原子性。
  • 在多核状态下,某个核执行到带 lock 的指令时,CPU 会让总线锁住,当这个核把此指令执行完毕,再开启总线。这个过程中不会被线程的调度机制所打断,保证了多个线程对内存操作的准确性,是原子的 。

    2.2 volatile

  • 获取共享变量时,为了保证该变量的可见性,需要使用 volatile 修饰。它可以用来修饰成员变量和静态成员变量,他可以避免线程从自己的工作缓存中查找变量的值,必须到主存中获取 它的值,线程操作 volatile 变量都是直接操作主存。即一个线程对 volatile 变量的修改,对另一个线程可见。

  • 注意:volatile 仅仅保证了共享变量的可见性,让其它线程能够看到新值,但不能解决指令交错问题(不能保证原子性)
  • CAS 是原子性操作借助 volatile 读取到共享变量的新值来实现【比较并交换】的效果

    AtomicInteger类的源码

  1. private volatile int value;

2.3 为什么无锁效率高

  • 无锁情况下,即使重试失败,线程始终在高速运行,没有停歇,而 synchronized 会让线程在没有获得锁的时候,发生上下文切换,进入阻塞。打个比喻:线程就好像高速跑道上的赛车,高速运行时,速度超快,一旦发生上下文切换,就好比赛车要减速、熄火,等被唤醒又得重新打火、启动、加速… 恢复到高速运行,代价比较大
  • 但无锁情况下,因为线程要保持运行,需要额外 CPU 的支持,CPU 在这里就好比高速跑道,没有额外的跑道,线程想高速运行也无从谈起,虽然不会进入阻塞,但由于没有分到时间片,仍然会进入可运行状态,还是会导致上下文切换。

    2.4 CAS 的特点

    结合CAS 和 volatile 可以实现无锁并发,适用于线程数少、多核 CPU 的场景下。

  • CAS 是基于乐观锁的思想:最乐观的估计,不怕别的线程来修改共享变量,就算改了也没关系,我吃亏点再重试呗。

  • synchronized 是基于悲观锁的思想:最悲观的估计,得防着其它线程来修改共享变量,我上了锁你们都别想改,我改完了解开锁,你们才有机会。
  • CAS 体现的是无锁并发、无阻塞并发,请仔细体会这两句话的意思

    • 因为没有使用 synchronized,所以线程不会陷入阻塞,这是效率提升的因素之一
    • 但如果竞争激烈(写操作多),可以想到重试必然频繁发生,反而效率会受影响

      2.5 CAS的缺点

      CAS不加锁,保证一次性,但是需要多次比较
  • 循环时间长,开销大(因为执行的是do while,如果比较不成功一直在循环,最差的情况,就是某个线程一直取到的值和预期值都不一样,这样就会无限循环)

  • 只能保证一个共享变量的原子操作
    • 当对一个共享变量执行操作时,我们可以通过循环CAS的方式来保证原子操作
    • 但是对于多个共享变量操作时,循环CAS就无法保证操作的原子性,这个时候只能用锁来保证原子性
  • 存在ABA问题

    3. 原子整数

    java.util.concurrent.atomic并发包提供了一些并发工具类,这里把它分成五类:
    使用原子的方式更新基本类型

  • AtomicInteger:整型原子类

  • AtomicLong:长整型原子类
  • AtomicBoolean :布尔型原子类

上面三个类提供的方法几乎相同,所以我们将以 AtomicInteger 为例子来介绍。

  1. public class Test2 {
  2. public static void main(String[] args) {
  3. AtomicInteger i = new AtomicInteger(0);
  4. System.out.println(i.incrementAndGet()); // ++i 1
  5. System.out.println(i.getAndIncrement()); // i++ 2,返回1
  6. System.out.println(i.get()); // 2
  7. System.out.println(i.decrementAndGet()); // --i 1
  8. System.out.println(i.getAndDecrement()); // i-- 0,返回1
  9. // 自定义增加值
  10. System.out.println(i.addAndGet(5)); // 先增再获取 5
  11. System.out.println(i.getAndAdd(5)); // 先后去再增 10,返回5
  12. System.out.println(i.get()); // 10
  13. // 复杂运算
  14. // 参数:IntUnaryOperator接口,返回设置的值
  15. //System.out.println(i.updateAndGet(x -> x * 10)); // 100
  16. // 等价于
  17. // while (true){
  18. // int pre = i.get();
  19. // int next = pre * 10;
  20. // if (i.compareAndSet(pre, next)){
  21. // System.out.println(i);
  22. // break;
  23. // }
  24. // }
  25. updateAndGet(i, p-> p/2); // 5
  26. }
  27. // 自定义方法
  28. public static int updateAndGet(AtomicInteger i, IntUnaryOperator operator){
  29. while (true){
  30. int pre = i.get();
  31. int next = operator.applyAsInt(pre);
  32. if (i.compareAndSet(pre, next)){
  33. return next;
  34. }
  35. }
  36. }
  37. }

4. 原子引用

为什么需要原子引用类型?保证引用类型的共享变量是线程安全的(确保这个原子引用没有引用过别人)。
基本类型原子类只能更新一个变量,如果需要原子更新多个变量,需要使用引用类型原子类。

  • AtomicReference:引用类型原子类
  • AtomicStampedReference:原子更新带有版本号的引用类型。该类将整数值与引用关联起来,可用于解决原子的更新数据和数据的版本号,可以解决使用 CAS 进行原子更新时可能出现的 ABA 问题。
  • AtomicMarkableReference :原子更新带有标记的引用类型。该类将 boolean 标记与引用关联起。

    4.1 AtomicReference

    ```java public class Test3 {

    public static void main(String[] args) {

    1. DecimalAccount.demo(new DecimalAccountCas(new BigDecimal("10000")));

    } }

class DecimalAccountCas implements DecimalAccount {

  1. private AtomicReference<BigDecimal> balance;
  2. public DecimalAccountCas(BigDecimal balance) {
  3. this.balance = new AtomicReference<>(balance);
  4. }
  5. @Override
  6. public BigDecimal getBalance() {
  7. return balance.get();
  8. }
  9. // 取款任务
  10. @Override
  11. public void withdraw(BigDecimal amount) {
  12. while (true){
  13. BigDecimal prev = balance.get();
  14. BigDecimal next = prev.subtract(amount);
  15. if (balance.compareAndSet(prev, next)){
  16. break;
  17. }
  18. }
  19. }

}

interface DecimalAccount {

  1. // 获取金额的方法
  2. BigDecimal getBalance();
  3. // 取款的方法
  4. void withdraw(BigDecimal amount);
  5. static void demo(DecimalAccount account) {
  6. List<Thread> list = new ArrayList<>();
  7. long start = System.nanoTime();
  8. for(int i = 0; i < 1000; i++) {
  9. list.add(new Thread(() -> {
  10. account.withdraw(BigDecimal.TEN);
  11. }));
  12. }
  13. list.forEach(Thread::start);
  14. list.forEach(t -> {
  15. try {
  16. t.join();
  17. } catch (InterruptedException e) {
  18. e.printStackTrace();
  19. }
  20. });
  21. long end = System.nanoTime();
  22. System.out.println(account.getBalance()
  23. + " cost: " + (end-start)/1000_000 + " ms");
  24. }

}

  1. 上述代码是将之前例子中的Integer改成了BigDecimal,依然是线程不安全的。
  2. - 改造:
  3. ```java
  4. public class Test3 {
  5. public static void main(String[] args) {
  6. DecimalAccount.demo(new DecimalAccountCas(new BigDecimal("10000")));
  7. }
  8. }
  9. class DecimalAccountCas implements DecimalAccount {
  10. private AtomicReference<BigDecimal> balance;
  11. public DecimalAccountCas(BigDecimal balance) {
  12. this.balance = new AtomicReference<>(balance);
  13. }
  14. @Override
  15. public BigDecimal getBalance() {
  16. return balance.get();
  17. }
  18. // 取款任务
  19. @Override
  20. public void withdraw(BigDecimal amount) {
  21. while (true){
  22. BigDecimal prev = balance.get();
  23. BigDecimal next = prev.subtract(amount);
  24. if (balance.compareAndSet(prev, next)){
  25. break;
  26. }
  27. }
  28. }
  29. }
  30. interface DecimalAccount {
  31. // 获取金额的方法
  32. BigDecimal getBalance();
  33. // 取款的方法
  34. void withdraw(BigDecimal amount);
  35. static void demo(DecimalAccount account) {
  36. List<Thread> list = new ArrayList<>();
  37. long start = System.nanoTime();
  38. for(int i = 0; i < 1000; i++) {
  39. list.add(new Thread(() -> {
  40. account.withdraw(BigDecimal.TEN);
  41. }));
  42. }
  43. list.forEach(Thread::start);
  44. list.forEach(t -> {
  45. try {
  46. t.join();
  47. } catch (InterruptedException e) {
  48. e.printStackTrace();
  49. }
  50. });
  51. long end = System.nanoTime();
  52. System.out.println(account.getBalance()
  53. + " cost: " + (end-start)/1000_000 + " ms");
  54. }
  55. }
  1. 0 cost: 191 ms

4.2 ABA问题

  1. @Slf4j
  2. public class Test4 {
  3. public static AtomicReference<String> ref = new AtomicReference<>("A");
  4. public static void main(String[] args) throws InterruptedException {
  5. log.debug("main start...");
  6. String preVal = ref.get();
  7. other();
  8. Thread.sleep(1);
  9. log.debug("change A->C {}", ref.compareAndSet(preVal, "C"));
  10. }
  11. private static void other() throws InterruptedException {
  12. new Thread(() -> {
  13. log.debug("change A->B {}", ref.compareAndSet(ref.get(), "B"));
  14. }, "t1").start();
  15. Thread.sleep(1);
  16. new Thread(() -> {
  17. log.debug("change B->A {}", ref.compareAndSet(ref.get(), "A"));
  18. }, "t2").start();
  19. }
  20. }
  1. 23:34:04.515 [main] DEBUG com.ll.ch5.Test4 - main start...
  2. 23:34:04.566 [t1] DEBUG com.ll.ch5.Test4 - change A->B true
  3. 23:34:04.567 [t2] DEBUG com.ll.ch5.Test4 - change B->A true
  4. 23:34:04.568 [main] DEBUG com.ll.ch5.Test4 - change A->C true

主线程仅能判断出共享变量的值与最初值 A 是否相同,不能感知到这种从 A 改为 B 又改回 A 的情况,如果主线程希望:只要有其它线程【动过了】共享变量,那么自己的 cas 就算失败,这时,仅比较值是不够的,需要再加一个版本号。使用AtomicStampedReference来解决。

4.3 AtomicStampedReference

使用 AtomicStampedReference 加 stamp (版本号或者时间戳)的方式解决 ABA 问题。代码如下:

  1. @Slf4j(topic = "c.Test4")
  2. public class Test4 {
  3. public static AtomicStampedReference<String> ref = new AtomicStampedReference<>("A", 0);
  4. public static void main(String[] args) throws InterruptedException {
  5. log.debug("main start...");
  6. String preVal = ref.getReference();
  7. int stamp = ref.getStamp();
  8. log.debug("{}", stamp);
  9. other();
  10. Thread.sleep(1);
  11. log.debug("{}", stamp);
  12. log.debug("{}", ref.getStamp());
  13. log.debug("change A->C {}", ref.compareAndSet(preVal, "C", stamp, stamp + 1));
  14. }
  15. private static void other() throws InterruptedException {
  16. new Thread(() -> {
  17. int stamp = ref.getStamp();
  18. log.debug("{}", stamp);
  19. log.debug("change A->B {}", ref.compareAndSet(ref.getReference(), "B", stamp, stamp + 1));
  20. }, "t1").start();
  21. Thread.sleep(1);
  22. new Thread(() -> {
  23. int stamp = ref.getStamp();
  24. log.debug("{}", stamp);
  25. log.debug("change B->A {}", ref.compareAndSet(ref.getReference(), "A", stamp, stamp + 1));
  26. }, "t2").start();
  27. }
  28. }
  1. 08:26:06.395 [main] DEBUG c.Test4 - main start...
  2. 08:26:06.398 [main] DEBUG c.Test4 - 0
  3. 08:26:06.439 [t1] DEBUG c.Test4 - 0
  4. 08:26:06.440 [t1] DEBUG c.Test4 - change A->B true
  5. 08:26:06.441 [t2] DEBUG c.Test4 - 1
  6. 08:26:06.441 [t2] DEBUG c.Test4 - change B->A true
  7. 08:26:06.442 [main] DEBUG c.Test4 - 0
  8. 08:26:06.442 [main] DEBUG c.Test4 - 2
  9. 08:26:06.442 [main] DEBUG c.Test4 - change A->C false

追踪变化过程,可以看到A再次变为A中间经过了两次修改,所以主线程再将A变为C时由于修改次数
stamp的改变而发生false。

4.4 AtomicMarkableReference

AtomicStampedReference 可以给原子引用加上版本号,追踪原子引用整个的变化过程,如:A -> B -> A ->C,通过AtomicStampedReference,我们可以知道,引用变量中途被更改了几次。但是有时候,并不关心引用变量更改了几次,只是单纯的关心是否更改过,所以就有了AtomicMarkableReference。

  1. @Slf4j(topic = "c.Test5")
  2. public class Test5 {
  3. public static void main(String[] args) throws InterruptedException {
  4. GarbageBag bag = new GarbageBag("装满了垃圾");
  5. // 参数2 mark 可以看作一个标记,表示垃圾袋满了
  6. AtomicMarkableReference<GarbageBag> ref = new AtomicMarkableReference<>(bag, true);
  7. log.debug("主线程start...");
  8. GarbageBag prev = ref.getReference();
  9. log.debug(prev.toString());
  10. new Thread(()->{
  11. log.debug("打扫卫生的线程 start...");
  12. bag.setDesc("空垃圾袋");
  13. while (!ref.compareAndSet(bag, bag, true, false)) {}
  14. log.debug(bag.toString());
  15. },"保洁员").start();
  16. // 主线程想换垃圾袋
  17. Thread.sleep(1000);
  18. log.debug("主线线程换一只垃圾袋");
  19. boolean success = ref.compareAndSet(prev, new GarbageBag("空垃圾袋"), true, false);
  20. log.debug("换了么?{}", success );
  21. log.debug(ref.getReference().toString());
  22. }
  23. }
  24. class GarbageBag {
  25. String desc;
  26. public GarbageBag(String desc) {
  27. this.desc = desc;
  28. }
  29. public String getDesc() {
  30. return desc;
  31. }
  32. public void setDesc(String desc) {
  33. this.desc = desc;
  34. }
  35. @Override
  36. public String toString() {
  37. return super.toString() + " GarbageBag{" +
  38. "desc='" + desc + '\'' +
  39. '}';
  40. }
  1. 10:01:14.050 [main] DEBUG c.Test5 - 主线程start...
  2. 10:01:14.054 [main] DEBUG c.Test5 - com.ll.ch5.GarbageBag@2471cca7 GarbageBag{desc='装满了垃圾'}
  3. 10:01:14.104 [保洁员] DEBUG c.Test5 - 打扫卫生的线程 start...
  4. 10:01:14.105 [保洁员] DEBUG c.Test5 - com.ll.ch5.GarbageBag@2471cca7 GarbageBag{desc='空垃圾袋'}
  5. 10:01:15.108 [main] DEBUG c.Test5 - 主线线程换一只垃圾袋
  6. 10:01:15.109 [main] DEBUG c.Test5 - 换了么?false
  7. 10:01:15.111 [main] DEBUG c.Test5 - com.ll.ch5.GarbageBag@2471cca7 GarbageBag{desc='空垃圾袋'}

注释掉保洁员工作

  1. 10:02:39.012 [main] DEBUG c.Test5 - 主线程start...
  2. 10:02:39.017 [main] DEBUG c.Test5 - com.ll.ch5.GarbageBag@2471cca7 GarbageBag{desc='装满了垃圾'}
  3. 10:02:40.022 [main] DEBUG c.Test5 - 主线线程换一只垃圾袋
  4. 10:02:40.022 [main] DEBUG c.Test5 - 换了么?true
  5. 10:02:40.025 [main] DEBUG c.Test5 - com.ll.ch5.GarbageBag@2be94b0f GarbageBag{desc='空垃圾袋'}

5. 原子数组

使用原子的方式更新数组里的某个元素

  • AtomicIntegerArray:整形数组原子类
  • AtomicLongArray:长整形数组原子类
  • AtomicReferenceArray :引用类型数组原子类

上面三个类提供的方法几乎相同,所以我们这里以 AtomicIntegerArray 为例子来介绍,代码如下:

  1. public class Test6 {
  2. public static void main(String[] args) {
  3. // 普通数组
  4. demo(
  5. () -> new int[10],
  6. (array) -> array.length,
  7. (array, index) -> array[index]++,
  8. array -> System.out.println(Arrays.toString(array))
  9. );
  10. // 原子数组
  11. demo(
  12. () -> new AtomicIntegerArray(10),
  13. (array) -> array.length(),
  14. (array, index) -> array.getAndIncrement(index),
  15. array -> System.out.println(array)
  16. );
  17. }
  18. /**
  19. * @param arraySupplier 提供数组,线程安全或不安全数组
  20. * @param lengthFun 获取数组程度的方法
  21. * @param putConsumer 自增方法,回传array,index
  22. * @param printConsumer 打印数组的方法
  23. * @param <T>
  24. */
  25. // supplier 提供者,无中生有 ()->结果
  26. // function 函数 一个参数一个结构 (参数)->结果 , BiFunction(参数1,参数2)->结果
  27. // consumer 消费者 一个参数没结果 (参数) -> void BiFunction(参数1,参数2)->void
  28. private static <T> void demo(
  29. Supplier<T> arraySupplier,
  30. Function<T, Integer> lengthFun,
  31. BiConsumer<T, Integer> putConsumer,
  32. Consumer<T> printConsumer) {
  33. ArrayList<Thread> ts = new ArrayList<>(); // 创建集合
  34. T array = arraySupplier.get(); // 获取数组
  35. int length = lengthFun.apply(array); // 获取数组的长度
  36. for (int i = 0; i < length; i++) {
  37. ts.add(new Thread(() -> {
  38. for (int j = 0; j < 10000; j++) {
  39. putConsumer.accept(array, j % length);
  40. }
  41. }));
  42. }
  43. ts.forEach(Thread::start);
  44. ts.forEach((thread) -> {
  45. try {
  46. thread.join();
  47. } catch (InterruptedException e) {
  48. e.printStackTrace();
  49. }
  50. });
  51. printConsumer.accept(array);
  52. }
  53. }

结果:

  1. [8593, 8592, 8594, 8564, 8595, 8583, 8643, 8572, 8566, 8545]
  2. [10000, 10000, 10000, 10000, 10000, 10000, 10000, 10000, 10000, 10000]

10个线程每个线程自增了10000次,一共100000次。平均下来应该是每个值是10000。说明多线程下,每个普通数组的元素线程不安全。使用原子数组可以保证线程安全。

6. 字段更新器

保证多个线程访问对象的成员变量时的线程安全性

  • AtomicReferenceFieldUpdater // 域 字段
  • AtomicIntegerFieldUpdater
  • AtomicLongFieldUpdater

注意:利用字段更新器,可以针对对象的某个域(Field)进行原子操作,只能配合 volatile 修饰的字段使用,否则会出现异常

  1. Exception in thread "main" java.lang.IllegalArgumentException: Must be volatile type

例如:

  1. @Slf4j(topic = "c.Test7")
  2. public class Test7 {
  3. public static void main(String[] args) {
  4. Student student = new Student();
  5. AtomicReferenceFieldUpdater updater = AtomicReferenceFieldUpdater.newUpdater(Student.class,
  6. String.class, "name");
  7. System.out.println(updater.compareAndSet(student, null, "张三"));
  8. System.out.println(student);
  9. }
  10. }
  11. class Student {
  12. volatile String name;
  13. @Override
  14. public String toString() {
  15. return "Student{" +
  16. "name='" + name + '\'' +
  17. '}';
  18. }
  19. }
  1. true
  2. Student{name='张三'}

7. 原子累加器

7.1 AtomicLong Vs LongAdder

代码示例

  1. public class Test8 {
  2. public static void main(String[] args) {
  3. for(int i = 0; i < 5; i++) {
  4. demo(() -> new AtomicLong(0), (ref) -> ref.getAndIncrement());
  5. }
  6. System.out.println("==============");
  7. for(int i = 0; i < 5; i++) {
  8. demo(() -> new LongAdder(), (ref) -> ref.increment());
  9. }
  10. }
  11. /**
  12. *
  13. * @param supplier ()->结果
  14. * @param consumer (参数)->void
  15. * @param <T>
  16. */
  17. private static <T> void demo(Supplier<T> supplier, Consumer<T> consumer) {
  18. ArrayList<Thread> list = new ArrayList<>();
  19. T adder = supplier.get();
  20. // 4 个线程,每人累加 50 万
  21. for (int i = 0; i < 4; i++) {
  22. list.add(new Thread(() -> {
  23. for (int j = 0; j < 500000; j++) {
  24. consumer.accept(adder);
  25. }
  26. }));
  27. }
  28. long start = System.nanoTime();
  29. list.forEach(t -> t.start());
  30. list.forEach(t -> {
  31. try {
  32. t.join();
  33. } catch (InterruptedException e) {
  34. e.printStackTrace();
  35. }
  36. });
  37. long end = System.nanoTime();
  38. System.out.println(adder + " cost:" + (end - start)/1000_000);
  39. }
  40. }
  1. 2000000 cost:51
  2. 2000000 cost:54
  3. 2000000 cost:47
  4. 2000000 cost:46
  5. 2000000 cost:47
  6. ==============
  7. 2000000 cost:16
  8. 2000000 cost:6
  9. 2000000 cost:13
  10. 2000000 cost:6
  11. 2000000 cost:6

执行代码后,发现使用 LongAdder 比 AtomicLong 更快,使用 LongAdder 性能提升的原因很简单,就是在有竞争时,设置多个累加单元(但不会超过cpu的核心数,而AtomicLong只有一个累加单元),Therad-0 累加 Cell[0],而 Thread-1 累加Cell[1]… 最后将结果汇总。这样它们在累加时操作的不同的 Cell 变量,因此减少了 CAS 重试失败,从而提高性能。

7.2 LongAdder源码

LongAdder 类有几个关键域
下面的变量属于 Striped64 被 LongAdder 继承。

  1. public class LongAdder extends Striped64 implements Serializable {}
  2. // 累加单元数组, 懒惰初始化
  3. transient volatile Cell[] cells;
  4. // 基础值, 如果没有竞争, 则用 cas 累加这个域
  5. transient volatile long base;
  6. // 在 cells 创建或扩容时, 置为 1, 表示加锁,他是使用cas加锁的,保证cell数组在创建和扩容时的线程安全性
  7. transient volatile int cellsBusy;

7.2.1 cas实现自旋锁

  1. @Slf4j(topic = "c.Test9")
  2. public class Test9 {
  3. // 0表示没加锁
  4. // 1表示加锁
  5. private AtomicInteger state = new AtomicInteger(0);
  6. public void lock(){
  7. while (true){
  8. if (state.compareAndSet(0, 1)){
  9. break;
  10. }
  11. }
  12. }
  13. public void unlock(){
  14. log.debug("unlock...");
  15. state.set(0);
  16. }
  17. public static void main(String[] args) {
  18. Test9 lock = new Test9();
  19. new Thread(()->{
  20. log.debug("begin...");
  21. lock.lock();
  22. try {
  23. log.debug("lock...");
  24. Thread.sleep(1000);
  25. } catch (InterruptedException e) {
  26. e.printStackTrace();
  27. }finally {
  28. lock.unlock();
  29. }
  30. },"t1").start();
  31. new Thread(()->{
  32. log.debug("begin...");
  33. lock.lock();
  34. try {
  35. log.debug("lock....");
  36. Thread.sleep(1000);
  37. } catch (InterruptedException e) {
  38. e.printStackTrace();
  39. }finally {
  40. lock.unlock();
  41. }
  42. },"t2").start();
  43. }
  44. }
  1. 11:04:28.740 [t1] DEBUG c.Test9 - begin...
  2. 11:04:28.740 [t2] DEBUG c.Test9 - begin...
  3. 11:04:28.744 [t2] DEBUG c.Test9 - lock....
  4. 11:04:29.746 [t2] DEBUG c.Test9 - unlock...
  5. 11:04:29.746 [t1] DEBUG c.Test9 - lock...
  6. 11:04:30.751 [t1] DEBUG c.Test9 - unlock...

7.2.2 原理之伪共享

其中 Cell 即为累加单元类

  1. // 防止缓存行 伪共享
  2. @sun.misc.Contended
  3. static final class Cell {
  4. volatile long value;
  5. Cell(long x) { value = x; }
  6. // 最重要的方法, 用来 cas 方式进行累加, prev 表示旧值, next 表示新值
  7. final boolean cas(long prev, long next) {
  8. return UNSAFE.compareAndSwapLong(this, valueOffset, prev, next);
  9. }
  10. // 省略不重要代码
  11. }

下面讨论 @sun.misc.Contended 注解的重要意义得从缓存说起,缓存与内存的速度比较
image.png
因为 CPU 与 内存的速度差异很大,需要靠预读数据至缓存来提升效率。缓存离 cpu 越近速度越快。 而缓存以缓存行为单位,每个缓存行对应着一块内存,一般是 64 byte(8 个 long),缓存的加入会造成数据副本的产生,即同一份数据会缓存在不同核心的缓存行中,CPU 要保证数据的一致性,如果某个 CPU 核心更改了数据,其它 CPU 核心对应的整个缓存行必须失效。
image.png
因为 Cell 是数组形式,在内存中是连续存储的,一个 Cell 为 24 字节(16 字节的对象头和 8 字节的 value),因此缓存行可以存下 2 个的 Cell 对象。这样问题来了: Core-0 要修改 Cell[0],Core-1 要修改 Cell[1]。无论谁修改成功,都会导致对方 Core 的缓存行失效,比如 Core-0 中 Cell[0]=6000, Cell[1]=8000 要累加 Cell[0]=6001, Cell[1]=8000 ,这时会让 Core-1 的缓存行失效。
@sun.misc.Contended 用来解决这个问题,它的原理是在使用此注解的对象或字段的前后各增加 128 字节大小的padding,从而让 CPU 将对象预读至缓存时占用不同的缓存行,这样,不会造成对方缓存行的失效。
image.png

7.2.3 add方法

  1. public void increment() {
  2. add(1L);
  3. }
  4. public void add(long x) {
  5. // as 为累加单元数组, b 为基础值, x 为累加值
  6. Cell[] as; long b, v; int m; Cell a;
  7. // 进入 if 的两个条件
  8. // 1. as 有值, 表示已经发生过竞争, 进入 if;否则as为null,判断cas是否给base累加成功
  9. // 2. cas 给 base 累加时失败了, 表示 base 发生了竞争, 进入 if
  10. // 3. 如果 as 没有创建, 然后 cas 累加成功就返回,累加到 base 中 不存在线程竞争的时候用到。
  11. if ((as = cells) != null || !casBase(b = base, b + x)) {
  12. // uncontended 表示 cell 是否有竞争,这里赋值为 true 表示有竞争
  13. boolean uncontended = true;
  14. // as 还没有创建
  15. if (as == null || (m = as.length - 1) < 0 ||
  16. // 当前线程对应的 cell 还没有被创建,a为当线程的cell
  17. (a = as[getProbe() & m]) == null ||
  18. // 给当前线程的 cell 累加失败 uncontended=false ( a 为当前线程的 cell )
  19. !(uncontended = a.cas(v = a.value, v + x)))
  20. // 当 cells 为空时,累加操作失败会调用方法,
  21. // 当 cells 不为空,当前线程的 cell 创建了但是累加失败了会调用方法,
  22. // 当 cells 不为空,当前线程 cell 没创建会调用这个方法
  23. // 进入 cell 数组创建、cell 创建的流程
  24. longAccumulate(x, null, uncontended);
  25. }
  26. }

image.png

longAccumulate方法

  1. final void longAccumulate(long x, LongBinaryOperator fn,
  2. boolean wasUncontended) {
  3. int h;
  4. // 当前线程还没有对应的 cell, 需要随机生成一个 h 值用来将当前线程绑定到 cell
  5. if ((h = getProbe()) == 0) {
  6. // 初始化 probe
  7. ThreadLocalRandom.current();
  8. // h 对应新的 probe 值, 用来对应 cell
  9. h = getProbe();
  10. wasUncontended = true;
  11. }
  12. // collide 为 true 表示需要扩容
  13. boolean collide = false;
  14. for (;;) {
  15. Cell[] as; Cell a; int n; long v;
  16. // 已经有了 cells
  17. if ((as = cells) != null && (n = as.length) > 0) {
  18. // 但是还没有当前线程对应的 cell
  19. if ((a = as[(n - 1) & h]) == null) {
  20. // 为 cellsBusy 加锁, 创建 cell, cell 的初始累加值为 x
  21. // 成功则 break, 否则继续 continue 循环
  22. if (cellsBusy == 0) { // Try to attach new Cell
  23. Cell r = new Cell(x); // Optimistically create
  24. if (cellsBusy == 0 && casCellsBusy()) {
  25. boolean created = false;
  26. try { // Recheck under lock
  27. Cell[] rs; int m, j;
  28. if ((rs = cells) != null &&
  29. (m = rs.length) > 0 &&
  30. // 判断槽位确实是空的
  31. rs[j = (m - 1) & h] == null) {
  32. rs[j] = r;
  33. created = true;
  34. }
  35. } finally {
  36. cellsBusy = 0;
  37. }
  38. if (created)
  39. break;
  40. continue; // Slot is now non-empty
  41. }
  42. }
  43. // 有竞争, 改变线程对应的 cell 来重试 cas
  44. else if (!wasUncontended)
  45. wasUncontended = true;
  46. // cas 尝试累加, fn 配合 LongAccumulator 不为 null, 配合 LongAdder 为 null
  47. else if (a.cas(v = a.value, ((fn == null) ? v + x : fn.applyAsLong(v, x))))
  48. break;
  49. // 如果 cells 长度已经超过了最大长度, 或者已经扩容, 改变线程对应的 cell 来重试 cas
  50. else if (n >= NCPU || cells != as)
  51. collide = false;
  52. // 确保 collide 为 false 进入此分支, 就不会进入下面的 else if 进行扩容了
  53. else if (!collide)
  54. collide = true;
  55. // 加锁
  56. else if (cellsBusy == 0 && casCellsBusy()) {
  57. // 加锁成功, 扩容
  58. continue;
  59. }
  60. // 改变线程对应的 cell
  61. h = advanceProbe(h);
  62. }
  63. // 还没有 cells, cells==as是指没有其它线程修改cells,as和cells引用相同的对象,使用casCellsBusy()尝试给 cellsBusy 加锁
  64. else if (cellsBusy == 0 && cells == as && casCellsBusy()) {
  65. // 加锁成功, 初始化 cells, 最开始长度为 2, 并填充一个 cell
  66. // 成功则 break;
  67. boolean init = false;
  68. try { // Initialize table
  69. if (cells == as) {
  70. Cell[] rs = new Cell[2];
  71. rs[h & 1] = new Cell(x);
  72. cells = rs;
  73. init = true;
  74. }
  75. } finally {
  76. cellsBusy = 0;
  77. }
  78. if (init)
  79. break;
  80. }
  81. // 上两种情况失败, 尝试给 base 使用casBase累加
  82. else if (casBase(v = base, ((fn == null) ? v + x : fn.applyAsLong(v, x))))
  83. break;
  84. }
  85. }

image.png

7.2.4 sum方法

获取最终结果通过 sum 方法,将各个累加单元的值加起来就得到了总的结果。

  1. public long sum() {
  2. Cell[] as = cells; Cell a;
  3. long sum = base;
  4. if (as != null) {
  5. for (int i = 0; i < as.length; ++i) {
  6. if ((a = as[i]) != null)
  7. sum += a.value;
  8. }
  9. }
  10. return sum;
  11. }

8. 底层Unsafe类

  • Unsafe指的不是线程不安全,而是非常底层,操作内存、线程等,不建议程序员直接使用,以免发生不安全的情况。
  • Unsafe是CAS的核心类,由于Java方法无法直接访问底层系统,需要通过本地(Native)方法来访问,Unsafe相当于一个后门,基于该类可以直接操作特定的内存数据。Unsafe类存在sun.misc包中,其内部方法操作可以像C的指针一样直接操作内存,因为Java中的CAS操作的执行依赖于Unsafe类的方法。
  • CAS是一条CPU并发原语,原语的执行必须是连续的,在执行过程中不允许被中断,即CAS是一条CPU的原子指令,不会造成所谓的数据不一致问题。
  • 注意Unsafe类的所有方法都是native修饰的,也就是说unsafe类中的方法都直接调用操作系统底层资源执行相应的任务
  • 为什么Atomic修饰的包装类,能够保证原子性,依靠的就是底层的unsafe类

    8.1 举例AtomicInteger源码

    所有cas类的底层全部都是调用Unsafe类中的方法 ```java public class AtomicInteger extends Number implements java.io.Serializable { private static final long serialVersionUID = 6214790243416807050L;

    // setup to use Unsafe.compareAndSwapInt for updates // new UnSafe对象 private static final Unsafe unsafe = Unsafe.getUnsafe(); private static final long valueOffset;

    // 类加载的时候计算该value字段在内存中的偏移量 static {

    1. try {
    2. valueOffset = unsafe.objectFieldOffset
    3. (AtomicInteger.class.getDeclaredField("value"));
    4. } catch (Exception ex) { throw new Error(ex); }

    }

    // 加了volatile,保证value值的内存 可见性、有序性 private volatile int value;

    // 举例 // compareAndSet方法调用了unsafe的compareAndSwapInt方法,该方法是本地方法 public final boolean compareAndSet(int expect, int update) {

    1. return unsafe.compareAndSwapInt(this, valueOffset, expect, update);

    }

    public final int getAndIncrement() {

    1. return unsafe.getAndAddInt(this, valueOffset, 1);

    } }

  1. Unsafe类中getAndAddInt的自旋操作
  2. ```java
  3. public final int getAndAddInt(Object var1, long var2, int var4) {
  4. // var1当前对象,var2内存偏移量对应的v,var4变动的值
  5. int var5;
  6. do {
  7. // 重新从内存中获取v赋值给var5
  8. var5 = this.getIntVolatile(var1, var2);
  9. // 进行更新时,重新从内存中拿出这个值(看别人动了没)比较这个值是否和var5相同,
  10. // 相同意思就是别人没动,就更改,不相同就继续自旋
  11. } while(!this.compareAndSwapInt(var1, var2, var5, var5 + var4));
  12. return var5;
  13. }

8.2 Unsafe底层实现

Unsafe类中的compareAndSwapInt是一个本地方法,该方法的实现位于unsafe.cpp中

  • 先想办法拿到变量value在内存中的地址
  • 通过Atomic::cmpxchg实现比较替换,其中参数X是即将更新的值,参数e是原内存的值

截屏2021-07-09 上午10.20.57.png

8.3 Unsafe 对象的获取

Unsafe 对象提供了非常底层的,操作内存、线程的方法,Unsafe 对象不能直接调用,只能通过反射获得。LockSupport 的 park 方法,cas 相关的方法底层都是通过Unsafe类来实现的。

  1. public static void main(String[] args) throws NoSuchFieldException, IllegalAccessException {
  2. // Unsafe 使用了单例模式,unsafe 对象是类中的一个私有的变量
  3. Field theUnsafe = Unsafe.class.getDeclaredField("theUnsafe");
  4. // 允许访问私有变量
  5. theUnsafe.setAccessible(true);
  6. Unsafe unsafe = (Unsafe)theUnsafe.get(null);
  7. }

8.4 Unsafe 模拟实现 CAS 操作

  1. @Slf4j(topic = "c.Test10")
  2. public class Test10 {
  3. public static void main(String[] args) throws NoSuchFieldException, IllegalAccessException {
  4. Field theUnsafe = Unsafe.class.getDeclaredField("theUnsafe");
  5. theUnsafe.setAccessible(true);
  6. Unsafe unsafe = (Unsafe) theUnsafe.get(null);
  7. // 1.获取域的偏移地址,获取Teacher中id的偏移地址
  8. long id = unsafe.objectFieldOffset(Teacher.class.getDeclaredField("id"));
  9. long name = unsafe.objectFieldOffset(Teacher.class.getDeclaredField("name"));
  10. Teacher teacher = new Teacher();
  11. // 2.执行cas操作
  12. // 参数:对象,域的偏移量,原始期待比较值,修改的新值
  13. unsafe.compareAndSwapInt(teacher, id, 0, 1);
  14. unsafe.compareAndSwapObject(teacher, name, null, "张三");
  15. // 3.验证
  16. System.out.println(teacher);
  17. }
  18. }
  19. class Teacher {
  20. volatile int id;
  21. volatile String name;
  22. @Override
  23. public String toString() {
  24. return "Teacher{" +
  25. "id=" + id +
  26. ", name='" + name + '\'' +
  27. '}';
  28. }
  1. Teacher{id=1, name='张三'}

8.5 模拟实现原子整数类

  1. public class Test11 {
  2. public static void main(String[] args) {
  3. Account.demo(new MyAtomicInteger(10000));
  4. }
  5. }
  6. class MyAtomicInteger implements Account{
  7. private static final long valueOffset;
  8. private static final Unsafe UNSAFE ;
  9. private volatile int value;
  10. public MyAtomicInteger(int value) {
  11. this.value = value;
  12. }
  13. static {
  14. try {
  15. Field theUnsafe = Unsafe.class.getDeclaredField("theUnsafe");
  16. theUnsafe.setAccessible(true);
  17. UNSAFE = (Unsafe) theUnsafe.get(null);
  18. valueOffset = UNSAFE.objectFieldOffset(MyAtomicInteger.class.getDeclaredField("value"));
  19. } catch (NoSuchFieldException | IllegalAccessException e) {
  20. e.printStackTrace();
  21. throw new RuntimeException(e);
  22. }
  23. }
  24. public int getValue() {
  25. return value;
  26. }
  27. public void decrement(int amount){
  28. while (true){
  29. int pre = this.value;
  30. int next = pre - amount;
  31. if (UNSAFE.compareAndSwapInt(this, valueOffset, pre, next)){
  32. break;
  33. }
  34. }
  35. }
  36. @Override
  37. public Integer getBalance() {
  38. return getValue();
  39. }
  40. @Override
  41. public void withdraw(Integer amount) {
  42. decrement(amount);
  43. }
  44. }
  1. 0 cost: 207 ms

9. 总结

本章重点讲解

  1. CAS 与 volatile
  2. juc 包下 API
    1. 原子整数
    2. 原子引用
    3. 原子数组
    4. 字段更新器
    5. 原子累加器
  3. Unsafe
  4. 原理方面
    1. LongAdder 源码
    2. 伪共享