javajavase

1 Java JUC简介

在 Java 5.0 提供了 java.util.concurrent (简称 JUC )包,在此包中增加了在并发编程中很常用的实用工具类,用于定义类似于线程的自定义子系统,包括线程池、异步 IO 和轻量级任务框架。 提供可调的、灵活的线程池。还提供了设计用于多线程上下文中的 Collection 实现等


2 volatile 关键字-内存可见性

2.1 内存可见性

Java 内存模型规定,对于多个线程共享的变量,存储在主内存当中每个线程都有自己独立的工作内存,并且线程只能访问自己的工作内存,不可以访问其它线程的工作内存工作内存中保存了主内存中共享变量的副本,线程要操作这些共享变量,只能通过操作工作内存中的副本来实现,操作完毕之后再同步回到主内存当中,其 JVM 模型大致如下图
image.png
JVM 模型规定

  1. 线程对共享变量的所有操作必须在自己的内存中进行,不能直接从主内存中读写;
  2. 不同线程之间无法直接访问其它线程工作内存中的变量,线程间变量值的传递需要通过主内存来完成

这样的规定可能导致得到后果是:

  • 线程对共享变量的修改没有即时更新到主内存,或者线程没能够即时将共享变量的最新值同步到工作内存中,从而使得线程在使用共享变量的值时,该值并不是最新的。这就引出了内存可见性。

内存可见性(Memory Visibility)

  • 是指当某个线程正在使用对象状态,而另一个线程在同时修改该状态,需要确保当一个线程修改了对象状态后,其他线程能够看到发生的状态变化。

可见性错误

  • 是指当读操作与写操作在不同的线程中执行时,我们无法确保执行读操作的线程能适时地看到其他线程写入的值,有时甚至是根本不可能的事情 ```java class ThreadDemo implements Runnable { private boolean flag = false; // 加volatile关键字修饰可解决

    @Override public void run() {

    1. try {
    2. Thread.sleep(200);
    3. } catch (InterruptedException e) {
    4. }
    5. flag = true;
    6. System.out.println("flag=" + isFlag());

    }

    public boolean isFlag() {

    1. return flag;

    } }

public class TestVolatile { public static void main(String[] args) { new Thread(new ThreadDemo()).start();

  1. while (true) {
  2. // 包个同步锁可以解决内存可见性问题
  3. if (td.isFlag()) {
  4. System.out.println("------------------");
  5. break;
  6. } // 补个else{}稍微延迟一会也可以解决
  7. }
  8. }

}

  1. <a name="db14291d"></a>
  2. ### 2.2 volatile 关键字
  3. Java 提供了一种稍弱的同步机制,即 volatile 变量,用来确保将变量的更新操作通知到其它线程。
  4. - 当把共享变量声明为 volatile 类型后,**线程对该变量修改时会将该变量的值立即刷新回主内存,同时会使其它线程中缓存的该变量无效,**从而其它线程在读取该值时会从主内中重新读取该值(参考缓存一致性)。因此在读取 volatile 类型的变量时总是会返回最新写入的值
  5. volatile**屏蔽掉了JVM中必要的代码优化(指令重排序)**,所以在效率上比较低,屏蔽的是通过CPU在volatile 修饰的类型前后加上fence原语,loadfence,禁止两句连读调换顺序,storefence禁止两句写调换顺序
  6. ```java
  7. // 如果设置为
  8. private volatile boolean flag = false;
  9. // 输出结果:
  10. flag=true
  11. ------------------

volatile关键字最主要的作用是

  1. 保证变量的内存可见性
  2. 局部阻止重排序的发生

可以将 volatile 看做一个轻量级的锁,但是又与锁有些不同

  1. 对于多线程,不是一种互斥关系
  2. 不能保证变量状态的“原子性操作”

3 原子变量与CAS算法

3.1 原子变量

3.1.1 i++的原子性问题

  1. /*
  2. * 一、i++ 的原子性问题:i++ 的操作实际上分为三个步骤“读-改-写”
  3. * int i = 10;
  4. * i = i++; //10
  5. *
  6. * int temp = i;
  7. * i = i + 1;
  8. * i = temp;
  9. *
  10. * 二、原子变量:在 java.util.concurrent.atomic 包下提供了一些原子变量。
  11. * 1. volatile 保证内存可见性
  12. * 2. CAS(Compare-And-Swap) 算法保证数据变量的原子性
  13. * CAS 算法是硬件对于并发操作的支持
  14. * CAS 包含了三个操作数:
  15. * ①内存值 V
  16. * ②预估值 A
  17. * ③更新值 B
  18. * 当且仅当 V == A 时, V = B; 否则,不会执行任何操作。
  19. */
  20. class AtomicDemo implements Runnable{
  21. private volatile int serialNumber = 0;
  22. // private AtomicInteger serialNumber = new AtomicInteger(0);
  23. @Override
  24. public void run() {
  25. try {
  26. Thread.sleep(200);
  27. } catch (InterruptedException e) {
  28. }
  29. System.out.print(getSerialNumber()+" ");
  30. }
  31. public int getSerialNumber(){
  32. return serialNumber++;
  33. // return serialNumber.getAndIncrement();
  34. }
  35. }
  36. public class TestAtomicDemo {
  37. public static void main(String[] args) {
  38. AtomicDemo ad = new AtomicDemo();
  39. for (int i = 0; i < 10; i++) {
  40. new Thread(ad).start();
  41. }
  42. }
  43. }
  44. // 运行结果:
  45. // 0 4 3 2 1 0 5 6 7 8 ——> 会产生重复
  1. // 如果改为:
  2. class AtomicDemo implements Runnable{
  3. // private volatile int serialNumber = 0;
  4. private AtomicInteger serialNumber = new AtomicInteger(0);
  5. @Override
  6. public void run() {
  7. try {
  8. Thread.sleep(200);
  9. } catch (InterruptedException e) {
  10. }
  11. System.out.print(getSerialNumber()+" ");
  12. }
  13. public int getSerialNumber(){
  14. return serialNumber.getAndIncrement();
  15. }
  16. }
  17. //运行结果
  18. //1 3 2 0 4 6 5 7 8 9 ——> 不会重复

3.1.2 原子变量

实现全局自增id最简单有效的方式是什么?
java.util.concurrent.atomic包定义了一些常见类型的原子变量。这些原子变量为我们提供了一种操作单一变量无锁(lock-free)的线程安全(thread-safe)方式。实际上该包下面的类为我们提供了类似volatile变量的特性,同时还提供了诸如**boolean compareAndSet(expectedValue, updateValue)**的功能。
不使用锁实现线程安全听起来似乎很不可思议,这其实是通过CPU的compare and swap指令实现的,由于硬件指令支持当然不需要加锁了。

核心方法:boolean compareAndSet(expectedValue, updateValue)

  • 原子变量类的命名类似于AtomicXxx,例如,AtomicInteger类用于表示一个int变量
  • 标量原子变量类
    AtomicIntegerAtomicLongAtomicBoolean类分别支持对原始数据类型int,long和boolean的操作。
    当引用变量需要以原子方式更新时,AtomicReference类用于处理引用数据类型
  • 原子数组类
    有三个类称为AtomicIntegerArrayAtomicLongArrayAtomicReferenceArray,它们表示一个int,long和引用类型的数组,其元素可以进行原子性更新

    3.2 CAS算法

  • Compare And Swap (Compare And Exchange) / 自旋 / 自旋锁 / 无锁

  • CAS 是一种硬件对并发的支持,针对多处理器操作而设计的处理器中的一种特殊指令,用于管理对共享数据的并发访问。
  • CAS 是一种无锁的非阻塞算法的实现。
  • CAS 包含了 3 个操作数:
    • 需要读写的内存值 V
    • 进行比较的值 A
    • 拟写入的新值 B

当且仅当 V 的值等于 A 时,CAS 通过原子方式用新值 B 来更新 V的值,否则不会执行任何操作。
image.png

  1. // 模拟 CAS 算法
  2. public class TestCompareAndSwap {
  3. public static void main(String[] args) {
  4. final CompareAndSwap cas = new CompareAndSwap();
  5. for (int i = 0; i < 10; i++) {
  6. new Thread(new Runnable() {
  7. @Override
  8. public void run() {
  9. int expectedValue = cas.get();
  10. boolean b = cas.compareAndSet(expectedValue,
  11. (int)(Math.random() * 101));
  12. System.out.println(b);
  13. }
  14. }).start();
  15. }
  16. }
  17. }
  18. class CompareAndSwap{
  19. private int value;
  20. // 获取内存值
  21. public synchronized int get(){
  22. return value;
  23. }
  24. // 比较
  25. public synchronized int compareAndSwap(int expectedValue, int newValue) {
  26. int oldValue = value;
  27. if(oldValue == expectedValue){
  28. this.value = newValue;
  29. }
  30. return oldValue;
  31. }
  32. //设置
  33. public synchronized boolean compareAndSet(int expectedValue, int newValue) {
  34. return expectedValue == compareAndSwap(expectedValue, newValue);
  35. }
  36. }

3.2.1 ABA问题

CAS会导致ABA问题,线程1准备用CAS将变量的值由A替换为B,在此之前,线程2将变量的值由A替换为C,又由C替换为A,然后线程1执行CAS时发现变量的值仍然为A,所以CAS成功。但实际上这时的现场已经和最初不同了,尽管CAS成功,但可能存在潜藏的问题。
解决办法(版本号 AtomicStampedReference

  • 基础类型简单值不受影响
  • 引用类型加版本号,被指向的A内部属性可能变化,而指向A的引用没有变

    3.2.2 CAS在JAVA中底层的实现

    Unsafe
    Unsafe类:Java 与 C/C++ 的一个非常明显区别就是,Java 中不可以直接操作内存。当然这并不完全正确,因为 Unsafe 就可以做到。
    Unsafe在AtomicInteger中的应用

    1. class AtomicDemo implements Runnable {
    2. private AtomicInteger serialNumber = new AtomicInteger(0);
    3. @Override
    4. public void run() {
    5. try {
    6. Thread.sleep(200);
    7. } catch (InterruptedException e) {
    8. }
    9. System.out.print(getSerialNumber() + " ");
    10. }
    11. public int getSerialNumber(){
    12. return serialNumber.incrementAndGet();
    13. }
    14. }

    ```java public final int incrementAndGet() {

    1. for (;;) {
    2. int current = get();
    3. int next = current + 1;
    4. if (compareAndSet(current, next))
    5. return next;
    6. }

    }

public final boolean compareAndSet(int expect, int update) { return unsafe.compareAndSwapInt(this, valueOffset, expect, update); }

  1. Unsafe
  2. ```java
  3. public final native boolean compareAndSwapInt(Object var1, long var2, int var4, int var5);

运用

  1. package com.mashibing.jol;
  2. import sun.misc.Unsafe;
  3. import java.lang.reflect.Field;
  4. public class T02_TestUnsafe {
  5. int i = 0;
  6. private static T02_TestUnsafe t = new T02_TestUnsafe();
  7. public static void main(String[] args) throws Exception {
  8. //Unsafe unsafe = Unsafe.getUnsafe();
  9. Field unsafeField = Unsafe.class.getDeclaredFields()[0];
  10. unsafeField.setAccessible(true);
  11. Unsafe unsafe = (Unsafe) unsafeField.get(null);
  12. Field f = T02_TestUnsafe.class.getDeclaredField("i");
  13. long offset = unsafe.objectFieldOffset(f);
  14. System.out.println(offset);
  15. boolean success = unsafe.compareAndSwapInt(t, offset, 0, 1);
  16. System.out.println(success);
  17. System.out.println(t.i);
  18. //unsafe.compareAndSwapInt()
  19. }
  20. }

jdk8u: unsafe.cpp
cmpxchg = compare and exchange

  1. UNSAFE_ENTRY(jboolean, Unsafe_CompareAndSwapInt(JNIEnv *env, jobject unsafe, jobject obj, jlong offset, jint e, jint x))
  2. UnsafeWrapper("Unsafe_CompareAndSwapInt");
  3. oop p = JNIHandles::resolve(obj);
  4. jint* addr = (jint *) index_oop_from_field_offset_long(p, offset);
  5. return (jint)(Atomic::cmpxchg(x, addr, e)) == e;
  6. UNSAFE_END

jdk8u: atomic_linux_x86.inline.hpp
is_MP = Multi Processor

  1. inline jint Atomic::cmpxchg (jint exchange_value, volatile jint* dest, jint compare_value) {
  2. int mp = os::is_MP();
  3. __asm__ volatile (LOCK_IF_MP(%4) "cmpxchgl %1,(%3)"
  4. : "=a" (exchange_value)
  5. : "r" (exchange_value), "a" (compare_value), "r" (dest), "r" (mp)
  6. : "cc", "memory");
  7. return exchange_value;
  8. }

jdk8u: os.hpp is_MP()

  1. static inline bool is_MP() {
  2. // During bootstrap if _processor_count is not yet initialized
  3. // we claim to be MP as that is safest. If any platform has a
  4. // stub generator that might be triggered in this phase and for
  5. // which being declared MP when in fact not, is a problem - then
  6. // the bootstrap routine for the stub generator needs to check
  7. // the processor count directly and leave the bootstrap routine
  8. // in place until called after initialization has ocurred.
  9. return (_processor_count != 1) || AssumeMP;
  10. }

jdk8u: atomic_linux_x86.inline.hpp

  1. #define LOCK_IF_MP(mp) "cmp $0, " #mp "; je 1f; lock; 1: "

最终实现
cmpxchg = cas修改变量值

  1. lock cmpxchg 指令 //记住这条指令

cmpxchg不能保证原子性,lock保证了原子性(当执行cmpxchg指令时,其他CPU不允许对里面的值进行修改)
硬件
lock指令在执行后面指令的时候锁定一个北桥信号(电信号)
(不采用锁总线的方式)

CAS在JAVA中底层的实现是通过 lock cmpxchg来实现的 volatile和synchronized的实现也都跟这条指令有关

3.3 原子性与可见性区别


4 CopyOnWriteArrayList

CopyOnWriteArrayList 类的所有可变操作(add,set等等)都是通过创建底层数组的新副本来实现的。当 List 需要被修改的时候,并不直接修改原有数组对象,而是对原有数据进行一次拷贝,将修改的内容写入副本中。写完之后,再将修改完的副本替换成原来的数据,这样就可以保证写操作不会影响读操作了。

从 CopyOnWriteArrayList 的名字可以看出,CopyOnWriteArrayList 是满足 CopyOnWrite 的 ArrayList,所谓 CopyOnWrite 的意思:、就是对一块内存进行修改时,不直接在原有内存块中进行写操作,而是将内存拷贝一份,在新的内存中进行写操作,写完之后,再将原来指向的内存指针指到新的内存,原来的内存就可以被回收。

CopyOnWriteArrayList 读取和写入源码简单分析

  1. CopyOnWriteArrayList 读取操作的实现

读取操作没有任何同步控制和锁操作,理由就是内部数组 array 不会发生修改,只会被另外一个 array 替换,因此可以保证数据安全。

  1. /** The array, accessed only via getArray/setArray. */
  2. private transient volatile Object[] array;
  3. public E get(int index) {
  4. return get(getArray(), index);
  5. }
  6. @SuppressWarnings("unchecked")
  7. private E get(Object[] a, int index) {
  8. return (E) a[index];
  9. }
  10. final Object[] getArray() {
  11. return array;
  12. }
  1. CopyOnWriteArrayList 写入操作的实现

CopyOnWriteArrayList 写入操作 add() 方法在添加集合的时候加了锁,保证同步,避免多线程写的时候会 copy 出多个副本。

  1. /**
  2. * Appends the specified element to the end of this list.
  3. *
  4. * @param e element to be appended to this list
  5. * @return {@code true} (as specified by {@link Collection#add})
  6. */
  7. public boolean add(E e) {
  8. final ReentrantLock lock = this.lock;
  9. lock.lock(); // 加锁
  10. try {
  11. Object[] elements = getArray();
  12. int len = elements.length;
  13. Object[] newElements = Arrays.copyOf(elements, len + 1); // 拷贝新数组
  14. newElements[len] = e;
  15. setArray(newElements);
  16. return true;
  17. } finally {
  18. lock.unlock(); // 释放锁
  19. }
  20. }

5 ConcurrentHashMap

ConcurrentHashMap 同步容器类是Java 5 增加的一个线程安全的哈希表。对于多线程的操作,介于 HashMap 与 Hashtable 之间。内部采用“锁分段” 机制替代 Hashtable 的独占锁,进而提高性能

1 锁粒度

减小锁粒度是指缩小锁定对象的范围,从而减小锁冲突的可能性,从而提高系统的并发能力。减小锁粒度是一种削弱多线程锁竞争的有效手段,这种技术典型的应用是 ConcurrentHashMap(高性能的HashMap)类的实现。对于 HashMap 而言,最重要的两个方法是 get 与 set 方法,如果我们对整个 HashMap 加锁,可以得到线程安全的对象,但是加锁粒度太大。Segment 的大小也被称为 ConcurrentHashMap 的并发度

2 锁分段

ConcurrentHashMap,它内部细分了若干个小的 HashMap,称之为段(Segment)
默认情况下 一个 ConcurrentHashMap 被进一步细分为 16 个段,既就是锁的并发度
如果需要在 ConcurrentHashMap 中添加一个新的表项,并不是将整个 HashMap 加锁,而是首先根据 hashcode 得到该表项应该存放在哪个段中,然后对该段加锁,并完成 put 操作。在多线程 环境中,如果多个线程同时进行put操作,只要被加入的表项不存放在同一个段中,则线程间可以做到真正的并行

注:上为 JDK1.7 中 ConcurrentHashMap 的实现方式,而到了JDK1.8改为和HashMap结构类似,只是加了volatile CAS synchronize

3 其它

此包还提供了设计用于多线程上下文中的 Collection 实现
ConcurrentHashMap、ConcurrentSkipListMap、ConcurrentSkipListSet、 CopyOnWriteArrayList 和 CopyOnWriteArraySet

  • 当期望许多线程访问一个给定 collection 时,ConcurrentHashMap 通常优于同步的 HashMap, ConcurrentSkipListMap 通常优于同步的 TreeMap(第一,它们的线程安全机制不同,TreeMap是非线程安全的,而ConcurrentSkipListMap是线程安全的。第二,ConcurrentSkipListMap是通过跳表实现的,而TreeMap是通过红黑树实现的)
  • 当期望的读数和遍历远远 大于列表的更新数时,CopyOnWriteArrayList 优于同步的 ArrayList。

    4 写入并复制

    注意:添加操作多时,效率低,因为每次添加时都会进行复制,开销非常的大。并发迭代操作多时可以选择 ```java public class TestCopyOnWriteArrayList { public static void main(String[] args) {
    1. HelloThread ht = new HelloThread();
    2. for (int i = 0; i < 10; i++) {
    3. new Thread(ht).start();
    4. }
    } }

class HelloThread implements Runnable{ private static List list = Collections.synchronizedList(new ArrayList()); // private static CopyOnWriteArrayList list = new CopyOnWriteArrayList<>(); static{ list.add(“AA”); list.add(“BB”); list.add(“CC”); }

  1. @Override
  2. public void run() {
  3. Iterator<String> it = list.iterator();
  4. while(it.hasNext()){
  5. System.out.println(it.next());
  6. list.add("AA");
  7. }
  8. }

}

  1. 运行会造成并发修改异常**ConcurrentModificationException**。遍历的列表和添加的都是同一个
  2. ```java
  3. //private static List<String> list = Collections.synchronizedList(new ArrayList<String>());
  4. private static CopyOnWriteArrayList<String> list = new CopyOnWriteArrayList<>();

这样不会报错,正常运行。因为在每次写入时,都会在底层完成一次复制,复制一份新的列表,然后再进行添加。每次写入都会复制。不会造成并发修改异常,但是效率较低。
添加操作多时,效率低,因为每次添加时都会进行复制,开销非常的大。并发迭代操作多时可以选择


6 CountDownLatch(闭锁)

5.1 概念

CountDownLatch(闭锁)——一个同步辅助类,在完成一组正在其他线程中执行的操作之前,它允许一个或多个线程一直等待。CountDown(倒数)latch(锁)
用给定的计数 初始化 CountDownLatch。由于调用了 countDown() 方法,所以在当前计数到达零之前,await 方法会一直受阻塞。之后,会释放所有等待的线程,await 的所有后续调用都将立即返回。这种现象只出现一次——计数无法被重置。 一个线程(或者多个), 等待另外N个线程完成某个事情之后才能执行。
闭锁可以延迟线程的进度直到其到达终止状态,闭锁可以用来确保某些活 动直到其他活动都完成才继续执行

  • 确保某个计算在其需要的所有资源都被初始化之后才继续执行;
  • 确保某个服务在其依赖的所有其他服务都已经启动之后才启动;
  • 等待直到某个操作所有参与者都准备就绪再继续执行。

    5.2 方法介绍

    CountDownLatch最重要的方法是**countDown()**——倒数 和 **await()**,前者主要是倒数一次,后者是等待倒数到0,如果没有到达0,就只有阻塞等待了 ```java // 统计50个线程执行的时间,必须等50个线程执行完了才能计时,这就用到闭锁 class LatchDemo implements Runnable { private CountDownLatch latch;

    public LatchDemo(CountDownLatch latch) {

    1. this.latch = latch;

    }

    @Override public void run() {

    1. try {
    2. for (int i = 0; i < 50000; i++) {
    3. if (i % 2 == 0) {
    4. System.out.println(i);
    5. }
    6. }
    7. } finally {
    8. latch.countDown(); // 每次执行完-1,放在finally里确保每次都执行
    9. }

    } }

public class TestCountDownLatch {

  1. public static void main(String[] args) {
  2. // 每次有个线程执行完-1,设置初始值50
  3. final CountDownLatch latch = new CountDownLatch(50);
  4. LatchDemo ld = new LatchDemo(latch);
  5. long start = System.currentTimeMillis();
  6. for (int i = 0; i < 50; i++) {
  7. new Thread(ld).start();
  8. }
  9. try {
  10. latch.await(); // 50个线程执行完,才继续执行main线程
  11. } catch (InterruptedException e) {
  12. }
  13. long end = System.currentTimeMillis();
  14. System.out.println("耗费时间为:" + (end - start));
  15. }

} ```

7 CyclicBarrier

集齐七颗龙珠才能召唤神龙

8 Semaphore

争车位 秒杀


9 BlockingQueue

image.png

ArrayBlockingQueue

数组构成的有界阻塞队列

LinkedBlockingDeque

链表构成的有界阻塞队列,但界是Integer.MAX_VALUE

SynchronousQueue

不存储元素的阻塞队列,即单元素阻塞队列

DelayQueue

使用优先级队列实现的无界阻塞队列

PriorityBlockingQueue

支持优先级的无界阻塞队列

LinkedTransferQueue

链表构成的无界阻塞队列

LinkedBlockingDeque

链表构成的双向无界阻塞队列