通过前面六篇文章,我们开启了一个简单的并发旅程,相信现在你对并发编程需要注意的问题已经有了更深入的理解,这是一个很大的进步,正所谓只有发现问题,才能解决问题。但是前面六篇文章的知识点可能还是有点分散,所以是时候将其总结一下了。
并发编程中我们需要注意的问题有很多,很庆幸前人已经帮我们总结过了,并发编程中我们需要注意的问题主要有三个方面,分别是:安全性问题、活跃性问题和性能问题。下面我就来一一介绍这些问题。

安全性问题

相信你一定听说过类似这样的描述:这个方法不是线程安全的,这个类不是线程安全的,等等。


那什么是线程安全呢?
线程安全的本质上就是正确性,而正确性的含义就是程序按照我们期望的执行,不要让我们感到意外。
第一篇《可见性、原子性和有序性问题:并发编程 Bug 的源头》中,我们已经见识过很多诡异的 Bug,都是出乎我们预料的,它们都没有按照我们期望的执行。


那如何才能写出线程安全的程序呢?
第一篇文章中已经介绍了并发 Bug 的三个主要源头:原子性问题、可见性问题和有序性问题。也就是说,理论上线程安全的程序,就要避免出现原子性问题、可见性问题和有序性问题。


那是不是所有的代码都需要认真分析一遍是否存在这三个问题呢?
当然不是,其实只有一种情况需要:存在共享数据并且该数据会发生变化,通俗地讲就是有多个线程会同时读写同一数据。那如果能够做到不共享数据或者数据状态不发生变化,就能够保证线程的安全性了。有不少技术方案都是基于这个理论的,例如:线程本地存储(Thread Local Storage,TLS)、不变模式等等,后面我会详细介绍相关的技术方案是如何在 Java 语言中实现的。

数据竞争

但是,现实生活中,必须共享会发生变化的数据,这样的应用场景还是很多的。
当多个线程同时访问同一数据,并且至少有一个线程会写这个数据的时候,如果我们不采取防护措施,那么就会导致并发 Bug,对此还有一个专业的术语,叫做数据竞争(Data Race)。比如,前面第一篇文章里有个 add10K() 的方法,当多个线程调用时候就会发生数据竞争,如下所示。

  1. public class Test {
  2. private long count = 0;
  3. void add10K() {
  4. int idx = 0;
  5. while (idx++ < 10000) {
  6. count += 1;
  7. }
  8. }
  9. }

竞态条件

那是不是在访问数据的地方,我们加个锁保护一下就能解决所有的并发问题了呢?
显然没有这么简单。例如,对于上面示例,我们稍作修改,增加两个被 synchronized 修饰的 get() 和 set() 方法, add10K() 方法里面通过 get() 和 set() 方法来访问 value 变量,修改后的代码如下所示。对于修改后的代码,所有访问共享变量 value 的地方,我们都增加了互斥锁,此时是不存在数据竞争的。但很显然修改后的 add10K() 方法并不是线程安全的。

  1. public class Test {
  2. private long count = 0;
  3. synchronized long get() {
  4. return count;
  5. }
  6. synchronized void set(long v) {
  7. count = v;
  8. }
  9. void add10K() {
  10. int idx = 0;
  11. while (idx++ < 10000) {
  12. set(get() + 1)
  13. }
  14. }
  15. }

假设 count=0,当两个线程同时执行 get() 方法时,get() 方法会返回相同的值 0,两个线程执行 get()+1 操作,结果都是 1,之后两个线程再将结果 1 写入了内存。你本来期望的是 2,而结果却是 1。
这种问题,有个官方的称呼,叫竞态条件(Race Condition)。
竞态条件,指的是:程序的执行结果依赖线程执行的顺序。
例如上面的例子:

  • 如果两个线程完全同时执行,那么结果是 1;
  • 如果两个线程是前后执行,那么结果就是 2。

在并发环境里,线程的执行顺序是不确定的,如果程序存在竞态条件问题,那就意味着程序执行的结果是不确定的,而执行结果不确定这可是个大 Bug。


下面再结合一个例子来说明下竞态条件,就是前面文章中提到的转账操作。
转账操作里面有个判断条件——转出金额不能大于账户余额,但在并发环境里面,如果不加控制,当多个线程同时对一个账号执行转出操作时,就有可能出现超额转出问题。假设账户 A 有余额 200,线程 1 和线程 2 都要从账户 A 转出 150,在下面的代码里,有可能线程 1 和线程 2 同时执行到第 6 行,这样线程 1 和线程 2 都会发现转出金额 150 小于账户余额 200,于是就会发生超额转出的情况。

  1. class Account {
  2. private int balance;
  3. // 转账
  4. void transfer(Account target, int amt) {
  5. if (this.balance > amt) {
  6. this.balance -= amt;
  7. target.balance += amt;
  8. }
  9. }
  10. }

所以你也可以按照下面这样来理解竞态条件。
在并发场景中,程序的执行依赖于某个状态变量,也就是类似于下面这样:

  1. if (状态变量 满足 执行条件) {
  2. 执行操作
  3. }

当某个线程发现状态变量满足执行条件后,开始执行操作;可是就在这个线程执行操作的时候,其他线程同时修改了状态变量,导致状态变量不满足执行条件了。当然很多场景下,这个条件不是显式的,例如前面 addOne 的例子中,set(get()+1) 这个复合操作,其实就隐式依赖 get() 的结果。


那面对数据竞争和竞态条件问题,又该如何保证线程的安全性呢?
其实这两类问题,都可以用互斥这个技术方案,而实现互斥的方案有很多,CPU 提供了相关的互斥指令,操作系统、编程语言也会提供相关的 API。从逻辑上来看,我们可以统一归为:锁。前面几章我们也粗略地介绍了如何使用锁,相信你已经胸中有丘壑了,这里就不再赘述了,你可以结合前面的文章温故知新。

我的疑问:数据竞争和静态条件有什么区别?

活跃性问题

所谓活跃性问题,指的是:某个操作无法执行下去。
我们常见的“死锁”就是一种典型的活跃性问题,当然除了死锁外,还有两种情况,分别是“活锁”和“饥饿”。

死锁

一不小心就死锁了,怎么办?

  1. class Account {
  2. private int balance;
  3. // 转账
  4. void transfer(Account target, int amt) {
  5. // 锁定转出账户
  6. synchronized (this) { // ①
  7. // 锁定转入账户
  8. synchronized (target) { // ②
  9. if (this.balance > amt) {
  10. this.balance -= amt;
  11. target.balance += amt;
  12. }
  13. }
  14. }
  15. }
  16. }

活锁

通过前面的学习你已经知道,发生“死锁”后线程会互相等待,而且会一直等待下去,在技术上的表现形式是线程永久地“阻塞”了。
但有时线程虽然没有发生阻塞,但仍然会存在执行不下去的情况,这就是所谓的“活锁”。
可以类比现实世界里的例子,路人甲从左手边出门,路人乙从右手边进门,两人为了不相撞,互相谦让,路人甲让路走右手边,路人乙也让路走左手边,结果是两人又相撞了。这种情况,基本上谦让几次就解决了,因为人会交流啊。可是如果这种情况发生在编程世界了,就有可能会一直没完没了地“谦让”下去,成为没有发生阻塞但依然执行不下去的“活锁”。


解决“活锁”的方案很简单,谦让时,尝试等待一个随机的时间就可以了。例如上面的那个例子:

  • 路人甲走左手边发现前面有人,并不是立刻换到右手边,而是等待一个随机的时间后,再换到右手边;
  • 同样,路人乙也不是立刻切换路线,也是等待一个随机的时间再切换。

由于路人甲和路人乙等待的时间是随机的,所以同时相撞后再次相撞的概率就很低了。
“等待一个随机时间”的方案虽然很简单,却非常有效,Raft 这样知名的分布式一致性算法中也用到了它。

  1. class Account {
  2. private int balance;
  3. private final Lock lock = new ReentrantLock();
  4. // 转账
  5. void transfer(Account tar, int amt) {
  6. while (true) {
  7. if (this.lock.tryLock()) {
  8. try {
  9. if (tar.lock.tryLock()) {
  10. try {
  11. this.balance -= amt;
  12. tar.balance += amt;
  13. } finally {
  14. tar.lock.unlock();
  15. }
  16. }
  17. } finally {
  18. this.lock.unlock();
  19. }
  20. }
  21. }
  22. }
  23. }

饥饿

那“饥饿”该怎么去理解呢?
“饥饿”指的是:线程因无法访问所需资源而无法执行下去的情况。

  • “不患寡,而患不均”,如果线程优先级“不均”,在 CPU 繁忙的情况下,优先级低的线程得到执行的机会很小,就可能发生线程“饥饿”;
  • 持有锁的线程,如果执行的时间过长,也可能导致“饥饿”问题。

解决“饥饿”问题的方案很简单,有三种方案:

  • 一是:保证资源充足(CPU 资源);
  • 二是:公平地分配资源(CPU 资源);
  • 三是:避免持有锁的线程长时间执行。

这三个方案中,方案一和方案三的适用场景比较有限,因为很多场景下,资源的稀缺性是没办法解决的,持有锁的线程执行的时间也很难缩短。倒是方案二的适用场景相对来说更多一些。


那如何公平地分配资源呢?
在并发编程里,主要是使用公平锁。所谓公平锁,是一种先来后到的方案,线程的等待是有顺序的,排在等待队列前面的线程会优先获得资源。

性能问题

使用“锁”要非常小心,但是如果小心过度,也可能出“性能问题”。
“锁”的过度使用可能导致串行化的范围过大,这样就不能够发挥多线程的优势了,而我们之所以使用多线程搞并发程序,为的就是提升性能。


所以我们要尽量减少串行,那串行对性能的影响是怎么样的呢?
假设串行百分比是 5%,我们用多核多线程相比单核单线程能提速多少呢?

我的疑问:串行百分比是 5% 是什么意思

作者在评论区的回复: 可以这么理解:临界区都是串行的,非临界区都是并行的,07 | 安全性、活跃性以及性能问题 - 图1就是串行百分比。

有个阿姆达尔(Amdahl)定律,代表了处理器并行运算之后效率提升的能力,它正好可以解决这个问题,具体公式如下:07 | 安全性、活跃性以及性能问题 - 图2
公式里的 n 可以理解为 CPU 的核数,p 可以理解为并行百分比,那(1-p)就是串行百分比了,也就是我们假设的 5%。我们再假设 CPU 的核数(也就是 n)无穷大,那加速比 S 的极限就是 20。
也就是说,如果我们的串行率是 5%,那么我们无论采用什么技术,最高也就只能提高 20 倍的性能。


所以使用锁的时候一定要关注对性能的影响。 那怎么才能避免锁带来的性能问题呢?
这个问题很复杂,Java SDK 并发包里之所以有那么多东西,很大一部分原因就是要提升在某个特定领域的性能。
不过从方案层面,我们可以这样来解决这个问题。
第一,既然使用锁会带来性能问题,那最好的方案自然就是使用无锁的算法和数据结构了。
在这方面有很多相关的技术,性能都非常好,例如:

  • 线程本地存储 (Thread Local Storage,TLS)
  • 写入时复制 (Copy-on-write)
  • 乐观锁
  • Java 并发包里面的原子类也是一种无锁的数据结构
  • Disruptor 是一个无锁的内存队列
  • ……

第二,减少锁持有的时间。
互斥锁本质上是将并行的程序串行化,所以要增加并行度,一定要减少持有锁的时间。这个方案具体的实现技术也有很多,例如:

  • 使用细粒度的锁,一个典型的例子就是 Java 并发包里的 ConcurrentHashMap,它使用了所谓分段锁的技术(这个技术后面我们会详细介绍);
  • 还可以使用读写锁,也就是读是无锁的,只有写的时候才会互斥。

性能方面的度量指标有很多,我觉得有三个指标非常重要,就是:吞吐量、延迟和并发量。

  1. 吞吐量:指的是单位时间内能处理的请求数量。吞吐量越高,说明性能越好。
  2. 延迟:指的是从发出请求到收到响应的时间。延迟越小,说明性能越好。
  3. 并发量:指的是能同时处理的请求数量,一般来说随着并发量的增加、延迟也会增加。所以延迟这个指标,一般都会是基于并发量来说的。例如并发量是 1000 的时候,延迟是 50 毫秒。

    我觉得:延迟是有两个方面导致的

    • 并发量
    • 请求的执行时间

总结

并发编程是一个复杂的技术领域:

  • 微观上涉及到原子性问题、可见性问题和有序性问题
  • 宏观则表现为安全性、活跃性以及性能问题。

我们在设计并发程序的时候,主要是从宏观出发,也就是要重点关注并发程序的安全性、活跃性以及性能。

  • 安全性方面要注意数据竞争和竞态条件;
  • 活跃性方面需要注意死锁、活锁、饥饿等问题;
  • 性能方面我们虽然介绍了两个方案,但是遇到具体问题,你还是要具体分析,根据特定的场景选择合适的数据结构和算法。

要解决问题,首先要把问题分析清楚。同样,要写好并发程序,首先要了解并发程序相关的问题,经过这 7 章的内容,相信你一定对并发程序相关的问题有了深入的理解,同时对并发程序也一定心存敬畏,因为一不小心就出问题了。不过这恰恰也是一个很好的开始,因为你已经学会了分析并发问题,然后解决并发问题也就不远了。

课后思考

Java 语言提供的 Vector 是一个线程安全的容器,有同学写了下面的代码,你看看是否存在并发问题呢?存在

  1. void addIfNotExist(Vector v, Object o) {
  2. if (!v.contains(o)) {
  3. v.add(o);
  4. }
  5. }