介绍 AQS
AQS(AbstractQueuedSynchronizer)是 Java 并发包中,实现各种同步组件的根底。比方
- 各种锁:ReentrantLock、ReadWriteLock、StampedLock
- 各种线程同步工具类:CountDownLatch、CyclicBarrier、Semaphore
- 线程池中的 Worker
Lock 接口的实现根本都是通过聚合了一个 AQS 的子类来实现线程访问控制的。
Doug Lea 已经介绍过 AQS 的设计初衷。从原理上,一种同步组件往往是能够利用其余的组件实现的,例如能够应用 Semaphore 实现互斥锁。然而,对某种同步组件的偏向,会导致简单、艰涩的实现逻辑,所以,他抉择了将根底的同步相干操作形象在 AbstractQueuedSynchronizer 中,利用 AQS 为咱们构建同步组件提供了范本。
如何应用 AQS
利用 AQS 实现一个同步组件,咱们至多要实现两类根本的办法,别离是:
- 获取资源,须要实现 tryAcquire(int arg) 办法
- 开释资源,须要实现 tryRelease(int arg) 办法
如果须要共享式获取 / 开释资源,须要实现对应的 tryAcquireShared(int arg)、tryReleaseShared(int arg)
AQS 应用的是模板办法设计模式。AQS 办法的修饰符很有法则,其中,应用 protected 润饰的办法为形象办法,通常须要子类去实现,从而实现不同的同步组件;应用 public 润饰的办法根本能够认为是模板办法,不倡议子类间接笼罩。
通过调用 AQS 的 acquire(int arg) 办法能够获取资源,该办法会调用 protected 润饰的 tryAcquire(int arg) 办法,因而咱们须要在 AQS 的子类中实现 tryAcquire(int arg),tryAcquire(int arg) 办法的作用是:获取资源。
以后线程获取资源并执行了相应逻辑之后,就须要开释资源,使得后续节点可能持续获取资源。通过调用 AQS 的 release(int arg) 办法能够开释资源,该办法会调用 protected 润饰的 tryRelease(int arg) 办法,因而咱们须要在 AQS 的子类中实现 tryRelease(int arg),tryRelease(int arg) 办法的作用是:开释资源。
AQS 的实现原理
从实现角度剖析 AQS 是如何实现线程访问控制。
AQS 的实现原理能够从 同步阻塞队列、获取资源时的执行流程、开释资源时的执行流程 这 3 个方面介绍。
同步阻塞队列
AQS 依赖外部的同步阻塞队列(一个 FIFO 双向队列)来实现资源的治理。
同步阻塞队列的工作机制:
- 节点:同步阻塞队列中的节点(Node)用来保留获取资源失败的线程援用、期待状态以及前驱和后继节点,没有胜利获取资源的线程将会成为节点退出同步阻塞队列的尾部,同时会阻塞以后线程(Java 线程处于 WAITING 状态,开释 CPU 的使用权)。
- 首节点:同步阻塞队列遵循 FIFO(先进先出),首节点是获取资源胜利的节点,首节点的线程在开释资源时,将会唤醒后继节点,使其再次尝试获取资源,而后继节点将会在获取资源胜利时将本人设置为首节点。
static final class Node { /** * Marker to indicate a node is waiting in shared mode */ static final AbstractQueuedSynchronizer.Node SHARED = new AbstractQueuedSynchronizer.Node(); /** * Marker to indicate a node is waiting in exclusive mode */ static final AbstractQueuedSynchronizer.Node EXCLUSIVE = null; /** * waitStatus value to indicate thread has cancelled */ static final int CANCELLED = 1; /** * waitStatus value to indicate successor's thread needs unparking */ static final int SIGNAL = -1; /** * waitStatus value to indicate thread is waiting on condition */ static final int CONDITION = -2; /** * waitStatus value to indicate the next acquireShared should * unconditionally propagate */ static final int PROPAGATE = -3; // 期待状态 volatile int waitStatus; // 前驱节点 volatile AbstractQueuedSynchronizer.Node prev; // 后继节点 volatile AbstractQueuedSynchronizer.Node next; /** * The thread that enqueued this node. Initialized on * construction and nulled out after use. */ volatile Thread thread; // 条件期待队列的后继节点 AbstractQueuedSynchronizer.Node nextWaiter; /** * Returns true if node is waiting in shared mode. */ final boolean isShared() { return nextWaiter == SHARED; } /** * Returns previous node, or throws NullPointerException if null. * Use when predecessor cannot be null. The null check could * be elided, but is present to help the VM. * * @return the predecessor of this node */ final AbstractQueuedSynchronizer.Node predecessor() throws NullPointerException { AbstractQueuedSynchronizer.Node p = prev; if (p == null) throw new NullPointerException(); else return p; } Node() { // Used to establish initial head or SHARED marker } Node(Thread thread, AbstractQueuedSynchronizer.Node mode) { // Used by addWaiter this.nextWaiter = mode; this.thread = thread; } Node(Thread thread, int waitStatus) { // Used by Condition this.waitStatus = waitStatus; this.thread = thread; }}
期待状态
在节点中用 volatile int waitStatus 属性示意节点的期待状态。
节点有如下几种期待状态:
- CANCELLED,值为 1,因为在同步阻塞队列中期待的线程期待超时或者被中断,须要从同步阻塞队列中勾销期待,节点进人该状态将不会变动
- SIGNAL,值为 -1,后继节点的线程处于期待状态,而以后节点的线程如果开释了同步状态或者被勾销,将会告诉后继节点,使后继节点的线程得以运行
- CONDITION,值为 -2,节点在条件期待队列中,节点线程期待在 Condition 上,当其余线程对Condition 调用了 signal() 办法后,该节点将会从条件期待队列转移到同步阻塞队列中,退出到对同步状态的获取中
- PROPAGATE,值为 -3,示意下一次共享式同步状态获取将会无条件地被流传上来
- INITIAL,值为 0,初始状态
获取资源、开释资源的执行流程,论断后行:
- 在获取资源时,获取资源失败的线程都会被退出到同步阻塞队列中,并在队列中进行自旋;移出队列(或进行自旋)的条件是前驱节点为头节点且胜利获取了资源。
- 在开释资源时,AQS 调用 tryRelease(int arg) 办法开释资源,而后唤醒头节点的后继节点。
获取资源
上面来介绍获取资源时的执行流程。
调用 AQS 的 acquire(int arg) 办法能够获取资源。
acquire(int arg) 办法是独占式获取资源,它调用流程如下图所示。
用文字描述 acquire(int arg) 办法的调用流程:首先调用自定义 AQS 实现的 tryAcquire(int arg) 办法,该办法的作用是尝试获取资源:
- 如果获取资源胜利,则间接从 acquire(int arg) 办法返回
- 如果获取资源失败,则结构节点,并将该节点退出到同步阻塞队列的尾部,最初调用 acquireQueued(Node node,int arg) 办法,使得该节点以“死循环”的形式尝试获取资源。只有以后节点的前驱节点是头节点,能力尝试获取资源。
- 如果以后节点的前驱节点是头节点,并且获取资源胜利,则设置以后节点为头节点,并从 acquireQueued(Node node,int arg) 办法返回
- 如果以后节点的前驱节点不是头节点 或者 获取资源失败,则阻塞以后线程,线程被唤醒后继续执行该循环操作
acquireQueued(Node node,int arg) 办法的调用过程也被称为“自旋过程”。
自旋是什么意思是呢?我的了解就是:自旋就是一个死循环,循环执行某个操作序列,直到满足某个条件才退出循环。
/** * Acquires in exclusive mode, ignoring interrupts. Implemented * by invoking at least once {@link #tryAcquire}, * returning on success. Otherwise the thread is queued, possibly * repeatedly blocking and unblocking, invoking {@link * #tryAcquire} until success. This method can be used * to implement method {@link Lock#lock}. * * @param arg the acquire argument. This value is conveyed to * {@link #tryAcquire} but is otherwise uninterpreted and * can represent anything you like. */public final void acquire(int arg) { if (!tryAcquire(arg) && acquireQueued(addWaiter(Node.EXCLUSIVE), arg)) selfInterrupt();}
acquire(int arg) 的次要逻辑是:
首先调用自定义 AQS 实现的 tryAcquire(int arg) 办法,该办法保障线程平安的获取资源:
- 如果获取资源胜利,则间接从 acquire(int arg) 办法返回
- 如果获取资源失败,则结构同步节点(独占式 Node.EXCLUSIVE,同一时刻只能有一个线程胜利获取资源)并通过 addWaiter(Node node) 办法将该节点退出到同步阻塞队列的尾部,最初调用 acquireQueued(Node node,int arg) 办法,使得该节点以“死循环”的形式获取资源。如果获取不到则阻塞节点中的线程,而被阻塞线程的唤醒次要依附 前驱节点的出队 或 阻塞线程被中断 来实现。
/** * Acquires in exclusive uninterruptible mode for thread already in * queue. Used by condition wait methods as well as acquire. * * @param node the node * @param arg the acquire argument * @return {@code true} if interrupted while waiting */final boolean acquireQueued(final Node node, int arg) { boolean failed = true; try { boolean interrupted = false; for (;;) { final Node p = node.predecessor(); if (p == head && tryAcquire(arg)) { setHead(node); p.next = null; // help GC failed = false; return interrupted; } if (shouldParkAfterFailedAcquire(p, node) && parkAndCheckInterrupt()) interrupted = true; } } finally { if (failed) cancelAcquire(node); }}
在 acquireQueued(final Node node,int arg) 办法中,以后线程在“死循环”中尝试获取资源,而只有前驱节点是头节点才可能尝试获取资源,这是为什么?起因有两个,如下。
- 第一,头节点是胜利获取到资源的节点,而头节点的线程开释了资源之后,将会唤醒其后继节点,后继节点的线程被唤醒后须要查看本人的前驱节点是否是头节点。
- 第二,保护同步阻塞队列的 FIFO 准则。
开释资源
以后线程获取资源并执行了相应逻辑之后,就须要开释资源,使得后续节点可能持续获取资源。
上面来介绍开释资源时的执行流程。
通过调用 AQS 的 release(int arg) 办法能够开释资源,该办法在开释资源之后,会唤醒头节点的后继节点,进而使后继节点从新尝试获取资源。
/** * Releases in exclusive mode. Implemented by unblocking one or * more threads if {@link #tryRelease} returns true. * This method can be used to implement method {@link Lock#unlock}. * * @param arg the release argument. This value is conveyed to * {@link #tryRelease} but is otherwise uninterpreted and * can represent anything you like. * @return the value returned from {@link #tryRelease} */public final boolean release(int arg) { if (tryRelease(arg)) { Node h = head; if (h != null && h.waitStatus != 0) unparkSuccessor(h); return true; } return false;}
release(int arg) 办法执行时,会唤醒头节点的后继节点线程, unparkSuccessor(Node node) 办法应用 LockSupport#unpark() 办法来唤醒处于期待状态的线程。
共享式 获取 & 开释 资源
下面讲的是独占式获取 / 开释 资源。
共享式获取与独占式获取最次要的区别在于:同一时刻是否有多个线程同时获取到资源。以文件的读写为例,如果一个程序在对文件进行读操作,那么这一时刻对于该文件的写操作均被阻塞,而读操作可能同时进行。写操作要求对资源的独占式拜访,而读操作能够是共享式拜访。
- 共享式拜访资源时,其余共享式的拜访均被容许,独占式拜访被阻塞
- 独占式拜访资源时,同一时刻其余拜访均被阻塞
共享式获取资源
调用 AQS 的 acquireShared(int arg) 办法能够共享式地获取资源。
在 acquireShared(int arg) 办法中,AQS 调用 tryAcquireShared(int arg) 办法尝试获取资源, tryAcquireShared(int arg) 办法返回值为 int 类型,当返回值 >= 0 时,示意可能获取到资源。
能够看到,在 doAcquireShared(int arg) 办法的自旋过程中,如果以后节点的前驱为头节点时,能力尝试获取资源,如果获取资源胜利(返回值 >= 0),则设置以后节点为头节点,并从自旋过程中退出。
public final void acquireShared(int arg) { if (tryAcquireShared(arg) < 0) doAcquireShared(arg);}private void doAcquireShared(int arg) { final Node node = addWaiter(Node.SHARED); boolean failed = true; try { boolean interrupted = false; for (;;) { final Node p = node.predecessor(); if (p == head) { int r = tryAcquireShared(arg); if (r >= 0) { setHeadAndPropagate(node, r); p.next = null; // help GC if (interrupted) selfInterrupt(); failed = false; return; } } if (shouldParkAfterFailedAcquire(p, node) && parkAndCheckInterrupt()) interrupted = true; } } finally { if (failed) cancelAcquire(node); }}
共享式开释资源
调用 releaseShared(int arg) 办法能够开释资源。该办法在开释资源之后,会唤醒头节点的后继节点,进而使后继节点从新尝试获取资源。
对于可能反对多个线程同时拜访的并发组件(比方 Semaphore),它和独占式次要区别在于 tryReleaseShared(int arg) 办法必须确保资源平安开释,因为开释资源的操作会同时来自多个线程。 确保资源平安开释个别是通过循环和 CAS 来保障的。
public final boolean releaseShared(int arg) { if (tryReleaseShared(arg)) { doReleaseShared(); return true; } return false;}
独占式超时获取资源
调用 AQS 的 doAcquireNanos(int arg,long nanosTimeout) 办法能够超时获取资源,即在指定的时间段内获取资源,如果获取资源胜利则返回 true,否则返回 false。
该办法提供了传统 Java 同步操作(比方 synchronized 关键字)所不具备的个性。
在剖析该办法的实现前,先介绍一下响应中断的获取资源过程。
- 在 Java 5 之前,当一个线程获取不到锁而被阻塞在 synchronized 之外时,对该线程进行中断操作,此时该线程的中断标记位会被批改,但线程依旧会阻塞在 synchronized 上,期待着获取锁。
- 在 Java 5 中,AQS 提供了 acquireInterruptibly(int arg) 办法,这个办法在期待获取资源时,如果以后线程被中断,会立即返回,并抛出 InterruptedException。
acquire(int arg) 办法对中断不敏感,也就是因为线程获取资源失败后进入同步阻塞队列中,后续对线程进行中断操作时,线程不会从同步阻塞队列中移出。
超时获取资源过程能够被视作响应中断获取资源过程的“增强版”,doAcquireNanos(int arg,long nanosTimeout) 办法在反对响应中断的根底上,减少了超时获取的个性。
针对超时获取,次要须要计算出须要睡眠的工夫距离 nanosTimeout,为了避免过早告诉, nanosTimeout 计算公式为:nanosTimeout -= now - lastTime,其中 now 为以后唤醒工夫, lastTime 为上次唤醒工夫,如果 nanosTimeout 大于 0 则示意超时工夫未到,须要持续睡眠 nanosTimeout 纳秒,反之,示意曾经超时。
public final boolean tryAcquireNanos(int arg, long nanosTimeout) throws InterruptedException { if (Thread.interrupted()) throw new InterruptedException(); return tryAcquire(arg) || doAcquireNanos(arg, nanosTimeout);}/** * Acquires in exclusive timed mode. * * @param arg the acquire argument * @param nanosTimeout max wait time * @return {@code true} if acquired */private boolean doAcquireNanos(int arg, long nanosTimeout) throws InterruptedException { if (nanosTimeout <= 0L) return false; final long deadline = System.nanoTime() + nanosTimeout; final Node node = addWaiter(Node.EXCLUSIVE); boolean failed = true; try { for (;;) { final Node p = node.predecessor(); if (p == head && tryAcquire(arg)) { setHead(node); p.next = null; // help GC failed = false; return true; } nanosTimeout = deadline - System.nanoTime(); if (nanosTimeout <= 0L) return false; if (shouldParkAfterFailedAcquire(p, node) && nanosTimeout > spinForTimeoutThreshold) LockSupport.parkNanos(this, nanosTimeout); if (Thread.interrupted()) throw new InterruptedException(); } } finally { if (failed) cancelAcquire(node); }}
该办法在自旋过程中,当节点的前驱节点为头节点时尝试获取资源,如果胜利获取资源则从该办法返回,这个过程和独占式同步获取的过程相似,然而在获取资源失败的解决上有所不同。
如果以后线程获取资源失败,则判断是否超时(nanosTimeout 小于等于 0 示意曾经超时),如果没有超时,则从新计算超时距离 nanosTimeout,而后使以后线程期待 nanosTimeout 纳秒(当已到设置的超时工夫,该线程会从 LockSupport.parkNanos(Object blocker,long nanos)办法返回)。
如果 nanosTimeout 小于等于 spinForTimeoutThreshold(1000 纳秒)时,将不会使该线程进行超时期待,而是进入疾速的自旋过程。起因在于,十分短的超时期待无奈做到非常准确,如果这时再进行超时期待,相同会让 nanosTimeout 的超时从整体上体现得反而不准确。因而,在超时十分短的场景下,AQS 会进入无条件的疾速自旋。
独占式超时获取资源的流程如下所示。
从图中能够看出,独占式超时获取资源 doAcquireNanos(int arg,long nanosTimeout) 和独占式获取资源 acquire(int args)在流程上十分类似,其次要区别在于:未获取到资源时的解决逻辑。
acquire(int args) 在未获取到资源时,将会使以后线程始终处于期待状态,而 doAcquireNanos(int arg,long nanosTimeout) 会使以后线程期待 nanosTimeout 纳秒,如果以后线程在 nanosTimeout 纳秒内没有获取到资源,将会从期待逻辑中主动返回。
Condition 的实现原理
技术是为了解决问题而生的,通过 Condition 咱们能够实现期待 / 告诉性能。
ConditionObject 是 AQS 的外部类。每个 Condition 对象都蕴含着一个条件期待队列,这个条件期待队列是 Condition 对象实现期待 / 告诉性能的要害。
上面咱们剖析 Condition 的实现原理,次要包含:条件期待队列、期待 和 告诉。
上面提到的 Condition 如果不加阐明均指的是 ConditionObject。
条件期待队列
Condition 依赖外部的条件期待队列(一个 FIFO 双向队列)来实现期待 / 告诉性能。
条件期待队列的工作机制:
- 节点:条件期待队列中的每个节点(Node)都蕴含一个线程援用,该线程就是在 Condition 对象上期待的线程,如果一个线程调用了 Condition.await()办法,那么该线程将会开释资源、结构成为节点退出条件期待队列的尾部,同时线程状态变为期待状态。
事实上,条件期待队列中的节点定义复用了 AQS 节点的定义,也就是说,同步阻塞队列和条件期待队列中节点类型都是 AQS 的动态外部类 AbstractQueuedSynchronizer.Node。
在 Object 的监视器模型上,一个对象领有一个同步阻塞队列和一个条件期待队列,而并发包中的 Lock(更确切地说是 AQS)领有一个同步阻塞队列和多个条件期待队列。
期待
上面来介绍让线程期待的执行流程。
调用 Condition 的 await() 办法(或者以 await 结尾的办法),将会使以后线程开释资源、结构成为节点退出条件期待队列的尾部,同时线程状态变为期待状态。
如果从队列(同步阻塞队列和条件期待队列)的角度看 await()办法,当调用 await() 办法时,相当于同步阻塞队列的首节点(获取到锁的节点)挪动到 Condition 的条件期待队列中。并且同步阻塞队列的首节点并不会间接退出条件期待队列,而是通过 addConditionWaiter() 办法把以后线程结构成一个新的节点,将其退出条件期待队列中。
/** * Implements interruptible condition wait. * <ol> * <li> If current thread is interrupted, throw InterruptedException. * <li> Save lock state returned by {@link #getState}. * <li> Invoke {@link #release} with saved state as argument, * throwing IllegalMonitorStateException if it fails. * <li> Block until signalled or interrupted. * <li> Reacquire by invoking specialized version of * {@link #acquire} with saved state as argument. * <li> If interrupted while blocked in step 4, throw InterruptedException. * </ol> */public final void await() throws InterruptedException { if (Thread.interrupted()) throw new InterruptedException(); Node node = addConditionWaiter(); int savedState = fullyRelease(node); int interruptMode = 0; while (!isOnSyncQueue(node)) { LockSupport.park(this); if ((interruptMode = checkInterruptWhileWaiting(node)) != 0) break; } if (acquireQueued(node, savedState) && interruptMode != THROW_IE) interruptMode = REINTERRUPT; if (node.nextWaiter != null) // clean up if cancelled unlinkCancelledWaiters(); if (interruptMode != 0) reportInterruptAfterWait(interruptMode);}
告诉
上面来介绍唤醒期待线程的执行流程。
调用 Condition 的 signal() 办法,将会唤醒在条件期待队列中等待时间最长的节点(首节点),在唤醒节点之前,会将以后节点从条件期待队列挪动到同步阻塞队列中。
条件期待队列中的节点被唤醒后,被唤醒的线程以“死循环”的形式尝试获取资源。胜利获取资源之后,被唤醒的线程将从先前调用的 await() 办法返回。
如果被唤醒的线程不是通过其余线程调用 Condition.signal() 办法唤醒,而是对期待线程进行中断,则会抛出InterruptedException。
被唤醒的线程,将从 await() 办法中的 while 循环中退出(isOnSyncQueue(Node node) 办法返回 true,节点曾经在同步阻塞队列中),进而调用 AQS 的 acquireQueued() 办法以“死循环”的形式尝试获取资源。胜利获取资源之后,被唤醒的线程将从先前调用的 await() 办法返回。
Condition 的 signalAll() 办法,相当于对条件期待队列中的每个节点均执行一次 signal() 办法,成果就是将条件期待队列中所有节点全副挪动到同步阻塞队列中,并唤醒每个节点的线程。
尽管是把每个节点的线程都唤醒了,这些线程须要尝试获取资源, 然而只有一个线程可能胜利获取资源,而后从 await() 办法返回;其余获取资源失败的线程又都会被退出到同步阻塞队列中,并在队列中进行自旋;移出队列(或进行自旋)的条件是前驱节点为头节点且胜利获取了资源。
/** * Moves the longest-waiting thread, if one exists, from the * wait queue for this condition to the wait queue for the * owning lock. * * @throws IllegalMonitorStateException if {@link #isHeldExclusively} * returns {@code false} */public final void signal() { if (!isHeldExclusively()) throw new IllegalMonitorStateException(); Node first = firstWaiter; if (first != null) doSignal(first);}/** * Removes and transfers nodes until hit non-cancelled one or * null. Split out from signal in part to encourage compilers * to inline the case of no waiters. * @param first (non-null) the first node on condition queue */private void doSignal(Node first) { do { if ( (firstWaiter = first.nextWaiter) == null) lastWaiter = null; first.nextWaiter = null; } while (!transferForSignal(first) && (first = firstWaiter) != null);}
参考资料
《Java并发编程艺术》第5章:Java 中的锁