1 Java 内存模型

JMM(Java Memory Model),是一种基于计算机内存模型(定义了共享内存零碎中多线程程序读写操作行为的标准)并屏蔽了各种硬件和操作系统的拜访差别,保障了Java程序在各种平台下对内存的拜访都能保障成果统一的机制及标准。

Java内存模型形容了Java程序中各种变量(线程共享变量)的拜访规定,以及在JVM中将变量存储到内存和从内存中读取出变量这样的底层细节。

在Java中,所有实例域、动态域和数组元素都存储在堆内存中,堆内存在线程之间共享。因为线程的工作内存是线程公有内存,线程间无奈相互拜访对方的工作内存。所以线程 0 、线程 1 和线程 2须要读写主内存的共享变量时,就都先将该共享变量拷贝(load)到本人的工作内存,而后在本人的工作内存中对该变量进行所有操作,线程工作内存对变量正本实现操作之后再将后果同步(save)至主内存

JMM存在三大个性:原子性可见性有序性

原子性

保障指令不会受到线程上下文切换的影响。对共享内存的操作必须是要么全副执行直到执行完结,且两头过程不能被任何内部因素打断,要么就不执行。

可见性

保障指令不会受 CPU缓存的影响。多线程操作共享内存时,执行后果可能及时的同步到共享内存,确保其余线程对此后果可见。

有序性

保障指令不会受CPU指令并行优化的影响。程序的执行程序依照代码程序执行,在单线程环境下,程序的执行都是有序的;然而在多线程环境下,JMM 为了性能优化,编译器和处理器会对指令进行重排,程序的执行会变成无序。

1.1 可见性

在上面案例中,main 线程中run变量的批改对于子线程不可见,导致子线程无奈进行:

public class Test {    static boolean run = true;    public static void main(String[] args) throws InterruptedException {        Thread t = new Thread(() -> {            while (run) {            }        });        System.out.println(t.isAlive());        t.start();        System.out.println(t.isAlive());        Thread.sleep(1000);        run = false; // 线程t不会如料想的停下来    }}

运行后果:

falsetrue

不难剖析:

  1. 初始状态, t 线程刚开始从主内存读取了run的值到工作内存。
  2. 因为t线程频繁地从主存中读取run的值,JIT即时编译器会将run的值缓存至本人工作内存中的高速缓存中,缩小对主存中run的拜访以提高效率。
  3. 1 秒之后,main 线程批改了run的值,并同步至主内存,而 t线程仍是从本人工作内存中的高速缓存中读取这个变量。
    的值,后果永远是旧值。

对于这个问题,咱们能够应用sychronized关键字解决。

public class Test2 {    static boolean run = true;    final static Object lock = new Object();    public static void main(String[] args) throws InterruptedException {        Thread thread = new Thread(() -> {            while (true) {                synchronized (lock) {                    if (!run) {                        break;                    }                }            }        });        thread.start();        Thread.sleep(1);        synchronized (lock) {            run = false;        }    }}

synchronized 语句块既能够保障代码块的原子性,也同时保障代码块内变量的可见性。但毛病是synchronized 是重量级锁,性能绝对更低。

1.2 初识volatile

下面问题也能够用volatile关键字解决。

volatile(示意易变关键字的意思),它能够用来润饰成员变量和动态成员变量,它要求线程必须从主内存中获取变量的值。线程操作 volatile 变量都是间接操作主内存。

public class Test {    volatile static boolean run = true;    public static void main(String[] args) throws InterruptedException {        Thread t = new Thread(() -> {            while (run) {            }        });        t.start();        Thread.sleep(1000);        run = false; // 线程t会停下来    }}

volatile体现的就是JMM的可见性,volatile保障的是在多个线程之间,一个线程对 volatile 变量的批改对另一个线程可
见, 但不能保障多线程的原子性,仅用在一个写线程,多个读线程的状况。 上例从字节码了解是这样的:

getstatic run // 线程 t 获取 run truegetstatic run // 线程 t 获取 run truegetstatic run // 线程 t 获取 run truegetstatic run // 线程 t 获取 run trueputstatic run // 线程 main 批改 run 为 false, 仅此一次getstatic run // 线程 t 获取 run false 。

1.3 有序性

1.3.1 重排序

JVM 会在不影响正确性的前提下,能够调整语句的执行程序,例如上面代码:

static int i;static int j;// 在某个线程内执行如下赋值操作i = ...;j = ...; 

能够看到,至于是先执行 i 还是 先执行 j ,对最终的后果不会产生影响。所以,下面代码真正执行时,既能够是

i = ...;j = ...;// 或者j = ...;i = ...; 

这种个性称之为重排序,重排序次要分3种类型。

(1)编译器优化的重排序。编译器在不扭转单线程程序语义的前提下,能够重新安排语句的执行程序。

(2)指令级并行的重排序。古代处理器采纳了指令级并行技术(ILP)来将多条指令重叠执行。如果不存在数据依赖性,处理器能够扭转语句对应机器指令的执行程序。

(3)内存零碎的重排序。因为处理器应用缓存和读/写缓冲区,这使得加载和存储操作看上去可能是在乱序执行。

上述的1属于编译器重排序,2和3属于处理器重排序。这些重排序可能会导致多线程程序呈现内存可见性问题

对于编译器,JMM的编译器重排序规定会禁止特定类型的编译器重排序(不是所有的编译器重排序都要禁止)。

对于处理器重排序,JMM的处理器重排序规定会要求Java编译器在生成指令序列时,插入特定类型的内存屏障(Memory Barriers,Intel称之为Memory Fence)指令,通过内存屏障指令来禁止特定类型的处理器重排序。

指令重排序优化

事实上,古代处理器会设计为一个时钟周期实现一条执行工夫最长的 CPU 指令。为什么这么做呢?能够想到指令还能够再划分成一个个更小的阶段,例如,每条指令都能够分为: 取指令 - 指令译码 - 执行指令 - 内存拜访 - 数据写回这 5 个阶段。

术语参考:

instruction fetch (IF)

instruction decode (ID)

execute (EX)

memory access (MEM)

register write back (WB)

在不改变程序后果的前提下,这些指令的各个阶段能够通过重排序和组合来实现指令级并行,分阶段、分工正是晋升效率的要害!

反对流水线的处理器

古代 CPU 反对多级指令流水线,例如反对同时执行 取指令 - 指令译码 - 执行指令 - 内存拜访 - 数据写回 的处理器,就能够称之为五级指令流水线。这时 CPU 能够在一个时钟周期内,同时运行五条指令的不同阶段(相当于一 条执行工夫最长的简单指令),IPC = 1,实质上,流水线技术并不能缩短单条指令的执行工夫,但它变相地进步了 指令地吞吐率。

1.3.2 案例剖析

int num = 0;// volatile 润饰的变量,能够禁用指令重排 volatile boolean ready = false; 能够避免变量之前的代码被重排序boolean ready = false; // 线程1 执行此办法public void actor1(I_Result r) { if(ready) {     r.r1 = num + num; }  else {     r.r1 = 1; }}// 线程2 执行此办法public void actor2(I_Result r) { num = 2; ready = true;}

I_Result 是一个对象,有一个属性 r1 用来保留后果,可能的后果有几种?

状况1:线程1 先执行,这时 ready = false,所以进入 else 分支后果为 1。

状况2:线程2 先执行 num = 2,但没来得及执行 ready = true,线程1 执行,还是进入 else 分支,后果为1。

状况3:线程2 执行到 ready = true,线程1 执行,这回进入 if 分支,后果为 4。

状况4:线程2 执行 ready = true,切换到线程1,进入 if 分支,相加为 0,再切回线程2 执行 num = 2。

状况4呈现的在于呈现了指令重排,指令重排是 JIT 编译器在运行时的一些优化,这个景象须要通过大量测试能力复现,能够应用jcstress工具进行测试。下面仅是从代码层面体现出了有序性问题,上面在讲到 double-checked locking 问题时还会从java字节码的层面理解有序性的问题。

重排序也须要恪守肯定规定:

  1. 重排序操作不会对存在数据依赖关系的操作进行重排序。比方:a=1;b=a; 这个指令序列,因为第二个操作依赖于第一个操作,所以在编译时和处理器运行时这两个操作不会被重排序。
  2. 重排序是为了优化性能,然而不管怎么重排序,单线程下程序的执行后果不能被扭转。比方:a=1;b=2;c=a+b这三个操作,第一步(a=1)和第二步(b=2)因为不存在数据依赖关系,所以可能会产生重排序,然而c=a+b这个操作是不会被重排序的,因为须要保障最终的后果肯定是c=a+b=3。

重排序在单线程模式下是肯定会保障最终后果的正确性,然而在多线程环境下,问题就进去了。解决办法:volatile 润饰的变量,能够禁用指令重排

Tips:应用synchronized并不能解决所有有序性问题,然而变量齐全在synchronized代码块的爱护范畴内,那么变量就不会被多个线程同时操作,也不必思考有序性问题!

## 2 volatile原理

从上文可知,一旦一个共享变量(类的成员变量、类的动态成员变量)被volatile润饰之后,那么就具备了两层语义:

(1)保障了不同线程对这个变量进行操作时的可见性,即一个线程批改了某个变量的值,这新值对其余线程来说是立刻可见的。

(2)禁止进行指令重排序

Tips:对任意单个volatile变量的读/写具备原子性,但相似于volatile++这种复合操作不具备原子性。

JVM到底如何禁止重排序的呢?由此引出Java中的happen-before规定。

2.1 happens-before

JMM能够通过happens-before关系JMM能够通过happens-before关系向程序员提供跨线程的内存可见性保障

《JSR-133:Java Memory Model and Thread Specif ication》对happens-before关系的定义如下。

(1)如果一个操作happens-before另一个操作,那么第一个操作的所有执行后果将对第二个操作可见,而且第一个操作的执行程序个别排在第二个操作之前。

(2)两个操作之间存在happens-before关系,并不意味着Java平台的具体实现必须要依照happens-before关系指定的程序来执行。如果重排序之后的执行后果,与按happens-before关系来执行的后果统一,JMM容许这种重排序。

happens-before具体规定

(1)程序程序规定:一个线程内,依照代码程序,书写在后面的操作,happens-before 于书写在前面的操作。

(2)监视器锁规定:对一个锁的解锁,happens-before于随后对这个锁的加锁。

    // 线程解锁lock之前对变量的写,对于接下来对lock加锁的其它线程对该变量的读可见。    static int x;    static Object lock = new Object();    new Thread(()->{        synchronized(lock) {            x = 10;        }    },"t1").start();    new Thread(()->{        synchronized(lock) {             System.out.println(x);        }    },"t2").start();

(3)volatile变量规定:对一个volatile域的写,happens-before于任意后续对这个volatile域的读。

    volatile static int x;    public static void main(String[] args) {        new Thread(()->{            x = 10;        },"t1").start();        new Thread(()->{            System.out.println(x);        },"t2").start();    }

(4)传递性:如果A happens-before B,且B happens-before C,那么A happens-before C。

    // 具备传递性,如果 x hb-> y 并且 y hb-> z 那么有 x hb-> z ,配合 volatile 的防指令重排    volatile static int x;    static int y;        public static void main(String[] args) {        new Thread(() -> {            y = 10;            x = 20;        }, "t1").start();        new Thread(() -> {            // x=20 对 t2 可见, 同时 y=10 也对 t2 可见            System.out.println(x);        }, "t2").start();    }

(5)线程启动规定:如果线程A执行操作ThreadB.start()(启动线程B),那么A线程的ThreadB.start()操作happens-before于线程B中的任意操作。

   // 线程 start 前对变量的写,对该线程开始后对该变量的读可见         static int x;   x = 10;   new Thread(()->{      System.out.println(x);   },"t2").start();

(6)线程中断规定:对线程 interrupt 办法的调用,happens-before 被中断线程的代码检测到中断事件的产生。

    // 线程 t1 打断 t2(interrupt)前对变量的写,对于其余线程得悉t2被打断后对变量的读可见(通过    // t2.interrupted 或 t2.isInterrupted)    static int x;    public static void main(String[] args) {        Thread t2 = new Thread(()->{            while(true) {                if(Thread.currentThread().isInterrupted()) {                    System.out.println(x);                    break;                }            }        },"t2");        t2.start();        new Thread(()->{            try {                Thread.sleep(1);            } catch (InterruptedException e) {                e.printStackTrace();            }            x = 10;            t2.interrupt();        },"t1").start();        while(!t2.isInterrupted()) {            Thread.yield();        }        System.out.println(x);    }

(7)线程终结规定:如果线程A执行操作ThreadB. join()并胜利返回,那么线程B中的任意操作happens-before于线程A从ThreadB. join()操作胜利返回。

    // 线程完结前对变量的写,对其它线程得悉它完结后的读可见(比方其它线程调用 t1.isAlive() 或 t1.join()期待它完结)        static int x;    Thread t1 = new Thread(()->{     x = 10;    },"t1");    t1.start();    t1.join();    System.out.println(x);

(8)对象终结规定:一个对象的初始化实现,happens-before 它的 finalize() 办法的开始。

咱们着重看第三点 Volatile规定:对 volatile变量的写操作,happen-before 后续的读操作。

为了实现 volatile 内存语义,JMM会重排序,其规定如下:

是否能重排序第二个操作第二个操作第二个操作
第一个操作一般读/写Volatile读Volatile写
一般读/写No
Volatile读NoNoNo
Volatile写NoNo

当第二个操作是 volatile 写操作时,不论第一个操作是什么,都不能重排序

2.2 内存屏障

volatile 的底层实现原理是内存屏障(Memory Barrier/Memory Fence),上面这段话摘自《深刻了解Java虚拟机》:

“察看退出volatile关键字和没有退出volatile关键字时所生成的汇编代码发现,退出volatile关键字时,会多出一个lock前缀指令”。

lock前缀指令实际上相当于一个内存屏障(也成内存栅栏),内存屏障会提供3个性能:

(1)它确保指令重排序时不会把其前面的指令排到内存屏障之前的地位,也不会把后面的指令排到内存屏障的前面;即在执行到内存屏障这句指令时,在它后面的操作曾经全副实现。

(2)它会强制将对缓存的批改操作立刻写入主存。

(3)如果是写操作,它会导致其余CPU中对应的缓存行有效。

下图是实现happens-before规定所须要的内存屏障:

是否能重排序第二个操作第二个操作第二个操作第二个操作
第一个操作一般读一般写Volatile读Volatile写
一般读LoadStore
一般写StoreStore
Volatile读LoadLoadLoadStoreLoadLoadLoadStore
Volatile写StoreLoadStoreStore

(1)LoadLoad 屏障
执行程序:Load1—>Loadload—>Load2
确保Load2及后续Load指令加载数据之前能拜访到Load1加载的数据。

(2)StoreStore 屏障
执行程序:Store1—>StoreStore—>Store2
确保Store2以及后续Store指令执行前,Store1操作的数据对其它处理器可见。

(3)LoadStore 屏障
执行程序: Load1—>LoadStore—>Store2
确保Store2和后续Store指令执行前,能够拜访到Load1加载的数据。

(4)StoreLoad 屏障
执行程序: Store1—> StoreLoad—>Load2

案例剖析

还是以之前代码为例:

    int num = 0;                        // 共享变量num                                        // 依据程序程序规定,num happens-before ready    volatile boolean ready = false;        // volatile变量ready    // 线程1 执行此办法    public void actor1(I_Result r) {                                         // LoadLoad屏障        if(ready) {                        // ready是被volatile润饰的,读取值带LoadLoad屏障            r.r1 = num + num;        }        else {            r.r1 = 1;        }    }    // 线程2 执行此办法    public void actor2(I_Result r) {        num = 2;        ready = true;                    // ready是被volatile润饰的 ,赋值带LoadStore屏障                                        // LoadStore屏障    }

2.3 double-checked locking

上面以驰名的 double-checked locking 单例模式为例,这是volatile最常应用的中央。

实现单例模式时,如果未思考多线程的状况,就容易写出上面的代码:

public final class Singleton {    private Singleton() {    }    private static Singleton INSTANCE = null;    public static Singleton getInstance() {        // 首次拜访会同步,而之后的应用不必进入synchronized        synchronized (Singleton.class) {            if (INSTANCE == null) {                INSTANCE = new Singleton();            }        }        return INSTANCE;    }}

下面代码的问题在于,即便曾经产生了单实例之后,之后调用了getInstance()办法之后还是会加锁,这会重大影响性能!

双重查看锁(double checked locking)是对上述问题的一种优化。

public final class Singleton {    private Singleton() {    }        private static Singleton INSTANCE = null;        public static Singleton getInstance() {        if(INSTANCE == null) {            // 首次拜访会同步,而之后的应用没有 synchronized            synchronized(Singleton.class) {                if (INSTANCE == null) {                    INSTANCE = new Singleton();// error                }            }        }        return INSTANCE;    }}

如果这样写,运行程序就成了:

(1)查看变量是否被初始化(不去取得锁),如果已被初始化则立刻返回。

(2)获取锁。

(3)再次查看变量是否曾经被初始化,如果还没被初始化就初始化一个对象。

这样,除了初始化的时候会呈现加锁的状况,后续的所有调用都会防止加锁而间接返回,解决了性能耗费的问题。

上述写法看似解决了问题,但在多线程环境下,是有很大的隐患的。if(INSTANCE == null代码没有在同步代码块synchronized中,不能享有synchronized保障的原子性、可见性。

查看getInstance 办法对应的字节码为:

public static com.kai.demo.memory.Singleton getInstance();    descriptor: ()Lcom/kai/demo/memory/Singleton;    flags: ACC_PUBLIC, ACC_STATIC    Code:      stack=2, locals=2, args_size=0         0: getstatic     #2                  // 获取到INSTANCE动态变量         3: ifnonnull     37         6: ldc           #3                  // 取得Singleton.class类对象         8: dup                                  // 将类对象的援用地址复制了一份->长期类对象援用         9: astore_0                          // 长期类对象援用 -> 存入局部变量表slot 1中        10: monitorenter                      // 将类对象的Mark Word置为指向Monitor指针        11: getstatic     #2                  // 再次获取到INSTANCE动态变量        14: ifnonnull     27                          17: new           #3                  // 新建一个Singleton实例,实例对象援用入栈        20: dup                                  // 复制Singleton实例的援用->长期援用        21: invokespecial #4                  // 长期实例援用调用构造方法<init>        24: putstatic     #2                  // 实例的赋值操作        27: aload_0                              // 获取到长期类对象援用        28: monitorexit                          // 将lock对象的Mark Word重置,唤醒EntryList        29: goto          37        32: astore_1        33: aload_0        34: monitorexit        35: aload_1        36: athrow        37: getstatic     #2                  // return INSTANCE;        40: areturn        --- omit ---

次要来看17-24步:

  • 17:创立Singleton实例,将实例对象援用入栈
  • 20:复制一份对象援用(长期援用)
  • 21:利用长期援用,调用构造方法
  • 24:利用对象援用,赋值给动态INSTANCE

编译器为了性能优化,可能会将21和24进行重排序。如果两个线程 t1、t2 按工夫序列执行:

因为 0: getstatic 这行代码( if(INSTANCE == null))在 monitor 管制之外,t2能够越过 monitor 读取INSTANCE 变量的值。这时 t1 还未齐全将构造方法执行结束, t2 拿到的是将是一个未初始化结束的单例。

double-checked locking 解决办法

对 INSTANCE 应用 volatile 润饰即可。

public final class Singleton {    private Singleton() {    }        private static volatile Singleton INSTANCE = null;    public static Singleton getInstance() {        // 实例没创立,才会进入外部的 synchronized代码块        if (INSTANCE == null) {            synchronized (Singleton.class) { // t2                // 兴许有其它线程曾经创立实例,所以再判断一次                if (INSTANCE == null) { // t1                    INSTANCE = new Singleton();                }            }        }        return INSTANCE;    }}

字节码上看不出来 volatile 指令的成果:

// -------------------------------------> 退出对 INSTANCE 变量的LoadLoad屏障 0 getstatic #2 <com/kai/demo/memory/Singleton.INSTANCE> 3 ifnonnull 37 (+34) 6 ldc #3 <com/kai/demo/memory/Singleton> 8 dup 9 astore_010 monitorenter-----------------------> 保障原子性、可见性11 getstatic #2 <com/kai/demo/memory/Singleton.INSTANCE>14 ifnonnull 27 (+13)17 new #3 <com/kai/demo/memory/Singleton>20 dup21 invokespecial #4 <com/kai/demo/memory/Singleton.<init>>24 putstatic #2 <com/kai/demo/memory/Singleton.INSTANCE>// -------------------------------------> 退出对 INSTANCE 变量的LoadStore屏障27 aload_028 monitorexit-----------------------> 保障原子性、可见性29 goto 37 (+8)32 astore_133 aload_034 monitorexit35 aload_136 athrow37 getstatic #2 <com/kai/demo/memory/Singleton.INSTANCE>40 areturn

如下面的正文内容所示,读写 volatile 变量操作(即getstatic操作和putstatic操作)时会退出内存屏障(Memory Barrier(Memory Fence)),保障上面两点:

  1. 可见性

    (1)写屏障(sfence)保障在该屏障之前的 t1 对共享变量的改变,都同步到主存当中

    (1)而读屏障(lfence)保障在该屏障之后 t2 对共享变量的读取,加载的是主存中最新数据

  2. 有序性

    (1)写屏障会确保指令重排序时,不会将写屏障之前的代码排在写屏障之后

    (2)读屏障会确保指令重排序时,不会将读屏障之后的代码排在读屏障之前

  3. 更底层是读写变量时应用 lock 指令来多核 CPU 之间的可见性与有序性

参考资料

【JAVA学习笔记】多线程

JAVA并发编程的艺术

volatile原理解析

volatile关键字的作用、原理

Java 并发编程:volatile的应用及其原理