杰霸霸博客

主题

Synchronized锁升级 ​

1. 锁升级背景 ​

用锁能够实现数据的安全性，但是会带来性能下降。无锁能够基于线程并行提升程序性能，但是会带来安全性下降。

2. 锁升级过程 ​

Alt text

3. java5之前 ​

java只提供synchronized, 它是操作系统级别的重量级操作。线程的加锁和解锁都会涉及用户态和内核态的切换 Alt text java的线程是映射到操作系统原生线程之上的，如果要阻塞或唤醒一个线程就需要操作系统介入，需要在户态与核心态之间切换，这种切换会消耗大量的系统资源，因为用户态与内核态都有各自专用的内存空间，专用的寄存器等，用户态切换至内核态需要传递给许多变量、参数给内核，内核也需要保护好用户态在切换时的一些寄存器值、变量等，以便内核态调用结束后切换回用户态继续工作。
在Java早期版本中，synchronized属于重量级锁，效率低下，因为监视器锁(monitor)是依赖于底层的操作系统的Mutex Lock(系统互斥量)来实现的，挂起线程和恢复线程都需要转入内核态去完成，阻塞或唤醒一个Java线程需要操作系统切换CPU状态来完成，这种状态切换需要耗费处理器时间，如果同步代码块中内容过于简单，这种切换的时间可能比用户代码执行的时间还长”，时间成本相对较高，这也是为什么早期的synchronized效率低的原因。

4. Monitor对象 ​

在markWord.hpp中，Monitor是由ObjectMonitor实现, Monitor可以理解为一种同步工具，也可理解为一种同步机制，常常被描述为一个java对象。Java对象是天生的Monitor。 Alt text 而ObjectMonitor是在objectMonitor.cpp中实现：
Alt text Monitor的本质是依赖于底层操作系统的Mutex Lock实现，操作系统实现线程之间的切撕需要从用户态到内核态的转换，成本非常高。JVM中的同步就是基于进入和退出管程(Monitor).对象实现的。每个对象实例都会有一个Monitor, Monitor可以和对象一起创建、销毁。JVM中的同步就是基于进入和退出管程(Monitor)对象实现的。

Monitor与java对象以及线程是如何关联?

  1. 如果一个java对象被某个线程锁住，则java对象的Mark Word字段中LockWord指向monitor的起始地址
  2. Monitor的Owner字段会存放拥有相关联对象锁的线程id

当多个线程同时访问一段同步代码时，多个线程会先被存放在ContentionList和 _EntryList集合中，处于block状态的线程，都会被加入到该列表。接下来当线程获取到对象的Monitor时，Monitor是依靠底层操作系统的Mutex Lock来实现互斥的，线程申请Mutex成功，则持有该Mutex，其它线程将无法获取到该Mutex，竞争失败的线程会再次进入ContentionList被挂起。

5. java6之后 ​

Java6之后，为了减少获得锁和释放锁所带来的性能消耗，引入了轻量级锁和偏向锁。因此有了逐步锁升级的过程。

5.1 锁升级原理 ​

synchronized用的锁是存在Java对象头里的MarkWord中锁升级功能主要依赖MarkWord中锁标志位和释放偏向锁标志位：

  1. 偏向锁：MarkWord存储的是偏向的线程ID;
  2. 轻量锁：MarkWord存储的是指向线程栈中Lock Record的指针；
  3. 重量锁：MarkWord存储的是指向堆中的monitor对象的指针；

6. 无锁 ​

所谓无锁就是没有使用synchronized:

java
public class ObjectMemoryDemo {

    static class MyNumber{
    }
    public static void main(String[] args) throws InterruptedException {
        MyNumber myNumber = new MyNumber();
        int hashCode = myNumber.hashCode();
        System.out.println(hashCode);
        System.out.println(Integer.toHexString(hashCode));
        System.out.println(ClassLayout.parseInstance(myNumber).toPrintable());
    }
}

运行结果：
Alt text 其中最后两位0x01,表示末尾8bit为0000 00001, 也就是无锁(001)。中间的值就是hash值，总共长度是有40位，还有24位都是unused, 也就是0所以不显示。

7. 偏向锁(Biased Lock) ​

7.1 简介 ​

当线程A第一次竞争到锁时，通过操作修改Mark Word中的偏向线程ID、偏向模式。如果不存在其他线程竞争，那么持有偏向锁的线程将永远不需要进行同步。也就是当一段同步代码一直被同一个线程多次访问，由于只有一个线程那么该线程在后续访问时便会自动获得锁。

java
public static void main(String[] args) throws InterruptedException {
    Object o = new Object();
    synchronized (o){
        System.out.println(ClassLayout.parseInstance(o).toPrintable());
    }
}

运行的时候，JDK17需要加上JVM参数-XX:+UseBiasedLocking，执行结果如下： Alt text 其中0x0000021c082fa805中末尾的二进制表示为101, 也就是偏向锁。平时我们的代码很可能不是一个线程，比如下面这样：

java
public class ThreadBiasedLockDemo {

    static class Resource {

        private LongAdder longAdder = new LongAdder();

        Object o = new Object();
        public void buyTicket() {
            synchronized (o){
                System.out.println(ClassLayout.parseInstance(o).toPrintable());
                if (longAdder.longValue() < 151) {
                    longAdder.increment();
                    System.out.print(Thread.currentThread().getName() + ": 第" + longAdder.longValue() + "张票卖出！\t");
                    // 调整打印显示，方便查看
                    if(longAdder.longValue()%5==0){
                        System.out.println();
                    }
                }
            }
        }
    }

    public static void main(String[] args) throws InterruptedException {
        Resource resource = new Resource();
        Thread t1 = new Thread(() -> {
            for (int i = 0; i < 50; i++) {
                resource.buyTicket();
            }
        }, "t1");
        Thread t2 = new Thread(() -> {
            for (int i = 0; i < 50; i++) {
                resource.buyTicket();
            }
        }, "t2");
        Thread t3 = new Thread(() -> {
            for (int i = 0; i < 50; i++) {
                resource.buyTicket();
            }
        }, "t3");
        t1.start();
        t2.start();
        t3.start();
    }
}

运行的时候，不用加上使用偏向锁参数-XX:+UseBiasedLocking, 执行结果：
Alt text 会发现线程抢到锁是连续的，并不会出现频繁的线程更替，甚至出现线程全部执行完再执行下一个线程，出现这种现象非常普遍：
Hotspot的作者经过研究发现，大多数情况下：
多线程的情况下，锁不仅不存在多线程竞争，还存在锁由同一个线程多次获得的情况，偏向锁就是在这种情况下设计出现的，它的出现是为了解决只有在一个线程执行同步时提高性能。
偏向锁会偏向于第一个访问锁的线程，如果在接下来的运行过程中，该锁没有被其他的线程访问，则持有偏向锁的线程将永远不需要触发同步。也即偏向锁在资源没有竞争情况下消除了同步语句，懒的连CAS操作都不做了，直接提高程序性能。

7.2 理论落地 ​

在实际应用运行过程中发现，“锁总是同一个线程持有，很少发生竞争”，也就是说锁总是被第一个占用他的线程拥有，这个线程就是锁的偏向线程。那么只需要在锁第一次被拥有的时候，记录下偏向线程ID。这样偏向线程就一直持有着锁(后续这个线程进入和退出这段加了同步锁的代码块时，不需要再次加锁和释放锁。而是直接会去检查锁的MarkWord.里面是不是放的自己的线程ID)。

  1. 如果相等，表示偏向锁是偏向于当前线程的就不需要再尝试获得锁了，直到竞争发生才释放锁。以后每次同步，检查锁的偏向线程ID与当前线程ID是否一致，如果一致直接进入同步。无需每次加锁解锁都去CAS更新对象头。如果自始至终使用锁的线程只有一个，很明显偏向锁几乎没有额外开销，性能极高。
  2. 如果不等，表示发生了竞争，锁已经不是总是偏向于同一个线程了，这个时候会尝试使用CAS来替换MarkWord里面的线程ID为新线程的ID, 竞争成功，表示之前的线程不存在了，MarkWord里面的线程ID为新线程的ID, 锁不会升级，仍然为偏向锁；竞争失败，这时候可能需要升级变为轻量级锁，才能保证线程间公平竞争锁。

注意

偏向锁只有遇到其他线程尝试竞争偏向锁时，持有偏向锁的线程才会释放锁，线程是不会主动释放偏向锁的。

7.3 技术实现 ​

一个synchronized方法被一个线程抢到了锁时，那这个方法所在的对象就会在其所在的Mark Word中将偏向锁修改状态位，同时还会有占用前54位来存储线程指针作为标识。若该线程再次访问同一个synchronized方法时，该线程只需去对象头的Mark Word中去判断一下是否有偏向锁指向本身的ID,无需再进入Monitor去竞争对象了。 Alt text 比如一个account对象的“对象头”为例：
Alt text 假如有一个线程执行到synchronized代码块的时候，JVM使用CAS操作把线程指针lD记录到Mark Word当中，并修改标偏向标示，标示当前线程就获得该锁。锁对象变成偏向锁（通过CAS修改对象头里的锁标志位），字面意思是“偏向于第一个获得它的线程”的锁。执行完同步代码块后，线程并不会主动释放偏向锁。
Alt text 这时线程获得了锁，可以执行同步代码块。当该线程第二次到达同步代码块时会判断此时持有锁的线程是否还是自己（持有锁的线程D也在对象头里)，JVM通过account对象的Mark Word判断：当前线程ID还在，说明还持有着这个对象的锁，就可以继续进入临界区工作。由于之前没有释放锁，这里也就不需要重新加锁。如果自始至终使用锁的线程只有一个，很明显偏向锁几乎没有额外开销，性能极高。结论：JVM不用和操作系统协商设置Mutex(争取内核)，它只需要记录下线程ID就标示自己获得了当前锁，不用操作系统介入。上述就是偏向锁:在没有其他线程竞争的时候，一直偏向偏心当前线程，当前线程可以一直执行。

7.4 查看偏向锁 ​

在jdk17中执行命令：

sh
$ java -XX:+PrintFlagsInitial | grep BiasedLock*
intx BiasedLockingBulkRebiasThreshold         = 20                                        {product} {default}
intx BiasedLockingBulkRevokeThreshold         = 40                                        {product} {default}
intx BiasedLockingDecayTime                   = 25000                                     {product} {default}
intx BiasedLockingStartupDelay                = 0                                         {product} {default}
bool UseBiasedLocking                         = false                                     {product} {default}

在jdk8中BiasedLockingStartupDelay为4000也就是4s，需要注意不能启动直接使用偏向锁。另外可以看到在jdk17中UseBiasedLocking是关闭的，也就是默认没有开启偏向锁。

7.5 偏向锁撤销 ​

当有另外线程逐步来竞争锁的时候，就不能再使用偏向锁了，要升级为轻量级锁。竞争线程尝试CAS更新对象头失败，会等待到全局安全点(此时不会执行任何代码)撤销偏向锁。
偏向锁使用一种等到竞争出现才释放锁的机制，只有当其他线程竞争锁时，持有偏向锁的原来线程才会被撤销。撤销需要等待全局安全点（该时间点上没有字节码正在执行），同时检查持有偏向锁的线程是否还在执行：

  1. 第一个线程正在执行synchronized方法（处于同步块），它还没有执行完，其它线程来抢夺，该偏向锁会被取消掉并出现锁升级。此时轻量级锁由原持有偏向锁的线程持有，继续执行其同步代码，而正在竞争的线程会进入自旋等待获得该轻量级锁。
  2. 第一个线程执行完成synchronized方法（退出同步块），则将对象头设置成无锁状态并撤销偏向锁，重新偏向。 Alt text

7.6 整体流程 ​

Alt text

7.7 偏向锁被废弃 ​

在java15后，偏向锁被标记为过时，在后续版本中可能被移除。被废弃的核心原因是适用场景有限、维护成本高，且在现代应用和硬件环境下的实际收益远低于设计预期。JVM团队发现，移除偏向锁后，通过优化轻量级锁和重量级锁的逻辑（如减少 CAS 重试、优化锁膨胀时机），可在多数场景下达到甚至超过偏向锁的性能。

8. 轻量级锁 ​

当有另外一个线程竞争获取这个锁时，由于该锁已经是偏向锁，当发现对象头Mark Word中的线程ID不是自己的线程ID，就会进行CAS操作获取锁，如果获取成功，直接替换 Mark Word中的线程ID为自己的ID，该锁会保持偏向锁状态；如果获取锁失败，代表当前锁有一定的竞争，偏向锁将升级为轻量级锁。 Alt text 轻量级锁适用于线程交替执行同步块的场景，绝大部分的锁在整个同步周期内都不存在长时间的竞争。

8.1 背景 ​

轻量级锁是为了在线程近乎交替执行同步块时提高性能。
主要目的：在没有多线程竞争的前提下，通过CAS减少重量级锁使用操作系统互斥量产生的性能消耗，说白了先自旋，不行才升级阻塞。
升级时机：当关闭偏向锁功能或多线程竞争偏向锁会导致偏向锁升级为轻量级锁

8.2 轻量级锁获取 ​

假如线程A已经拿到锁，这时线程B又来抢该对象的锁，由于该对象的锁己经被线程A拿到，当前该锁己是偏向锁了。而线程B在争抢时发现对象头Mark Word中的线程ID不是线程B自己的线程ID(而是线程A),那线程B就会进行CAS操作希望能获得锁。
此时线程B操作中有两种情况：
如果锁获取成功，直接替换Mark Word中的线程ID为B自己的ID(A→B),重新偏向于其他线程（即将偏向锁交给其他线程，相当于当前线程"被"释放了锁)，该锁会保持偏向锁状态，A线程Over,B线程上位； Alt text 如果锁获取失败，则偏向锁升级为轻量级锁（设置偏向锁标识为0并设置锁标志位为00）此时轻量级锁由原持有偏向锁的线程持有，继续执行其同步代码，而正在竞争的线程B会进入自旋等待获得该轻量级锁！
Alt text JVM会为每个线程在当前线程的栈帧中创建用于存储锁记录的空间，官方成为Displaced Mark Word。若一个线程获得锁时发现是轻量级锁，会把锁的MarkWord复制到自己的Displaced Mark Word里面。然后线程尝试用CAS将锁的MarkWord替换为指向锁记录的指针。如果成功，当前线程获得锁，如果失败，表示Mark Word已经被替换成了其他线程的锁记录，说明在与其它线程竞争锁，当前线程就尝试使用自旋来获取锁。
自旋CAS: 不断尝试去获取锁，能不升级就不往上捅，尽量不要阻塞。

8.3 轻量级锁释放 ​

在释放锁时，当前线程会使用CAS操作将Displaced Mark Word的内容复制回锁的Mark Word里面。如果没有发生竞争，那么这个复制的操作会成功。如果有其他线程因为自旋多次导致轻量级锁升级成了重量级锁，那么CAS操作会失败，此时会释放锁并唤醒被阻塞的线程。
如果在jdk17中，默认关闭偏向锁，那么会直接进入轻量级锁, 运行下面代码：

java
public static void main(String[] args) throws InterruptedException {
    Object o = new Object();
    synchronized (o){
        System.out.println(ClassLayout.parseInstance(o).toPrintable());
    }
}

执行结果如下： Alt text

8.4 CAS自旋细节 ​

  1. java6之前：默认启用，并且自旋次数为10次，或者自旋的线程数目超过CPU核数的一半，使用-XX:PreBlockSpin=10来修改。
  2. java6之后：使用自适应自旋规则，线程如果自旋成功了，那下次自旋的最大次数会增加，因为JM认为既然上次成功了，那么这一次地很大概率会成功。反之，如果很少会自旋成功，那么下次会减少自旋的次数甚至不自旋，避免CPU空转。

8.5 偏向锁和轻量级锁区别 ​

  1. 争夺轻量级锁失败时，自旋尝试抢点锁。
  2. 轻量级锁每次退出同步块都需要释放锁，而偏向锁是在竞争发生时才释放锁。

9. 重量级锁 ​

自旋锁重试之后如果抢锁依然失败，同步锁就会升级至重量级锁，锁标志位改为10。在这个状态下，未抢到锁的线程都会进入Monitor(尝试获得owner属性)，之后会被阻塞在_WaitSet队列中。

9.1 重量级锁原理 ​

Alt text Java中synchronized的重量级锁，是基于进入和退出Monitor>对象实现的。在编译时会将同步块的开始位置插入monitor enter指令，在结束位置插入monitor exit指令。
当线程执行到monitor enter指令时，会尝试获取对象所对应的Monitor所有权，如果获取到了，即获取到了锁，会在Monitor的owner中存放当前线程的id,这样它将处于锁定状态，除非退出同步块，否则其他线程无法获取到这个Monitor。

9.2 代码实操 ​

重量级锁是这几个锁里面相对简单的，底层通过操作系统的信号量mutex实现：

java
 public static void main(String[] args) throws InterruptedException {
    Object o = new Object();
    new Thread(()->{
        synchronized (o){
            System.out.println(ClassLayout.parseInstance(o).toPrintable());
        }
    }, "t1").start();
    new Thread(()->{
        synchronized (o){
            System.out.println(ClassLayout.parseInstance(o).toPrintable());
        }
    }, "t2").start();
}

执行结果：
Alt text 其中0x000002ad4a8dc802中末尾就是10，也就是重量级锁。

10. hashCode存放位置 ​

  1. 在无锁状态下，Mark Word中可以存储对象的identity hash code值。当对象的hashCode()方法第一次被调用时，JVM会生成对应的identity hash code值并将该值存储到Mark Word中。
    这样当第一次计算哈希码之后，再次调用该方法取到的哈希码值在很多场景下水远不会再发生改变。因此当一个对象已经计算过一致性哈希码后，它就再也无法进入偏向锁状态了(Markword前面56bit已经被使用了)。
  2. 对于偏向锁，在线程获取偏向锁时，会用Thread ID和epoch值覆盖identity hash code所在的位置(可以理解把存储位置抢回来)。如果此时又收到需要计算其一致性哈希码请求时，它的偏向状态会被立即撒销，并且锁会膨胀为重量级锁。在重量级锁的实现中，对象头指向了重量级锁的位置，代表重量级锁的Obiect Monitor类里有字段可以记录非加锁状态（标志位为01"）下的Markword,其中自然可以存储原来的哈希码，从而达到一致性哈希码相同的效果。
  3. 升级为轻量级锁时，JVM会在当前线程的栈帧中创建一个锁记录(Lock Record)空间，用于存储锁对象的Mark Word拷贝，该拷贝中可以包含identity hash code,所以轻量级锁可以和identity hash code共存，哈希码和GC年龄自然保存在此，释放锁后会将这些信息写回到对象头。
  4. 升级为重量级锁后，Mark Word保存的重量级锁指针，代表重量级锁的ObjectMonitor类里有字段记录非加锁状态下的Mark Word,锁释放后也会将信息写回到对象头。
java
public static void main(String[] args) throws InterruptedException {
    Object o = new Object();
    synchronized (o) {
        // 默认是偏向锁
        System.out.println(ClassLayout.parseInstance(o).toPrintable());
    }
    o.hashCode();
    synchronized (o) {
        // 偏向锁升级为轻量级锁
        System.out.println(ClassLayout.parseInstance(o).toPrintable());
    }
}

运行的时候，JDK17需要加上JVM参数-XX:+UseBiasedLocking，执行结果如下： Alt text 调整代码，在持有偏向锁期间获取hashCode值的话：

java
public static void main(String[] args) throws InterruptedException {
    Object o = new Object();
    synchronized (o) {
        // 默认是偏向锁
        System.out.println(ClassLayout.parseInstance(o).toPrintable());
        o.hashCode();
        // 偏向锁升级为轻量级锁
        System.out.println(ClassLayout.parseInstance(o).toPrintable());
    }
}

运行的时候，JDK17需要加上JVM参数-XX:+UseBiasedLocking，执行结果如下： Alt text

11. 锁消除 ​

JIT编译器会忽略锁，比如下场景：

java
static Object objectLock = new Object();
public static void getTicket(){
    Object o = new Object();
    synchronized (o) {
        System.out.println("objectLock: "+objectLock.hashCode()+"\to: "+o.hashCode());
    }
}

public static void main(String[] args) throws InterruptedException {
    for (int i = 0; i < 10; i++) {
        new Thread(()->{
            getTicket();
        }).start();
    }
}

每个线程在getTicket()中都会获得各自的一把对象锁o, 多个线程不存在竞争关系。

12. 锁粗化 ​

假如方法中首尾相接，前后相邻的都是同一个锁对象，那JIT编译器就会把这几个synchronized块合并成一个大块，加粗加大范围，一次申请锁使用即可，避免次次的申请和释放锁，提升了性能。

java
public static void main(String[] args) throws InterruptedException {
    Object o = new Object();
    synchronized (o) {
        System.out.println("1111111111");
    }
    synchronized (o) {
        System.out.println("2222222222");
    }
    synchronized (o) {
        System.out.println("3333333333");
    }
    synchronized (o) {
        System.out.println("44444444444");
    }
    // JIT编译器优化为：
    synchronized (o) {
        System.out.println("1111111111");
        System.out.println("2222222222");
        System.out.println("3333333333");
        System.out.println("44444444444");
    }
}