关于后端:这样优化Spring-Boot启动速度快到飞起

0次阅读

共计 8072 个字符，预计需要花费 21 分钟才能阅读完成。

微服务用到一时爽，没用好就呵呵啦，特地是对于服务拆分没有把控好业务边界、拆分粒度过大等问题，某些 Spring Boot 启动速度太慢了，可能你也会有这种体验，这里将摸索一下对于 Spring Boot 启动速度优化的一些方方面面。

IDEA 自带集成了 async-profile 工具，所以咱们能够通过火焰图来更直观的看到一些启动过程中的问题，比方下图例子当中，通过火焰图来看大量的耗时在 Bean 加载和初始化当中。

图来自 IDEA 自带集成的 async-profile 工具，可在 Preferences 中搜寻 Java Profiler 自定义配置，启动应用 Run with xx Profiler。

y 轴示意调用栈，每一层都是一个函数，调用栈越深，火焰就越高，顶部就是正在执行的函数，下方都是它的父函数。

x 轴示意抽样数，如果一个函数在 x 轴占据的宽度越宽，就示意它被抽到的次数多，即执行的工夫长。

大部分的耗时应该都在业务太大或者蕴含大量的初始化逻辑，比方建设数据库连贯、Redis 连贯、各种连接池等等，对于业务方的倡议则是尽量减少不必要的依赖，能异步则异步。

Spring Boot 2.2 版本后引入 spring.main.lazy-initialization属性，配置为 true 示意所有 Bean 都将提早初始化。

能够肯定水平上进步启动速度，然而第一次拜访可能较慢。

spring.main.lazy-initialization=true

Spring5 之后版本提供了 spring-context-indexer 性能，次要作用是解决在类扫描的时候防止类过多导致的扫描速度过慢的问题。

应用办法也很简略，导入依赖，而后在启动类打上 @Indexed 注解，这样在程序编译打包之后会生成 META-INT/spring.components 文件，当执行 ComponentScan 扫描类时，会读取索引文件，进步扫描速度。

<dependency>
  <groupId>org.springframework</groupId>
  <artifactId>spring-context-indexer</artifactId>
  <optional>true</optional>
</dependency>

Spring Boot 2.2.X 版本以下默认会开启 JMX，能够应用 jconsole 查看，对于咱们无需这些监控的话能够手动敞开它。

spring.jmx.enabled=false

Java8 之后的版本，默认关上多层编译，应用命令 java -XX:+PrintFlagsFinal -version | grep CompileThreshold 查看。

Tier3 就是 C1、Tier4 就是 C2，示意一个办法解释编译 2000 次进行 C1 编译，C1 编译后执行 15000 次会进行 C2 编译。

咱们能够通过命令应用 C1 编译器，这样就不存在 C2 的优化阶段，可能进步启动速度，同时配合 -Xverify:none/ -noverify 敞开字节码验证，然而，尽量不要在线上环境应用。

-XX:TieredStopAtLevel=1 -noverify

下面介绍了一些从业务层面、启动参数之类的优化，上面咱们再看看基于 Java 利用自身有哪些路径能够进行优化。

在此之前，咱们回顾一下 Java 创建对象的过程，首先要进行类加载，而后去创建对象，对象创立之后就能够调用对象办法了，这样就还会波及到 JIT，JIT 通过运行时将字节码编译为本地机器码来进步 Java 程序的性能。

因而，上面波及到的技术将会概括以上波及到的几个步骤。

Jar 包其实实质上就是一个 ZIP 文件，当加载类的时候，咱们通过类加载器去遍历 Jar 包，找到对应的 class 文件进行加载，而后验证、筹备、解析、初始化、实例化对象。

JarIndex 其实是一个很古老的技术，就是用来解决在加载类的时候遍历 Jar 性能问题，早在 JDK1.3 的版本中就曾经引入。

假如咱们要在 A\B\C 3 个 Jar 包中查找一个 class，如果可能通过类型 com.C，立即推断出具体在哪个 jar 包，就能够防止遍历 jar 的过程。

A.jar
com/A

B.jar
com/B

C.jar
com/C

通过 Jar Index 技术，就能够生成对应的索引文件 INDEX.LIST。

com/A --> A.jar
com/B --> B.jar
com/C --> C.jar

不过对于当初的我的项目来说，Jar Index 很难利用：

通过 jar -i 生成的索引文件是基于 META-INF/MANIFEST.MF 中的 Class-Path 来的，咱们目前大多我的项目都不会波及到这个，所以索引文件的生成须要咱们本人去做额定解决
只反对 URLClassloader，须要咱们本人自定义类加载逻辑

App CDS 全称为 Application Class Data Sharing，次要是用于启动减速和节俭内存，其实早在在 JDK1.5 版本就曾经引入，只是在后续的版本迭代过程中在一直的优化降级，JDK13 版本中则是默认关上，晚期的 CDS 只反对 BootClassLoader，在 JDK8 中引入了 AppCDS，反对 AppClassLoader 和自定义的 ClassLoader。

咱们都晓得类加载的过程中随同解析、校验这个过程，CDS 就是将这个过程产生的数据结构存储到归档文件中，在下次运行的时候重复使用，这个归档文件被称作 Shared Archive，以 jsa 作为文件后缀。

在应用时，则是将 jsa 文件映射到内存当中，让对象头中的类型指针指向该内存地址。

让咱们一起看看怎么应用。

首先，咱们须要生成心愿在应用程序之间共享的类列表，也即是 lst文件。对于 Oracle JDK 须要退出 -XX:+UnlockCommercialFeature 命令来开启商业化的能力，openJDK 无需此参数，JDK13 的版本中将 1、2 两步合并为一步，然而低版本还是须要这样做。

java -XX:DumpLoadedClassList=test.lst

而后失去 lst 类列表之后，dump 到适宜内存映射的 jsa 文件当中进行归档。

java -Xshare:dump -XX:SharedClassListFile=test.lst -XX:SharedArchiveFile=test.jsa

最初，在启动时退出运行参数指定归档文件即可。

-Xshare:on -XX:SharedArchiveFile=test.jsa

须要留神的是，AppCDS 只会在蕴含所有 class 文件的 FatJar 失效，对于 SpringBoot 的嵌套 Jar 构造无奈失效，须要利用 maven shade plugin 来创立 shade jar。

<build>
  <finalName>helloworld</finalName>
  <plugins>
    <plugin>
      <groupId>org.apache.maven.plugins</groupId>
      <artifactId>maven-shade-plugin</artifactId>
      <configuration>
        <keepDependenciesWithProvidedScope>true</keepDependenciesWithProvidedScope>
        <createDependencyReducedPom>false</createDependencyReducedPom>
        <filters>
          <filter>
            <artifact>*:*</artifact>
            <excludes>
              <exclude>META-INF/*.SF</exclude>
              <exclude>META-INF/*.DSA</exclude>
              <exclude>META-INF/*.RSA</exclude>
            </excludes>
          </filter>
        </filters>
      </configuration>
      <executions>
        <execution>
          <phase>package</phase>
          <goals><goal>shade</goal></goals>
          <configuration>
            <transformers>
              <transformer implementation="org.apache.maven.plugins.shade.resource.AppendingTransformer">
                <resource>META-INF/spring.handlers</resource>
              </transformer>
              <transformer implementation="org.springframework.boot.maven.PropertiesMergingResourceTransformer">
                <resource>META-INF/spring.factories</resource>
              </transformer>
              <transformer implementation="org.apache.maven.plugins.shade.resource.AppendingTransformer">
                <resource>META-INF/spring.schemas</resource>
              </transformer>
              <transformer implementation="org.apache.maven.plugins.shade.resource.ServicesResourceTransformer" />
              <transformer implementation="org.apache.maven.plugins.shade.resource.ManifestResourceTransformer">
                <mainClass>${mainClass}</mainClass>
              </transformer>
            </transformers>
          </configuration>
        </execution>
      </executions>
    </plugin>
  </plugins>
</build>

而后依照上述的步骤应用才能够，然而如果我的项目过大，文件数大于 65535 启动会报错：

Caused by: java.lang.IllegalStateException: Zip64 archives are not supported

源码如下：

public int getNumberOfRecords() {long numberOfRecords = Bytes.littleEndianValue(this.block, this.offset + 10, 2);
  if (numberOfRecords == 0xFFFF) {throw new IllegalStateException("Zip64 archives are not supported");
}

在 2.2 及以上版本修复了这个问题，所以应用的时候尽量应用高版本能够防止此类问题的呈现。

JDK9 中引入了 HeapArchive，并且 JDK12 中被正式应用，咱们能够认为 Heap Archive 是对 APPCDS 的一个延长。

APPCDS 是长久化了类加载过程中验证、解析产生的数据，Heap Archive 则是类初始化(执行 static 代码块 cinit 进行初始化) 相干的堆内存的数据。

简略来讲，能够认为 HeapArchive 是在类初始化的时候通过内存映射长久化了一些 static 字段，防止调用类初始化器，提前拿到初始化好的类，进步启动速度。

咱们说过，JIT 是通过运行时将字节码编译为本地机器码，须要的时候间接执行，缩小了解释的工夫，从而进步程序运行速度。

下面咱们提到的 3 个进步利用启动速度的形式都能够归为类加载的过程，到真正创建对象实例、执行办法的时候，因为可能没有被 JIT 编译，在解释模式下执行的速度十分慢，所以产生了 AOT 编译的形式。

AOT(Ahead-Of-Time) 指的是程序运行之前产生的编译行为，他的作用相当于是预热，提前编译为机器码，缩小解释工夫。

比方当初 Spring Cloud Native 就是这样，在运行时间接动态编译成可执行文件，不依赖 JVM，所以速度十分快。

然而 Java 中 AOT 技术不够成熟，作为实验性的技术在 JDK8 之后版本默认敞开，须要手动关上。

java -XX:+UnlockExperimentalVMOptions -XX:AOTLibrary=

并且因为长期不足保护和调优这项技术，在 JDK 16 的版本中曾经被移除，这里就不再赘述了。

Spring Boot 在 2.3 版本中减少了新个性 优雅停机，反对 Jetty、Reactor Netty、Tomcat 和 Undertow，应用形式：

server:
  shutdown: graceful

# 最大等待时间
spring:
  lifecycle:
    timeout-per-shutdown-phase: 30s

如果低于 2.3 版本，官网也提供了低版本的实现计划，新版本中的实现根本也是这个逻辑，先暂停内部申请，敞开线程池解决残余的工作。

@SpringBootApplication
@RestController
public class Gh4657Application {public static void main(String[] args) {SpringApplication.run(Gh4657Application.class, args);
    }

    @RequestMapping("/pause")
    public String pause() throws InterruptedException {Thread.sleep(10000);
        return "Pause complete";
    }

    @Bean
    public GracefulShutdown gracefulShutdown() {return new GracefulShutdown();
    }

    @Bean
    public EmbeddedServletContainerCustomizer tomcatCustomizer() {return new EmbeddedServletContainerCustomizer() {

            @Override
            public void customize(ConfigurableEmbeddedServletContainer container) {if (container instanceof TomcatEmbeddedServletContainerFactory) {((TomcatEmbeddedServletContainerFactory) container)
                            .addConnectorCustomizers(gracefulShutdown());
                }

            }
        };
    }

    private static class GracefulShutdown implements TomcatConnectorCustomizer,
            ApplicationListener<ContextClosedEvent> {private static final Logger log = LoggerFactory.getLogger(GracefulShutdown.class);

        private volatile Connector connector;

        @Override
        public void customize(Connector connector) {this.connector = connector;}

        @Override
        public void onApplicationEvent(ContextClosedEvent event) {this.connector.pause();
            Executor executor = this.connector.getProtocolHandler().getExecutor();
            if (executor instanceof ThreadPoolExecutor) {
                try {ThreadPoolExecutor threadPoolExecutor = (ThreadPoolExecutor) executor;
                    threadPoolExecutor.shutdown();
                    if (!threadPoolExecutor.awaitTermination(30, TimeUnit.SECONDS)) {
                        log.warn("Tomcat thread pool did not shut down gracefully within"
                                + "30 seconds. Proceeding with forceful shutdown");
                    }
                }
                catch (InterruptedException ex) {Thread.currentThread().interrupt();}
            }
        }

    }

}

另外，对于客户端感知服务端下线工夫方面的问题，我在之前的文章有提及到。

Eureka 应用了三级缓存来保留服务的实例信息。

服务注册的时候会和 server 放弃一个心跳，这个心跳的工夫是 30 秒，服务注册之后，客户端的实例信息保留到 Registry 服务注册表当中，注册表中的信息会立即同步到 readWriteCacheMap 之中。

而客户端如果感知到这个服务，要从 readOnlyCacheMap 去读取，这个只读缓存须要 30 秒的工夫去从 readWriteCacheMap 中同步。

客户端和 Ribbon 负载平衡都放弃一个本地缓存，都是 30 秒定时同步。

依照下面所说，咱们来计算一下客户端感知到一个服务下线极其的状况须要多久。

客户端每隔 30 秒会发送心跳到服务端
registry 保留了所有服务注册的实例信息，他会和 readWriteCacheMap 放弃一个实时的同步，而 readWriteCacheMap 和 readOnlyCacheMap 会每隔 30 秒同步一次。
客户端每隔 30 秒去同步一次 readOnlyCacheMap 的注册实例信息
思考到如果应用 ribbon 做负载平衡的话，他还有一层缓存每隔 30 秒同步一次

如果说一个服务的失常下线，极其的状况这个工夫应该就是 30+30+30+30 差不多 120 秒的工夫了。

如果服务非正常下线，还须要靠每 60 秒执行一次的清理线程去剔除超过 90 秒没有心跳的服务，那么这里的极其状况可能须要 3 次 60 秒能力检测进去，就是 180 秒的工夫。

累计可能最长的感知工夫就是：180 + 120 = 300 秒，5 分钟的工夫。

解决方案当然就是改这些工夫。

批改 ribbon 同步缓存的工夫为 3 秒：ribbon.ServerListRefreshInterval = 3000

批改客户端同步缓存工夫为 3 秒：eureka.client.registry-fetch-interval-seconds = 3

心跳间隔时间批改为 3 秒：eureka.instance.lease-renewal-interval-in-seconds = 3

超时剔除的工夫改为 9 秒：eureka.instance.lease-expiration-duration-in-seconds = 9

清理线程定时工夫改为 5 秒执行一次：eureka.server.eviction-interval-timer-in-ms = 5000

同步到只读缓存的工夫批改为 3 秒一次：eureka.server.response-cache-update-interval-ms = 3000

如果依照这个工夫参数设置让咱们从新计算可能感知到服务下线的最大工夫：

失常下线就是 3+3+3+3=12 秒，非正常下线再加 15 秒为 27 秒。

OK，对于 Spring Boot 服务的启动、下线工夫的优化就聊到这里，然而我认为服务拆分足够好，代码写的更好一点，这些问题可能都不是问题了。

正文完

后端

发表至：后端

2022-07-21

0

关于后端:一周撸完K8S基础概念-Day1

关于后端:教育场景方案升级-打通业务前后端少量开发快速上线一互动小班

关于后端:求解-RMQ-的几种方式-递归分治线段树单调栈

关于后端:java-mysql实验室设备管理系统的设计与实现程序设计与实现源码论文答辩ppt

关于低代码:How-To-系列好友裂变平台搭建

关于后端:这样优化Spring-Boot启动速度快到飞起

启动工夫剖析

启动优化

缩小业务初始化

提早初始化

Spring Context Indexer

敞开 JMX

敞开分层编译

另外的思路

JAR Index

APPCDS

Heap Archive

AOT 编译

下线工夫优化

优雅下线

Eureka 服务下线工夫

完结

站内搜索