1 云原生时代Java语言的窘境

通过多年的演进，Java语言的性能和性能都在一直的倒退和进步，诸如即时编译器、垃圾回收器等零碎都能体现Java语言的优良，然而想要享受这些性能带来的晋升都须要一段时间的运行来达到最佳性能，总的来说Java是面向大规模、长时间应用的服务端利用而设计的。

云原生时代，Java语言一次编译到处运行的劣势不复存在，实践上应用容器化技术，所有语言都能部署上云，而无奈脱离JVM的Java利用往往要面对JDK内存占用比利用自身还大的困境；Java动静加载、卸载的个性也使得构建的利用镜像中有一半以上的无用代码和依赖这些都使得Java利用占用内存相当多。而启动工夫长，性能达到峰值的工夫长使得在Serverless等场景下无奈与Go、Node.js等疾速语言竞争。

Java应用程序的运行生命周期示意图

2 GraalVM

面对云原生时代Java的不适，GraalVM或者是最好的解药。GraalVM是Oracle实验室推出的基于Java开发的开源高性能多语言运行时平台，它既能够在传统的 OpenJDK 上运行，也能够通过 AOT（Ahead-Of-Time）编译成可执行文件独自运行，甚至能够集成至数据库中运行。除此之外，它还移除了编程语言之间的边界，并且反对通过即时编译技术，将混淆了不同的编程语言的代码编译到同一段二进制码之中，从而实现不同语言之间的无缝切换。

本文次要简略从三个方面介绍GraalVM能够为咱们带来的扭转：

1)基于Java的Graal Compiler的呈现对学习和钻研虚拟机代码编译技术有着不可估量的价值，相比C++编写的简单无比的服务端编译器，不论是对编译器的优化还是学习的老本都大大的升高。
2)动态编译框架Substrate VM框架，为Java在云原生时代提供了与其余语言竞争的可能，大大的缩小了Java利用占用内存，并且能够放慢启动速度几十倍。

3)以Truffle和Sulong为代表的两头语言解释器，开发者能够应用Truffle提供的API疾速用Java实现一种语言的解释器，从而实现了在JVM平台上运行其余语言的成果，为Java世界带来了更多更有想象力的可能性。


GraalVM多语言反对

3 GraalVM整体构造

graal
├── CONTRIBUTING.md
├── LICENSE
├── README.md
├── SECURITY.md
├── THIRD\_PARTY\_LICENSE.txt
├── bench-common.libsonnet
├── ci-resources.libsonnet
├── ci.hocon
├── ci.jsonnet
├── ci_includes
├── common-utils.libsonnet
├── common.hocon
├── common.json
├── common.jsonnet
├── compiler
├── docs
├── espresso
├── graal-common.json
├── java-benchmarks
├── regex
├── repo-configuration.libsonnet
├── sdk
├── substratevm
├── sulong
├── tools
├── truffle
├── vm
└── wasm

3.1 Compiler

Compiler子项目全称GraalVM编译器，是用Java语言编写的Java编译器。高编译效率、高输入品质、同时反对提前编译（AOT）和即时编译（JIT）、同时反对利用于包含HotSpot在内的不同虚拟机的编译器。

与C2采纳一样的两头示意模式（Sea of Nodes IR），后端优化上间接继承了大量来自于HotSpot的服务端编译器的高质量优化技术，是当初高校、研究院和企业编译钻研实际的次要平台。

Graal Compiler是GraalVM与HotSpotVM（从JDK10起）独特领有的服务端即时编译器，是C2编译器将来的替代者。为了让 Java 虚拟机与编译器解耦，ORACLE引入了Java-Level JVM Compiler Interface(JVMCI)Jep 243 ：把编译器从虚拟机中抽离进去，并且能够通过接口与虚拟机交换（https://openjdk.java.net/jeps/243）

具体来说，即时编译器与 Java 虚拟机的交互能够分为如下三个方面。

  1. 响应编译申请；
  2. 获取编译所需的元数据（如类、办法、字段）和反映程序执行状态的 profile；
  3. 将生成的二进制码部署至代码缓存（code cache）里。


oracle提供的编译工夫差别示例

3.2 Substrate VM

Substrate VM提供了将Java程序动态编译为本地代码的编译工具链，包含了编译框架、动态剖析工具、C++反对框架及运行时反对等。在程序运行前便将字节码转换为机器码

长处：

  1. 从指定的编译入口开始动态可达性剖析，无效的管制了编译范畴，解决了代码收缩的问题；
  2. 实现了多种运行时优化例如：传统的java类是在第一次被用到时初始化的，之后每次调用时还要再查看是否初始化过，GraalVM将其优化为在编译时初始化；
  3. 无需在运行过程中消耗CPU资源来进行即时编译，而程序也能在启动一开始就达到现实的性能；

毛病：

  1. 动态剖析是资源密集型计算，须要耗费大量CPU、内存和工夫；
  2. 动态剖析对反射、JNI、动静代理的剖析能力十分无限，目前GraalVM只能通过额定配置的形式加以解决；
  3. Java序列化也有多项违反封闭性假如的动静个性：反射，JNI，动静类载入，目前GraalVM也须要通过额定配置解决，且不能解决所有序列化，例如Lambda对象的序列化，而且性能是JDK的一半；

启动时长比照

占用内存比照

3.3 Truffle

咱们晓得个别编译器分为前端和后端，前端负责词法剖析、语法分析、类型检查和两头代码生成，后端负责编译优化和指标代码生成。一种比拟取巧的做法是将新语言编译成某种已知语言，如Scala、Kotlin能够编译成Java字节码，这样就能够间接享受JVM的JIT、GC等各项优化，这种做法都是针对的编译型语言。与之绝对的，如JavaScript、Ruby、R、Python等解释型语言，它们依赖于解释执行器进行解析并执行，为了让这类解释型语言可能更高效的执行，开发人员通常须要开发虚拟机，并实现垃圾回收，即时编译等组件，让该语言在虚拟机中执行，如Google的V8引擎。如果能让这些语言也能够在JVM上运行并复用JVM的各种优化计划，将会缩小许多反复造轮子的耗费。这也是Truffle我的项目的指标。

Truffle是一个用Java编写的解释器实现框架。它提供了解释器的开发框架接口，能够帮忙开发人员用Java为本人感兴趣的语言疾速开发处语言解释器，目前曾经实现并保护了JavaScript、Ruby、R、Python等语言。

只需基于Truffle实现相干语言的词法分析器、语法分析器及针对语法分析所生成的形象语法树（AST）的解释执行器，便能够运行在任何Java虚拟机上，享受JVM提供的各项运行时优化。

GraalVM多语言运行时性能减速比

3.3.1 Partial Evaluation

Truffle的实现原理基于Partial Evaluation这一概念：假如程序prog为将输出转为输入

其中Istatic为静态数据，在编译时已知常量，Idynamic为编译时未知数据，则能够将程序等价为：

新程序prog_为prog的特化，他应该会比原程序更高效的执行，这个从prog转换到prog_的过程便称为Partial Evaluation。咱们能够将Truffle预压的解释执行器当成prog，将某段由Truffle语言写的程序当做Istatic，并通过Partial Evaluation将prog转换到prog*。

上面援用一个Oracle官网的例子来解说，以下程序实现了读取参数以及参数相加的操作，须要实现读取三个参数相加：

这段程序解析生成的AST为

sample = new Add(new Add(new Arg(0), new Arg(1)), new Arg(2));

通过Partial Evaluator 的一直进行办法内联最终会变成下述代码：

3.3.2 节点重写

节点重写是Truffle的另一项要害优化。

在动静语言中许多变量的类型是在运行时能力确定的，以“加法”举例，符号+即能够示意整型相加也能够示意浮点型相加。Truffle的语言解释器会收集每个AST节点所代表的操作类型（profile），并且在编译时做出针对所收集到的profile进行优化，如：若收集到的profile显示这是一个整型加法操作，Truffle会在即时编译时将AST进行变形，将“+”视为整型加法。

当然，这种优化也会有谬误的时候，比方上述加法操作既有可能是整数加法也可能是字符串加法，此时若AST树已变形，那么咱们只好抛弃编译后的机器代码，回退到AST解释执行。这种基于类型 profile 的优化，背地的外围就是基于假如的投机性优化，以及在假如失败时的去优化。

在即时编译过后，如果运行过程中发现 AST 节点的理论类型和所假如的类型不同，Truffle 会被动调用 Graal 编译器提供的去优化 API，返回至解释执行 AST 节点的状态，并且从新收集 AST 节点的类型信息。之后，Truffle 会再次利用 Graal 编译器进行新一轮的即时编译。

据统计，在 JavaScript 办法和 Ruby 办法中，80% 会在 5 次办法调用后稳定下来，90% 会在 7 次调用后稳定下来，99%会在 19 次办法调用之后稳定下来。

3.4 Sulong

Sulong子项目是GraalVM为LLVM的两头语言bitcode提供的高新更运行时工具，是基于Truffle框架实现的bitcode解释器。Sulong为所有能够编译到LLVM bitcode的语言（如C，C++等）提供了在JVM中执行的解决方案。

4 参考

  • 林子熠 《GraalVM与动态编译》；
  • 周志明《深刻了解Java虚拟机》；
  • Java Developer’s Introduction to GraalVM:-郑雨迪
  • Truffle/Graal：From Interpreters toOptimizing Compilers via Partial Evaluation:-Carnegie Mellon University

作者：王子豪