在软件工程中,Tracing指应用特定的日志记录程序的执行信息,与之相近的还有两个概念,它们别离是Logging和Metrics。

  • Logging:用于记录离散的事件,蕴含程序执行到某一点或某一阶段的详细信息,比方,应用程序的调试(debug)信息或谬误(error)信息。它是咱们诊断问题的根据。
  • Metrics:用于记录可聚合的数据,且通常是固定类型的时序数据,每个都是一个逻辑计量单元,或者一个时间段内的柱状图,比方,队列的以后深度能够被定义为一个计量单元,在写入或读取时被更新统计;输出HTTP申请的数量能够被定义为一个计数器,用于简略累加;申请的执行工夫能够被定义为一个柱状图,在指定工夫片上更新和统计汇总。
  • Tracing:用于记录单次申请范畴内的解决信息,其中包含服务调用和解决时长等,比方,一次调用近程服务的RPC执行过程;一次理论的SQL查问语句;一次HTTP申请的业务性ID。它是咱们排查零碎性能问题的利器。

零碎架构从单体转变为微服务当前,一次申请往往波及到多个服务之间的调用。随着服务数量的增多和外部调用链的复杂化,仅凭借日志和性能监控很难做到 “See the Whole Picture”,在进行问题排查或是性能剖析的时候,无异于盲人摸象。

分布式追踪零碎(Tracing)旨在剖析申请背地调用了哪些服务,服务的调用程序、耗时、谬误起因等,帮忙开发者直观剖析申请链路,疾速定位性能瓶颈,逐步优化服务间依赖,也有助于开发者从更宏观的角度更好地了解整个分布式系统。

早在 2005 年,Google 就在外部部署了一套分布式追踪零碎 Dapper,并发表了一篇论文《Dapper, a Large-Scale Distributed Systems Tracing Infrastructure》,论述了该分布式追踪零碎的设计和实现,能够视为分布式追踪畛域的鼻祖。随后各大厂商纷纷落地了一些优良的分布式追踪零碎,比方Jaeger(Uber)、Zipkin(twitter)、X-ray(AWS)、SkyWalking等,但各家的分布式追踪计划很可能是互不兼容的,于是诞生了OpenTracing。

1. OpenTracing

OpenTracing是一个轻量级的标准化层,它位于<应用程序/类库>和<追踪或日志分析程序>之间,通过提供平台无关、厂商无关的API,使得开发人员可能不便的增加(或更换)追踪零碎的实现,解决不同的分布式追踪零碎API不兼容的问题,也使得在通用代码库减少对分布式追踪的反对成为可能。

  • 后盾无关的一套接口,被跟踪的服务只须要调用这套接口,就能够被任何实现这套接口的跟踪后盾(比方Zipkin, Jaeger等等)反对,而作为一个跟踪后盾,只有实现了个这套接口,就能够跟踪到任何调用这套接口的服务。
  • 标准化了对跟踪最小单位Span的治理:定义了开始Span,完结Span和记录Span耗时的API。
  • 标准化了过程间跟踪数据传递的形式:定义了一套API不便跟踪数据的传递。
  • 标准化了过程内以后Span的治理:定义了存储和获取以后Span的API。
  • 不对编码定规范:不对过程间传递的跟踪数据的编码定规范,不对向后盾发送的跟踪数据的编码定规范,让跟踪后盾本人决定最适宜他们的编码方式。

OpenTracing已进入 CNCF,正在为寰球的分布式追踪,提供对立的概念和数据规范,反对多种语言:https://github.com/opentracing。其中,OpenTracing API for Java:https://github.com/opentracin...

  • opentracing-api,是一个纯正的API没有任何依赖
  • opentracing-noop,实现了API,然而是空实现什么也不干,依赖opentracing-api
  • opentracing-util,蕴含了一个GlobalTracer和基于Thread_local的简略实现ScopeManager,依赖opentracing-api、opentracing-noop
  • opentracing-mock,mock测试,蕴含一个简略的MockTracer,将数据存储进内存,依赖opentracing-api、opentracing-noop、opentracing-util
  • opentracing-testbed,用于测试和尝试新个性

OpenTracing数据模型中有三个重要的互相关联的类型,别离是Tracer,Span和SpanContext。

  • Trace:一个残缺申请链路
  • Span:一次调用过程(须要有开始工夫和完结工夫)
  • SpanContext:Trace的全局上下文信息,如外面有traceId

Trace

一个Trace代表一个事务或者流程在(分布式)零碎中的执行过程。一条Trace(调用链)能够被认为是一个由多个Span组成的有向无环图(DAG),通过归属于此调用链的Span来隐性的定义。 

Tracer接口用来创立Span,以及解决如何解决Inject(serialize) 和 Extract (deserialize),用于跨过程边界传递。

Span

一个Span代表零碎中具备开始工夫和执行时长的逻辑运行单元。Span之间通过嵌套或者顺序排列建设逻辑因果关系。Span能够被了解为一次办法调用, 一个程序块的调用, 或者一次RPC/数据库拜访,只有是一个具备残缺工夫周期的程序拜访,都能够被认为是一个span。每个Span蕴含以下的状态:

  • An operation name,操作名称 
  • A start timestamp,起始工夫
  • A finish timestamp,完结工夫
  • Span Tag,一组键值对形成的Span标签汇合。键值对中,键必须为string,值能够是字符串,布尔,或者数字类型
  • Span Log,一组span的日志汇合。每次log操作蕴含一个键值对,以及一个工夫戳。键值对中,键必须为string,值能够是任意类型
  • SpanContext,Span上下文对象
  • References,Span间关系,目前定义了两种关系:ChildOf(父子,父级span某种程度上取决于子span) 和 FollowsFrom(追随,父级节点不以任何形式仍然他们子节点的执行后果)

SpanContext

Span上下文对象,代表逾越过程边界,传递到上级span的状态。每一个SpanContext蕴含以下状态:

  • 任何一个OpenTracing的实现,都须要将以后调用链的状态(例如:trace和span的id),依赖一个独特的Span去跨过程边界传输
  • Baggage Items,Trace的随行数据,是一个键值对汇合,它存在于trace中,也须要跨过程边界传输

OpenTracing的使用者仅仅须要,在创立span、向传输协定Inject(注入)和从传输协定中Extract(提取)时,应用SpanContext和References。

2. Jaeger

Jaeger是Uber开源的一款分布式追踪零碎(https://github.com/jaegertrac...),兼容OpenTracing API(反对Java语言:https://github.com/jaegertrac...)。

  • jaeger-client:Jaeger的客户端,实现了OpenTracing的API,反对支流编程语言。客户端间接集成在应用程序中,把trace信息按指定的采样策略传递给jaeger-agent,这个过程通常被称为埋点。
  • jaeger-agent:一个监听在UDP端口上接管trace信息的网络守护过程,会将数据批量发送给jaeger-collector。它被设计成一个根底组件,部署到所有的宿主机上,agent将client和collector解耦,为client屏蔽路由和发现collector的细节。
  • jaeger-collector:负责接管jaeger-agent发送来的数据,而后异步解决,最终将数据存储到DB中。它被设计成无状态的组件,因而能够同时运行任意数量的jaeger-collector。
  • jaeger-query:接管查问申请,而后从DB中检索 trace信息并通过 UI 进行展现。Query是无状态的,能够启动多个实例,把它们部署在nginx这样的负载均衡器前面。
  • jaeger-ingester:中文名称“摄食者”,从kafka读取数据而后写到jaeger的后端存储,比方Cassandra和Elasticsearch。

分布式追踪零碎大体分为三个局部,数据采集、数据长久化、数据展现。

  • 数据采集是指在代码中埋点,设置申请中要上报的阶段,以及设置以后记录的阶段隶属于哪个下级阶段。
  • 数据长久化则是指将上报的数据落盘存储,例如Jaeger就反对多种存储后端,可选用Cassandra或者Elasticsearch。
  • 数据展现则是前端依据TraceId查问与之关联的申请阶段,并在界面上出现。

3. dd-trace-java

dd-trace-java(https://github.com/DataDog/dd...)是Datadog开源的一个java版本的APM(利用性能治理)客户端。它依赖了jaeger-client-java中的jaeger-core,采纳字节码注入技术(JavaAgent)进行埋点,反对针对不同组件(http、kafka、jdbc等)进行插件化开发。

启动入口在AgentBootstrap的premain办法:

  • AgentInstaller.installBytebuddyAgent:注册各种反对不同组件的埋点插件
  • TracerInstaller.installGlobalTracer:注册一个全局的Tracer
public class AgentInstaller {        public static ResettableClassFileTransformer installBytebuddyAgent(final Instrumentation inst) {        AgentBuilder agentBuilder = new AgentBuilder.Default()            .disableClassFormatChanges()            .with(AgentBuilder.RedefinitionStrategy.RETRANSFORMATION)            .with(new RedefinitionLoggingListener())            .with(AgentBuilder.DescriptionStrategy.Default.POOL_ONLY)            .with(AgentTooling.poolStrategy())            .with(new TransformLoggingListener())            .with(new ClassLoadListener())            .with(AgentTooling.locationStrategy())            .ignore(any(), skipClassLoader())            .or(nameStartsWith("datadog.trace."))            .or(nameStartsWith("datadog.opentracing."))            .or(nameStartsWith("datadog.slf4j."))            .or(nameStartsWith("java.").and(not(nameStartsWith("java.util.concurrent."))))            .or(nameStartsWith("com.sun."))            .or(nameStartsWith("sun.").and(not(nameStartsWith("sun.net.www."))))            .or(nameStartsWith("jdk."))            .or(nameStartsWith("org.aspectj."))            .or(nameStartsWith("org.groovy."))            .or(nameStartsWith("com.p6spy."))            .or(nameStartsWith("org.slf4j."))            .or(nameContains("javassist"))            .or(nameContains(".asm."))            .or(nameMatches("com.mchange.v2.c3p0..*Proxy"));         for (final Instrumenter instrumenter : ServiceLoader.load(Instrumenter.class)) {            log.info("Loading instrumentation {}", instrumenter.getClass().getName());            agentBuilder = instrumenter.instrument(agentBuilder);        }        return agentBuilder.installOn(inst);    }}

业务方可通过继承Instrumenter.Default进行插件化开发,以反对不同组件的埋点。

@AutoService(Instrumenter.class)public class MDCInjectionInstrumentation extends Instrumenter.Default {    private static final String mdcClassName = "org.TMP.MDC".replaceFirst("TMP", "slf4j");        @Override    protected boolean defaultEnabled() {        return Config.get().isLogsInjectionEnabled();    }        @Override    public ElementMatcher<? super TypeDescription> typeMatcher() {        return named(mdcClassName);    }        @Override    public void postMatch(            final TypeDescription typeDescription,            final ClassLoader classLoader,            final JavaModule module,            final Class<?> classBeingRedefined,            final ProtectionDomain protectionDomain) {        if (classBeingRedefined != null) {            MDCAdvice.mdcClassInitialized(classBeingRedefined);        }    }        @Override    public Map<? extends ElementMatcher<? super MethodDescription>, String> transformers() {        return singletonMap(                isTypeInitializer(), MDCInjectionInstrumentation.class.getName() + "$MDCAdvice");    }        @Override    public String[] helperClassNames() {        return new String[]{LogContextScopeListener.class.getName()};    }     public static class MDCAdvice {        @Advice.OnMethodExit(suppress = Throwable.class)        public static void mdcClassInitialized(@Advice.Origin final Class mdcClass) {            try {                final Method putMethod = mdcClass.getMethod("put", String.class, String.class);                final Method removeMethod = mdcClass.getMethod("remove", String.class);                GlobalTracer.get().addScopeListener(new                 LogContextScopeListener(putMethod, removeMethod));            } catch (final NoSuchMethodException e) {                org.slf4j.LoggerFactory.getLogger(mdcClass).debug("Failed to add MDC span listener", e);            }        }    }}

End

OpenTracing建设了一套规范,解决了不同的分布式追踪零碎埋点API不兼容的问题(相似SLF4J);Uber开源的Jaeger提供一套残缺的分布式追踪解决方案(兼容OpenTracing API),包含数据采集、数据长久化、数据展现;Datadog开源的dd-trace-java是一个APM client for Java(依赖jaeger-client-java),采纳字节码注入技术(JavaAgent)进行埋点,反对针对不同组件进行插件化开发。