在软件工程中,Tracing指应用特定的日志记录程序的执行信息,与之相近的还有两个概念,它们别离是Logging和Metrics。
- Logging:用于记录离散的事件,蕴含程序执行到某一点或某一阶段的详细信息,比方,应用程序的调试(debug)信息或谬误(error)信息。它是咱们诊断问题的根据。
- Metrics:用于记录可聚合的数据,且通常是固定类型的时序数据,每个都是一个逻辑计量单元,或者一个时间段内的柱状图,比方,队列的以后深度能够被定义为一个计量单元,在写入或读取时被更新统计;输出HTTP申请的数量能够被定义为一个计数器,用于简略累加;申请的执行工夫能够被定义为一个柱状图,在指定工夫片上更新和统计汇总。
- Tracing:用于记录单次申请范畴内的解决信息,其中包含服务调用和解决时长等,比方,一次调用近程服务的RPC执行过程;一次理论的SQL查问语句;一次HTTP申请的业务性ID。它是咱们排查零碎性能问题的利器。
零碎架构从单体转变为微服务当前,一次申请往往波及到多个服务之间的调用。随着服务数量的增多和外部调用链的复杂化,仅凭借日志和性能监控很难做到 “See the Whole Picture”,在进行问题排查或是性能剖析的时候,无异于盲人摸象。
分布式追踪零碎(Tracing)旨在剖析申请背地调用了哪些服务,服务的调用程序、耗时、谬误起因等,帮忙开发者直观剖析申请链路,疾速定位性能瓶颈,逐步优化服务间依赖,也有助于开发者从更宏观的角度更好地了解整个分布式系统。
早在 2005 年,Google 就在外部部署了一套分布式追踪零碎 Dapper,并发表了一篇论文《Dapper, a Large-Scale Distributed Systems Tracing Infrastructure》,论述了该分布式追踪零碎的设计和实现,能够视为分布式追踪畛域的鼻祖。随后各大厂商纷纷落地了一些优良的分布式追踪零碎,比方Jaeger(Uber)、Zipkin(twitter)、X-ray(AWS)、SkyWalking等,但各家的分布式追踪计划很可能是互不兼容的,于是诞生了OpenTracing。
1. OpenTracing
OpenTracing是一个轻量级的标准化层,它位于<应用程序/类库>和<追踪或日志分析程序>之间,通过提供平台无关、厂商无关的API,使得开发人员可能不便的增加(或更换)追踪零碎的实现,解决不同的分布式追踪零碎API不兼容的问题,也使得在通用代码库减少对分布式追踪的反对成为可能。
- 后盾无关的一套接口,被跟踪的服务只须要调用这套接口,就能够被任何实现这套接口的跟踪后盾(比方Zipkin, Jaeger等等)反对,而作为一个跟踪后盾,只有实现了个这套接口,就能够跟踪到任何调用这套接口的服务。
- 标准化了对跟踪最小单位Span的治理:定义了开始Span,完结Span和记录Span耗时的API。
- 标准化了过程间跟踪数据传递的形式:定义了一套API不便跟踪数据的传递。
- 标准化了过程内以后Span的治理:定义了存储和获取以后Span的API。
- 不对编码定规范:不对过程间传递的跟踪数据的编码定规范,不对向后盾发送的跟踪数据的编码定规范,让跟踪后盾本人决定最适宜他们的编码方式。
OpenTracing已进入 CNCF,正在为寰球的分布式追踪,提供对立的概念和数据规范,反对多种语言:https://github.com/opentracing。其中,OpenTracing API for Java:https://github.com/opentracin...
- opentracing-api,是一个纯正的API没有任何依赖
- opentracing-noop,实现了API,然而是空实现什么也不干,依赖opentracing-api
- opentracing-util,蕴含了一个GlobalTracer和基于Thread_local的简略实现ScopeManager,依赖opentracing-api、opentracing-noop
- opentracing-mock,mock测试,蕴含一个简略的MockTracer,将数据存储进内存,依赖opentracing-api、opentracing-noop、opentracing-util
- opentracing-testbed,用于测试和尝试新个性
OpenTracing数据模型中有三个重要的互相关联的类型,别离是Tracer,Span和SpanContext。
- Trace:一个残缺申请链路
- Span:一次调用过程(须要有开始工夫和完结工夫)
- SpanContext:Trace的全局上下文信息,如外面有traceId
Trace
一个Trace代表一个事务或者流程在(分布式)零碎中的执行过程。一条Trace(调用链)能够被认为是一个由多个Span组成的有向无环图(DAG),通过归属于此调用链的Span来隐性的定义。
Tracer接口用来创立Span,以及解决如何解决Inject(serialize) 和 Extract (deserialize),用于跨过程边界传递。
Span
一个Span代表零碎中具备开始工夫和执行时长的逻辑运行单元。Span之间通过嵌套或者顺序排列建设逻辑因果关系。Span能够被了解为一次办法调用, 一个程序块的调用, 或者一次RPC/数据库拜访,只有是一个具备残缺工夫周期的程序拜访,都能够被认为是一个span。每个Span蕴含以下的状态:
- An operation name,操作名称
- A start timestamp,起始工夫
- A finish timestamp,完结工夫
- Span Tag,一组键值对形成的Span标签汇合。键值对中,键必须为string,值能够是字符串,布尔,或者数字类型
- Span Log,一组span的日志汇合。每次log操作蕴含一个键值对,以及一个工夫戳。键值对中,键必须为string,值能够是任意类型
- SpanContext,Span上下文对象
- References,Span间关系,目前定义了两种关系:ChildOf(父子,父级span某种程度上取决于子span) 和 FollowsFrom(追随,父级节点不以任何形式仍然他们子节点的执行后果)
SpanContext
Span上下文对象,代表逾越过程边界,传递到上级span的状态。每一个SpanContext蕴含以下状态:
- 任何一个OpenTracing的实现,都须要将以后调用链的状态(例如:trace和span的id),依赖一个独特的Span去跨过程边界传输
- Baggage Items,Trace的随行数据,是一个键值对汇合,它存在于trace中,也须要跨过程边界传输
OpenTracing的使用者仅仅须要,在创立span、向传输协定Inject(注入)和从传输协定中Extract(提取)时,应用SpanContext和References。
2. Jaeger
Jaeger是Uber开源的一款分布式追踪零碎(https://github.com/jaegertrac...),兼容OpenTracing API(反对Java语言:https://github.com/jaegertrac...)。
- jaeger-client:Jaeger的客户端,实现了OpenTracing的API,反对支流编程语言。客户端间接集成在应用程序中,把trace信息按指定的采样策略传递给jaeger-agent,这个过程通常被称为埋点。
- jaeger-agent:一个监听在UDP端口上接管trace信息的网络守护过程,会将数据批量发送给jaeger-collector。它被设计成一个根底组件,部署到所有的宿主机上,agent将client和collector解耦,为client屏蔽路由和发现collector的细节。
- jaeger-collector:负责接管jaeger-agent发送来的数据,而后异步解决,最终将数据存储到DB中。它被设计成无状态的组件,因而能够同时运行任意数量的jaeger-collector。
- jaeger-query:接管查问申请,而后从DB中检索 trace信息并通过 UI 进行展现。Query是无状态的,能够启动多个实例,把它们部署在nginx这样的负载均衡器前面。
- jaeger-ingester:中文名称“摄食者”,从kafka读取数据而后写到jaeger的后端存储,比方Cassandra和Elasticsearch。
分布式追踪零碎大体分为三个局部,数据采集、数据长久化、数据展现。
- 数据采集是指在代码中埋点,设置申请中要上报的阶段,以及设置以后记录的阶段隶属于哪个下级阶段。
- 数据长久化则是指将上报的数据落盘存储,例如Jaeger就反对多种存储后端,可选用Cassandra或者Elasticsearch。
- 数据展现则是前端依据TraceId查问与之关联的申请阶段,并在界面上出现。
3. dd-trace-java
dd-trace-java(https://github.com/DataDog/dd...)是Datadog开源的一个java版本的APM(利用性能治理)客户端。它依赖了jaeger-client-java中的jaeger-core,采纳字节码注入技术(JavaAgent)进行埋点,反对针对不同组件(http、kafka、jdbc等)进行插件化开发。
启动入口在AgentBootstrap的premain办法:
- AgentInstaller.installBytebuddyAgent:注册各种反对不同组件的埋点插件
- TracerInstaller.installGlobalTracer:注册一个全局的Tracer
public class AgentInstaller { public static ResettableClassFileTransformer installBytebuddyAgent(final Instrumentation inst) { AgentBuilder agentBuilder = new AgentBuilder.Default() .disableClassFormatChanges() .with(AgentBuilder.RedefinitionStrategy.RETRANSFORMATION) .with(new RedefinitionLoggingListener()) .with(AgentBuilder.DescriptionStrategy.Default.POOL_ONLY) .with(AgentTooling.poolStrategy()) .with(new TransformLoggingListener()) .with(new ClassLoadListener()) .with(AgentTooling.locationStrategy()) .ignore(any(), skipClassLoader()) .or(nameStartsWith("datadog.trace.")) .or(nameStartsWith("datadog.opentracing.")) .or(nameStartsWith("datadog.slf4j.")) .or(nameStartsWith("java.").and(not(nameStartsWith("java.util.concurrent.")))) .or(nameStartsWith("com.sun.")) .or(nameStartsWith("sun.").and(not(nameStartsWith("sun.net.www.")))) .or(nameStartsWith("jdk.")) .or(nameStartsWith("org.aspectj.")) .or(nameStartsWith("org.groovy.")) .or(nameStartsWith("com.p6spy.")) .or(nameStartsWith("org.slf4j.")) .or(nameContains("javassist")) .or(nameContains(".asm.")) .or(nameMatches("com.mchange.v2.c3p0..*Proxy")); for (final Instrumenter instrumenter : ServiceLoader.load(Instrumenter.class)) { log.info("Loading instrumentation {}", instrumenter.getClass().getName()); agentBuilder = instrumenter.instrument(agentBuilder); } return agentBuilder.installOn(inst); }}
业务方可通过继承Instrumenter.Default进行插件化开发,以反对不同组件的埋点。
@AutoService(Instrumenter.class)public class MDCInjectionInstrumentation extends Instrumenter.Default { private static final String mdcClassName = "org.TMP.MDC".replaceFirst("TMP", "slf4j"); @Override protected boolean defaultEnabled() { return Config.get().isLogsInjectionEnabled(); } @Override public ElementMatcher<? super TypeDescription> typeMatcher() { return named(mdcClassName); } @Override public void postMatch( final TypeDescription typeDescription, final ClassLoader classLoader, final JavaModule module, final Class<?> classBeingRedefined, final ProtectionDomain protectionDomain) { if (classBeingRedefined != null) { MDCAdvice.mdcClassInitialized(classBeingRedefined); } } @Override public Map<? extends ElementMatcher<? super MethodDescription>, String> transformers() { return singletonMap( isTypeInitializer(), MDCInjectionInstrumentation.class.getName() + "$MDCAdvice"); } @Override public String[] helperClassNames() { return new String[]{LogContextScopeListener.class.getName()}; } public static class MDCAdvice { @Advice.OnMethodExit(suppress = Throwable.class) public static void mdcClassInitialized(@Advice.Origin final Class mdcClass) { try { final Method putMethod = mdcClass.getMethod("put", String.class, String.class); final Method removeMethod = mdcClass.getMethod("remove", String.class); GlobalTracer.get().addScopeListener(new LogContextScopeListener(putMethod, removeMethod)); } catch (final NoSuchMethodException e) { org.slf4j.LoggerFactory.getLogger(mdcClass).debug("Failed to add MDC span listener", e); } } }}
End
OpenTracing建设了一套规范,解决了不同的分布式追踪零碎埋点API不兼容的问题(相似SLF4J);Uber开源的Jaeger提供一套残缺的分布式追踪解决方案(兼容OpenTracing API),包含数据采集、数据长久化、数据展现;Datadog开源的dd-trace-java是一个APM client for Java(依赖jaeger-client-java),采纳字节码注入技术(JavaAgent)进行埋点,反对针对不同组件进行插件化开发。