Logback配置文件这么写TPS提高10倍

24次阅读

共计 6037 个字符，预计需要花费 16 分钟才能阅读完成。

通过阅读本篇文章将了解到

  • 1. 日志输出到文件并根据 LEVEL 级别将日志分类保存到不同文件
  • 2. 通过异步输出日志减少磁盘 IO 提高性能
  • 3. 异步输出日志的原理

配置文件 logback-spring.xml

SpringBoot工程自带 logback 和slf4j的依赖，所以重点放在编写配置文件上，需要引入什么依赖，日志依赖冲突统统都不需要我们管了。logback框架会默认加载 classpath 下命名为 logback-spring 或logback的配置文件。将所有日志都存储在一个文件中文件大小也随着应用的运行越来越大并且不好排查问题，正确的做法应该是将 error 日志和其他日志分开，并且不同级别的日志根据时间段进行记录存储。

<?xml version="1.0" encoding="utf-8"?>
<configuration>
    <property resource="logback.properties"/>
    <appender name="CONSOLE-LOG" class="ch.qos.logback.core.ConsoleAppender">
        <layout class="ch.qos.logback.classic.PatternLayout">
            <pattern>[%d{yyyy-MM-dd' 'HH:mm:ss.sss}] [%C] [%t] [%L] [%-5p] %m%n</pattern>
        </layout>
    </appender>
    <!-- 获取比 info 级别高 (包括 info 级别) 但除 error 级别的日志 -->
    <appender name="INFO-LOG" class="ch.qos.logback.core.rolling.RollingFileAppender">
        <filter class="ch.qos.logback.classic.filter.LevelFilter">
            <level>ERROR</level>
            <onMatch>DENY</onMatch>
            <onMismatch>ACCEPT</onMismatch>
        </filter>
        <encoder>
            <pattern>[%d{yyyy-MM-dd' 'HH:mm:ss.sss}] [%C] [%t] [%L] [%-5p] %m%n</pattern>
        </encoder>

        <!-- 滚动策略 -->
        <rollingPolicy class="ch.qos.logback.core.rolling.TimeBasedRollingPolicy">
            <!-- 路径 -->
            <fileNamePattern>${LOG_INFO_HOME}//%d.log</fileNamePattern>
            <maxHistory>30</maxHistory>
        </rollingPolicy>
    </appender>
    <appender name="ERROR-LOG" class="ch.qos.logback.core.rolling.RollingFileAppender">
        <filter class="ch.qos.logback.classic.filter.ThresholdFilter">
            <level>ERROR</level>
        </filter>
        <encoder>
            <pattern>[%d{yyyy-MM-dd' 'HH:mm:ss.sss}] [%C] [%t] [%L] [%-5p] %m%n</pattern>
        </encoder>
        <!-- 滚动策略 -->
        <rollingPolicy class="ch.qos.logback.core.rolling.TimeBasedRollingPolicy">
            <!-- 路径 -->
            <fileNamePattern>${LOG_ERROR_HOME}//%d.log</fileNamePattern>
            <maxHistory>30</maxHistory>
        </rollingPolicy>
    </appender>

    <root level="info">
        <appender-ref ref="CONSOLE-LOG" />
        <appender-ref ref="INFO-LOG" />
        <appender-ref ref="ERROR-LOG" />
    </root>
</configuration>

部分标签说明

  • <root>

    标签，必填标签，用来指定最基础的日志输出级别

    • <appender-ref>标签，添加append 
  • <append>

    标签，通过使用该标签指定日志的收集策略

    • name属性指定 appender 命名
    • class属性指定输出策略，通常有两种，控制台输出和文件输出，文件输出就是将日志进行一个持久化。ConsoleAppender将日志输出到控制台
  • <filter>

    标签，通过使用该标签指定过滤策略

    • <level>标签指定过滤的类型
  • <encoder>标签，使用该标签下的 <pattern> 标签指定日志输出格式
  • <rollingPolicy>

    标签指定收集策略，比如基于时间进行收集

    • <fileNamePattern>标签指定生成日志保存地址 通过这样配置已经实现了分类分天手机日志的目标了

logback 高级特性异步输出日志

之前的日志配置方式是基于同步的，每次日志输出到文件都会进行一次磁盘 IO。采用异步写日志的方式而不让此次写日志发生磁盘 IO，阻塞线程从而造成不必要的性能损耗。异步输出日志的方式很简单，添加一个基于异步写日志的 appender，并指向原先配置的appender 即可

 <!-- 异步输出 -->
    <appender name="ASYNC-INFO" class="ch.qos.logback.classic.AsyncAppender">
        <!-- 不丢失日志. 默认的, 如果队列的 80% 已满, 则会丢弃 TRACT、DEBUG、INFO 级别的日志 -->
        <discardingThreshold>0</discardingThreshold>
        <!-- 更改默认的队列的深度, 该值会影响性能. 默认值为 256 -->
        <queueSize>256</queueSize>
        <!-- 添加附加的 appender, 最多只能添加一个 -->
        <appender-ref ref="INFO-LOG"/>
    </appender>

    <appender name="ASYNC-ERROR" class="ch.qos.logback.classic.AsyncAppender">
        <!-- 不丢失日志. 默认的, 如果队列的 80% 已满, 则会丢弃 TRACT、DEBUG、INFO 级别的日志 -->
        <discardingThreshold>0</discardingThreshold>
        <!-- 更改默认的队列的深度, 该值会影响性能. 默认值为 256 -->
        <queueSize>256</queueSize>
        <!-- 添加附加的 appender, 最多只能添加一个 -->
        <appender-ref ref="ERROR-LOG"/>
    </appender>

异步输出日志性能测试

既然能提高性能的话，必须进行一次测试比对，同步和异步输出日志性能到底能提升多少倍？

服务器硬件
  • CPU六核
  • 内存 8G
测试工具
Apache Jmeter
同步输出日志
  • 线程数：100
  • Ramp-Up Loop(可以理解为启动线程所用时间)：0 可以理解为 100 个线程同时启用

  • 测试结果

    重点关注指标

    Throughput【TPS】

    吞吐量：系统在单位时间内处理请求的数量，在同步输出日志中

    TPS

    为

    44.2/sec

异步输出日志
  • 线程数 100
  • Ramp-Up Loop：0

  • 测试结果

    TPS

    为

    497.5/sec

    ，

    性能提升了 10 多倍！！！

异步日志输出原理

从 logback 框架下的 Logger.info 方法开始追踪。一路的方法调用路径如下图所示：

异步输出日志中最关键的就是配置文件中ch.qos.logback.classic`AsyncAppenderBase`append

protected void append(E eventObject) {if(!this.isQueueBelowDiscardingThreshold() || !this.isDiscardable(eventObject)) {this.preprocess(eventObject);
            this.put(eventObject);
        }
    }

通过队列情况判断是否需要丢弃日志，不丢弃的话将它放到阻塞队列中，通过查看代码，这个阻塞队列为 ArrayBlockingQueueu，默认大小为 256，可以通过配置文件进行修改。Logger.info(...) 到append(...)就结束了，只做了将日志塞入到阻塞队列的事，然后继续执行 Logger.info(...) 下面的语句了。在 AsyncAppenderBase 类中定义了一个 Worker 线程，run方法中的关键部分代码如下:

E e = parent.blockingQueue.take();
aai.appendLoopOnAppenders(e);

从阻塞队列中取出一个日志，并调用 AppenderAttachableImpl 类中的 appendLoopOnAppenders 方法维护一个 Append 列表。Worker线程中调用方法过程主要如下图：

最主要的两个方法就是encode`write`encode

作者：何甜甜在吗链接：https://juejin.im/post/5d4d61…

最后附：项目完整代码

异步输出日志
<?xml version="1.0" encoding="utf-8"?>
<configuration>
    <property resource="logback.properties"/>
    <appender name="CONSOLE-LOG" class="ch.qos.logback.core.ConsoleAppender">
        <layout class="ch.qos.logback.classic.PatternLayout">
            <pattern>[%d{yyyy-MM-dd' 'HH:mm:ss.sss}] [%C] [%t] [%L] [%-5p] %m%n</pattern>
        </layout>
    </appender>
    <!-- 获取比 info 级别高 (包括 info 级别) 但除 error 级别的日志 -->
    <appender name="INFO-LOG" class="ch.qos.logback.core.rolling.RollingFileAppender">
        <filter class="ch.qos.logback.classic.filter.LevelFilter">
            <level>ERROR</level>
            <onMatch>DENY</onMatch>
            <onMismatch>ACCEPT</onMismatch>
        </filter>
        <encoder>
            <pattern>[%d{yyyy-MM-dd' 'HH:mm:ss.sss}] [%C] [%t] [%L] [%-5p] %m%n</pattern>
        </encoder>

        <!-- 滚动策略 -->
        <rollingPolicy class="ch.qos.logback.core.rolling.TimeBasedRollingPolicy">
            <!-- 路径 -->
            <fileNamePattern>${LOG_INFO_HOME}//%d.log</fileNamePattern>
            <maxHistory>30</maxHistory>
        </rollingPolicy>
    </appender>
    <appender name="ERROR-LOG" class="ch.qos.logback.core.rolling.RollingFileAppender">
        <filter class="ch.qos.logback.classic.filter.ThresholdFilter">
            <level>ERROR</level>
        </filter>
        <encoder>
            <pattern>[%d{yyyy-MM-dd' 'HH:mm:ss.sss}] [%C] [%t] [%L] [%-5p] %m%n</pattern>
        </encoder>
        <!-- 滚动策略 -->
        <rollingPolicy class="ch.qos.logback.core.rolling.TimeBasedRollingPolicy">
            <!-- 路径 -->
            <fileNamePattern>${LOG_ERROR_HOME}//%d.log</fileNamePattern>
            <maxHistory>30</maxHistory>
        </rollingPolicy>
    </appender>
    <!-- 异步输出 -->
    <appender name="ASYNC-INFO" class="ch.qos.logback.classic.AsyncAppender">
        <!-- 不丢失日志. 默认的, 如果队列的 80% 已满, 则会丢弃 TRACT、DEBUG、INFO 级别的日志 -->
        <discardingThreshold>0</discardingThreshold>
        <!-- 更改默认的队列的深度, 该值会影响性能. 默认值为 256 -->
        <queueSize>256</queueSize>
        <!-- 添加附加的 appender, 最多只能添加一个 -->
        <appender-ref ref="INFO-LOG"/>
    </appender>

    <appender name="ASYNC-ERROR" class="ch.qos.logback.classic.AsyncAppender">
        <!-- 不丢失日志. 默认的, 如果队列的 80% 已满, 则会丢弃 TRACT、DEBUG、INFO 级别的日志 -->
        <discardingThreshold>0</discardingThreshold>
        <!-- 更改默认的队列的深度, 该值会影响性能. 默认值为 256 -->
        <queueSize>256</queueSize>
        <!-- 添加附加的 appender, 最多只能添加一个 -->
        <appender-ref ref="ERROR-LOG"/>
    </appender>

    <root level="info">
        <appender-ref ref="CONSOLE-LOG" />
        <appender-ref ref="INFO-LOG" />
        <appender-ref ref="ERROR-LOG" />
    </root>
</configuration>
LOG_ERROR_HOME=C://Users//hetiantian//Desktop//log//error
LOG_INFO_HOME=C://Users//hetiantian//Desktop//log//info

正文完
发表至： java
2019-08-13
 0
关于Redis热点key的一些思考
关于java:使用-Java使用WebMagic-爬取网站
What-happened-when-new-an-object-in-JVM
程序员干私活搞副业今年的2000明年还是吗个税搞清楚了吗