一、哪些因素会成为零碎的瓶颈？

1、CPU，如果存在大量的计算，他们会长工夫不间断的占用CPU资源，导致其余资源无奈抢夺到CPU而响应迟缓，从而带来零碎性能问题，例如频繁的FullGC，以及多线程造成的上下文频繁的切换，都会导致CPU忙碌，个别状况下CPU使用率<75%比拟适合。

2、内存，Java内存个别是通过jvm内存进行调配的，次要是用jvm中堆内存来存储Java创立的对象。内存的读写速度十分快，然而内存空间又是无限的，当内存空间被占满，对象无奈回收时，就会导致内存溢出或内存透露。

3、磁盘I/O，磁盘的存储空间要比内存存储空间大很多，然而磁盘的读写速度比内存慢，尽管当初引入SSD固态硬盘，然而还是无奈跟内存速度相比。

4、网络，带宽的大小，会对传输数据有很大影响，当并发量减少时，网络很容易就会成为瓶颈。

5、异样，Java程序，抛出异样，要对异样进行捕捉，这个过程要耗费性能，如果在高并发的状况下，继续进行异样解决，零碎的性能会受影响。

6、数据库，数据库的操作个别波及磁盘I/O的读写，大量的数据库读写操作，会导致磁盘I/O性能瓶颈，进而导致数据库操作提早。

7、当在并发编程的时候，常常会用多线程操作同一个资源，这个时候为了保证数据的原子性，就要应用到锁，锁的应用会带来上下文切换，从而带来性能开销，在JDK1.6之后新增了偏差锁、自旋锁、轻量级锁、锁粗化、锁打消。

二、哪些指标做为掂量零碎的性能

1、RT响应工夫，包含如下

1.1 数据库响应工夫，即数据库操作的工夫

1.2 服务端响应工夫，服务端包含Nginx散发的申请所耗费的工夫及服务端程序执行所耗费的工夫。

1.3 网络响应工夫，网络传输，网络硬件须要对传输的申请进行解析所耗费的工夫

1.4 客户端响应工夫，个别Web、App客户端，耗费工夫能够忽略不计，然而如果客户端存在大量的逻辑解决，耗费的工夫有能能就会变长。

2、TPS吞吐量

2.1 磁盘吞吐量

IOPS（Input/Output Per Second）每秒的输入输出量，这种是单位工夫内零碎能解决的I/O申请数量，I/O申请通常为读或写数据操作申请，关注随机读写性能，实用于随机读写频繁的利用，如小文件存储，邮件服务器。
数据吞吐量，这种是单位工夫能够传输的数据量，对于大量程序读写频繁的利用，传输大量间断数据，例如视频编辑。

2.2 网络吞吐量

指网络传输时没有丢帧的状况下，设施可能承受的最大数据速率。网络吞吐量不仅跟带宽有关系，还跟CPU解决能力、网卡、防火墙、以及I/O等紧密联系，吞吐量的大小由网卡的解决能力、外部程序算法以及带宽大小决定。

3、资源使用率

3.1 CPU使用率，首先能够先理解CPU的根本信息，包含物理CPU的个数、单个CPU的核数，而后能够通过命令查看使用率，vmstat、mpstat、top

3.2 内存使用率，free -m、vmstat、top

3.3 磁盘I/O， iostat、 iotop、

3.4 网络I/O，netstat、ifconfig、tcpstat、

三、性能测试留神的问题

1、咱们在做性能测试的时候，零碎的运行会越来越快，前面的访问速度比咱们第一次拜访的速度快了好几倍，这是因为Java语言编译的程序是，.java文件先编译为.class文件，而后通过解释器将.class的字节码转换老本地机器码后，能力运行。为了节约内存和执行效率，代码最后被执行时，解释器会率先解释执行这段代码。随着代码被执行的次数增多，虚拟机发现某个办法或代码运行的特地频繁，就被认定为热点代码（Hot Spot Code）。为了进步热点代码的执行效率，在运行时虚拟机将会通过即时编译器（JIT）把这些代码编译成为本地平台相干的机器码，而后贮存在内存中，之后每次运行代码时，间接从内存中获取。这样就会导致第一次零碎运行慢，前面拜访的速度快几倍。

2、在做性能测试的时候，每次测试解决的数据集都是一样的，然而后果却有差别，这是因为测试时，随同着很多不稳固因素，比方机器其余过程的影响、网络稳定以及每个阶段JVM垃圾回收的不同等。咱们能够通过屡次测试，将测试后果求均匀，只有保障平均值在正当范畴之内，并且稳定不是很大，这种状况，性能测试就算通过。

四、定位性能问题的时候，能够应用自下而上的策略剖析排查

当咱们进行压测之后，咱们会输入一份性能测试报告，其中包含，RT、TPS、TP99，被压服务器的CPU、内存、I/O，以及JVM的GC频率。通过这些指标能够发现性能瓶颈。咱们能够采纳自下而上的形式进行剖析。

1、首先从操作系统层面，查看零碎的CPU、内存、I/O、网络的使用率是否异样，再通过命令查找异样日志，最初通过日志剖析，找到导致瓶颈的问起因。

2、还能够从Java利用的JVM层面，查看JVM的垃圾回收频率以及内存分配情况是否存在异样，剖析垃圾回收日志，找到导致瓶颈的起因。

3、如果零碎和JVM层面都没有出现异常状况，而后能够从应用服务业务层查看是否存在性能瓶颈，例如，Java编程问题，读写数据库瓶颈等。

五、优化性能问题的时候，能够应用自上而下的策略进行优化

整体的调优程序，咱们能够从业务调优到编程调优，最初再到零碎调优

1、应用层调优

首先是优化代码，代码问题往往会因为耗费系统资源而暴漏出来，例如代码导致内存溢出，使JVM内存用完，而产生频繁的FullGC，导致CPU偏高。

其次是优化设计，次要是优化业务层和中间件层代码，例如能够采纳代理模式，放在频繁调用的创建对象的场景里，共享一个创建对象，缩小创建对象的耗费。

再次是优化算法，抉择适合的算法升高工夫复杂度。

2、中间件调优

MySQL调优

1)、表构造与索引优化。

次要是对数据库设计、表结构设计以及索引设置维度进行的优化，设计表构造的时候，思考数据库的程度与垂直的拓展能力，提前布局好未来数据量、读写量的增长，布局好分库分表计划。对字段抉择适合的数据类型，优先选用较小的数据结构。

2)、SQL语句优化。

次要是对SQL语句进行的优化，应用explain来查看执行打算，来查看是否应用了索引，应用了哪些索引。也能够应用Profile命令剖析语句执行过程中各个分步的耗时。

3)、MySQL参数优化。

次要是对MySQL服务的配置进行优化，例如连接数的治理，对索引缓存、查问缓存、排序缓存等各种缓存大小进行优化

4)、硬件及系统配置。

对硬件设施和操作系统设置进行优化，例如调整操作系统参数、禁用swap、减少内存、降级固态硬盘。

3、零碎调优

首先是操作系统调优，Linux操作的内核参数设置能够进行调优，已达到提供高性能的目标。\
其次，JVM调优，设置正当的JVM内存空间，以及垃圾回收算法来进步性能，例如，如果业务逻辑会创立大对象，咱们就能够设置，将大的对象间接放到老年代中，这样能够缩小年老代频发产生YongGC，缩小CPU的占用工夫。

4、调优的策略

首先是工夫换取空间，有的时候系统对查问速度要求不高，对存储空间要求较高，这个时候咱们能够思考用工夫换取空间。

其次是空间换取工夫，用存储空间晋升访问速度，典型的就是MySQL的分库分表策略，MySQL表单数据存储千万以上的时候，读写性能就会降落，这个时候咱们能够将数据进行拆分，以达到查问的时候，每个表的数据是大量的，以达到晋升性能的目标。

5、兜底策略

零碎调优后，依然还会存在性能问题，这个时候咱们须要有兜底策略，
首先是限流，对系统的入口设置最大拜访限度，同时采取断熔措施，返回没有胜利的申请。
其次是横向扩容，当访问量超过某一个阈值时，零碎能够主动横向减少服务。

作者：京东衰弱 牛金亮

内容起源：京东云开发者社区