Tomcat使用线程池配置高并发连接

1：配置 executor 属性

打开 /conf/server.xml 文件，在 Connector 之前配置一个线程池：

<Executor name="tomcatThreadPool"   
          namePrefix="tomcatThreadPool-"   
          maxThreads="1000"   
          maxIdleTime="300000"  
          minSpareThreads="200"/>  

重要参数说明：
name：共享线程池的名字。这是 Connector 为了共享线程池要引用的名字，该名字必须唯一。默认值：None；
namePrefix：在 JVM 上，每个运行线程都可以有一个 name 字符串。这一属性为线程池中每个线程的 name 字符串设置了一个前缀，Tomcat 将把线程号追加到这一前缀的后面。默认值：tomcat-exec-；
maxThreads：该线程池可以容纳的最大线程数。默认值：200；
maxIdleTime：在 Tomcat 关闭一个空闲线程之前，允许空闲线程持续的时间(以毫秒为单位)。只有当前活跃的线程数大于 minSpareThread 的值，才会关闭空闲线程。默认值：60000(一分钟)。
minSpareThreads：Tomcat 应该始终打开的最小不活跃线程数。默认值：25。

2：配置 Connector

<Connector executor="tomcatThreadPool"  
           port="8088"
           protocol="HTTP/1.1"  
           connectionTimeout="20000"  
           redirectPort="8443"   
           minProcessors="5"  
           maxProcessors="75"  
           acceptCount="1000"/>  

重要参数说明：
executor：表示使用该参数值对应的线程池；
minProcessors：服务器启动时创建的处理请求的线程数；
maxProcessors：最大可以创建的处理请求的线程数；
acceptCount：指定当所有可以使用的处理请求的线程数都被使用时，可以放到处理队列中的请求数，超过这个数的请求将不予处理。

一.Tomcat 内存优化

Tomcat 内存优化主要是对 tomcat 启动参数优化，我们可以在 tomcat 的启动脚本 catalina.sh 中设置 JAVA_OPTS 参数。

1.JAVA_OPTS 参数说明

-server  启用 jdk 的 server 版；-Xms    java 虚拟机初始化时的最小内存；-Xmx   java 虚拟机可使用的最大内存；-XX:PermSize    内存永久保留区域  
-XX:MaxPermSize   内存最大永久保留区域   

现公司服务器内存一般都可以加到最大 2G，所以可以采取以下配置：

在 cygwin=false 前添加

JAVA_OPTS='-Xms1024m -Xmx2048m -XX:PermSize=256M -XX:MaxNewSize=256m -XX:MaxPermSize=256m'

配置完成后可重启 Tomcat，通过以下命令进行查看配置是否生效：

首先查看 Tomcat 进程号：

lsof -i:8088

result

[root@izwz9ajtb45u2jzfp4ljixz ~]# lsof -i:8088
COMMAND   PID USER   FD   TYPE    DEVICE SIZE/OFF NODE NAME
java    27698 root   46u  IPv4 116945134      0t0  TCP *:radan-http (LISTEN)

我们可以看到 Tomcat 进程号是27698。

查看是否配置生效：

jmap –heap 27698

能在输出的信息中找到 Heap Configuration 中看到 MaxHeapSize 等参数已经生效。

二.Tomcat 并发优化

1.Tomcat 连接相关参数

在 Tomcat 配置文件 server.xml 中的 <Connector … /> 配置中

1. 参数说明

minProcessors：最小空闲连接线程数，用于提高系统处理性能，默认值为 10
maxProcessors：最大连接线程数，即：并发处理的最大请求数，默认值为 75
acceptCount：允许的最大连接数，应大于等于 maxProcessors，默认值为 100
enableLookups：是否反查域名，取值为：true 或 false。为了提高处理能力，应设置为 false
connectionTimeout：网络连接超时，单位：毫秒。设置为 0 表示永不超时，这样设置有隐患的。通常可设置为 30000 毫秒。
其中和最大连接数相关的参数为 maxProcessors 和 acceptCount。如果要加大并发连接数，应同时加大这两个参数。
web server 允许的最大连接数还受制于操作系统的内核参数设置，通常 Windows 是 2000 个左右，Linux 是 1000 个左右。

2.Tomcat 中的配置示例

<Connector port="8088"
           protocol="HTTP/1.1"
           maxHttpHeaderSize="8192"
           minProcessors="100"
           maxProcessors="1000"
           acceptCount="1000"
           redirectPort="8443"
           disableUploadTimeout="true"/>

2. 调整连接器 connector 的并发处理能力

1. 参数说明

maxThreads：客户请求最大线程数
minSpareThreads：Tomcat 初始化时创建的 socket 线程数
maxSpareThreads：Tomcat 连接器的最大空闲 socket 线程数
enableLookups：若设为 true, 则支持域名解析，可把 ip 地址解析为主机名
redirectPort：在需要基于安全通道的场合，把客户请求转发到基于 SSL 的 redirectPort 端口
acceptAccount：监听端口队列最大数，满了之后客户请求会被拒绝（不能小于 maxSpareThreads）
connectionTimeout：连接超时
minProcessors：服务器创建时的最小处理线程数
maxProcessors：服务器同时最大处理线程数
URIEncoding：URL 统一编码

2.Tomcat 中的配置示例

<Connector port="8088"
           protocol="HTTP/1.1"
           maxHttpHeaderSize="8192"
           maxThreads="1000"
           minSpareThreads="100"
           maxSpareThreads="1000"
           minProcessors="100"
           maxProcessors="1000"
           enableLookups="false"
           URIEncoding="utf-8"
           acceptCount="1000"
           redirectPort="8443"
           disableUploadTimeout="true"/> 

3.Tomcat 缓存优化

1. 参数说明

compression：打开压缩功能
compressionMinSize：启用压缩的输出内容大小，这里面默认为 2KB
compressableMimeType：压缩类型
connectionTimeout：定义建立客户连接超时的时间. 如果为 -1, 表示不限制建立客户连接的时间

2.Tomcat 中的配置示例

<Connector port="8088"
           protocol="HTTP/1.1"
           maxHttpHeaderSize="8192"
           maxThreads="1000"
           minSpareThreads="100"
           maxSpareThreads="1000"
           minProcessors="100"
           maxProcessors="1000"
           enableLookups="false"
           compression="on"
           compressionMinSize="2048"
           compressableMimeType="text/html,text/xml,text/javascript,text/css,text/plain"
           connectionTimeout="20000"
           URIEncoding="utf-8"
           acceptCount="1000"
           redirectPort="8443"
           disableUploadTimeout="true"/>  

4. 参考配置

1. 旧有的配置

参考网络对服务器做过如下配置，拿出来分享下：

<Connector port="8088"
           protocol="HTTP/1.1"
           maxHttpHeaderSize="8192"
           maxThreads="1000"
           minSpareThreads="25"
           maxSpareThreads="75"
           enableLookups="false"
           compression="on"
           compressionMinSize="2048"
           compressableMimeType="text/html,text/xml,text/javascript,text/css,text/plain"
           connectionTimeout="20000"
           URIEncoding="utf-8"
           acceptCount="200"
           redirectPort="8443"
           disableUploadTimeout="true" />  

后来发现在访问量达到 3 百万多的时候出现性能瓶颈。

2. 更改后的配置

<Connector port="8088"
           protocol="HTTP/1.1"
           maxHttpHeaderSize="8192"
           maxThreads="1000"
           minSpareThreads="100"
           maxSpareThreads="1000"
           minProcessors="100"
           maxProcessors="1000"
           enableLookups="false"
           compression="on"
           compressionMinSize="2048"
           compressableMimeType="text/html,text/xml,text/javascript,text/css,text/plain"
           connectionTimeout="20000"
           URIEncoding="utf-8"
           acceptCount="1000"
           redirectPort="8443"
           disableUploadTimeout="true"/>