首页 > Server > tomcat 优化
2016
08-30

tomcat 优化

tomcat简单性能优化（一）

tomcat默认参数是为开发环境制定，而非适合生产环境，尤其是内存和线程的配置，默认都很低，容易成为性能瓶颈。

 

tomcat内存优化

linux修改TOMCAT_HOME/bin/catalina.sh，在前面加入

JAVA_OPTS=”-XX:PermSize=64M -XX:MaxPermSize=128m -Xms512m -Xmx1024m -Duser.timezone=Asia/Shanghai”

windows修改TOMCAT_HOME/bin/catalina.bat，在前面加入

set JAVA_OPTS=-XX:PermSize=64M -XX:MaxPermSize=128m -Xms512m -Xmx1024m

最大堆内存是1024m，对于现在的硬件还是偏低，实施时，还是按照机器具体硬件配置优化。

 

tomcat 线程优化

<Connector port=”80″ protocol=”HTTP/1.1″ maxThreads=”600″ minSpareThreads=”100″ maxSpareThreads=”500″ acceptCount=”700″

connectionTimeout=”20000″ redirectPort=”8443″ />

maxThreads=”600″       ///最大线程数
minSpareThreads=”100″///初始化时创建的线程数
maxSpareThreads=”500″///一旦创建的线程超过这个值，Tomcat就会关闭不再需要的socket线程。
acceptCount=”700″//指定当所有可以使用的处理请求的线程数都被使用时，可以放到处理队列中的请求数，超过这个数的请求将不予处理

 

这里是http connector的优化，如果使用apache和tomcat做集群的负载均衡，并且使用ajp协议做apache和tomcat的协议转发，那么还需要优化ajp connector。

<Connector port=”8009″ protocol=”AJP/1.3″ maxThreads=”600″ minSpareThreads=”100″ maxSpareThreads=”500″ acceptCount=”700″

connectionTimeout=”20000″ redirectPort=”8443″ />

 

由于tomcat有多个connector，所以tomcat线程的配置，又支持多个connector共享一个线程池。

首先。打开/conf/server.xml，增加

<Executor name=”tomcatThreadPool” namePrefix=”catalina-exec-” maxThreads=”500″ minSpareThreads=”20″ maxIdleTime=”60000″ />

最大线程500（一般服务器足以），最小空闲线程数20，线程最大空闲时间60秒。

 

然后，修改<Connector …>节点，增加executor属性，executor设置为线程池的名字：

<Connector executor=”tomcatThreadPool” port=”80″ protocol=”HTTP/1.1″  connectionTimeout=”60000″ keepAliveTimeout=”15000″ maxKeepAliveRequests=”1″  redirectPort=”443″ />

可以多个connector公用1个线程池，所以ajp connector也同样可以设置使用tomcatThreadPool线程池。

 

禁用DNS查询

当web应用程序向要记录客户端的信息时，它也会记录客户端的IP地址或者通过域名服务器查找机器名 转换为IP地址。

DNS查询需要占用网络，并且包括可能从很多很远的服务器或者不起作用的服务器上去获取对应的IP的过程，这样会消耗一定的时间。

修改server.xml文件中的Connector元素，修改属性enableLookups参数值: enableLookups=”false”

如果为true，则可以通过调用request.getRemoteHost()进行DNS查询来得到远程客户端的实际主机名，若为false则不进行DNS查询，而是返回其ip地址

 

 

设置session过期时间

conf\web.xml中通过参数指定：

<session-config>

<session-timeout>180</session-timeout>

</session-config>

单位为分钟。

 

Apr插件提高Tomcat性能

Tomcat可以使用APR来提供超强的可伸缩性和性能，更好地集成本地服务器技术.

APR(Apache Portable Runtime)是一个高可移植库，它是Apache HTTP Server 2.x的核心。APR有很多用途，包括访问高级IO功能(例如sendfile,epoll和OpenSSL)，OS级别功能(随机数生成，系统状态等等)，本地进程管理(共享内存，NT管道和UNIX sockets)。这些功能可以使Tomcat作为一个通常的前台WEB服务器，能更好地和其它本地web技术集成，总体上让Java更有效率作为一个高性能web服务器平台而不是简单作为后台容器。

在产品环境中，特别是直接使用Tomcat做WEB服务器的时候，应该使用Tomcat Native来提高其性能

要测APR给tomcat带来的好处最好的方法是在慢速网络上（模拟Internet），将Tomcat线程数开到300以上的水平，然后模拟一大堆并发请求。
如果不配APR，基本上300个线程狠快就会用满，以后的请求就只好等待。但是配上APR之后，并发的线程数量明显下降，从原来的300可能会马上下降到只有几十，新的请求会毫无阻塞的进来。
在局域网环境测，就算是400个并发，也是一瞬间就处理/传输完毕，但是在真实的Internet环境下，页面处理时间只占0.1%都不到，绝大部分时间都用来页面传输。如果不用APR，一个线程同一时间只能处理一个用户，势必会造成阻塞。所以生产环境下用apr是非常必要的。

(1)安装APR tomcat-native

apr-1.3.8.tar.gz   安装在/usr/local/apr

#tar zxvf apr-1.3.8.tar.gz

#cd apr-1.3.8

#./configure;make;make install

 

apr-util-1.3.9.tar.gz  安装在/usr/local/apr/lib

#tar zxvf apr-util-1.3.9.tar.gz

#cd apr-util-1.3.9

#./configure –with-apr=/usr/local/apr —-with-java-home=JDK;make;make install

 

#cd apache-tomcat-6.0.20/bin

#tar zxvf tomcat-native.tar.gz

#cd tomcat-native/jni/native

#./configure –with-apr=/usr/local/apr;make;make install

 

(2)设置 Tomcat 整合 APR

修改 tomcat 的启动 shell （startup.sh），在该文件中加入启动参数：

CATALINA_OPTS=”$CATALINA_OPTS -Djava.library.path=/usr/local/apr/lib” 。

 

(3)判断安装成功:

如果看到下面的启动日志，表示成功。

2007-4-26 15:34:32 org.apache.coyote.http11.Http11AprProtocol init

 

 

tomcat全面性能优化（二）

 

在线上环境中我们是采用了tomcat作为Web服务器，它的处理性能直接关系到用户体验，在平时的工作和学习中，归纳出以下七种调优经验。

1. 服务器资源

服务器所能提供CPU、内存、硬盘的性能对处理能力有决定性影响。
(1) 对于高并发情况下会有大量的运算，那么CPU的速度会直接影响到处理速度。
(2) 内存在大量数据处理的情况下，将会有较大的内存容量需求，可以用-Xmx -Xms -XX:MaxPermSize等参数对内存不同功能块进行划分。我们之前就遇到过内存分配不足，导致虚拟机一直处于full GC，从而导致处理能力严重下降。
(3) 硬盘主要问题就是读写性能，当大量文件进行读写时，磁盘极容易成为性能瓶颈。最好的办法还是利用下面提到的缓存。

2. 利用缓存和压缩

对于静态页面最好是能够缓存起来，这样就不必每次从磁盘上读。这里我们采用了Nginx作为缓存服务器，将图片、css、js文件都进行了缓存，有效的减少了后端tomcat的访问。

另外，为了能加快网络传输速度，开启gzip压缩也是必不可少的。但考虑到tomcat已经需要处理很多东西了，所以把这个压缩的工作就交给前端的Nginx来完成。可以参考之前写的《利用nginx加速web访问》。

除了文本可以用gzip压缩，其实很多图片也可以用图像处理工具预先进行压缩，找到一个平衡点可以让画质损失很小而文件可以减小很多。曾经我就见过一个图片从300多kb压缩到几十kb，自己几乎看不出来区别。

3. 采用集群

单个服务器性能总是有限的，最好的办法自然是实现横向扩展，那么组建tomcat集群是有效提升性能的手段。我们还是采用了Nginx来作为请求分流的服务器，后端多个tomcat共享session来协同工作。可以参考之前写的《利用nginx+tomcat+memcached组建web服务器负载均衡》。

4. 优化tomcat参数

这里以tomcat7的参数配置为例，需要修改conf/server.xml文件，主要是优化连接配置，关闭客户端dns查询。

  1. <Connector port=“8080”
  2.            protocol=“org.apache.coyote.http11.Http11NioProtocol”
  3.            connectionTimeout=“20000”
  4.            redirectPort=“8443”
  5.            maxThreads=“500”
  6.            minSpareThreads=“20”
  7.            acceptCount=“100”
  8.            disableUploadTimeout=“true”
  9.            enableLookups=“false”
  10.            URIEncoding=“UTF-8” />

5. 改用APR库

tomcat默认采用的BIO模型，在几百并发下性能会有很严重的下降。tomcat自带还有NIO的模型，另外也可以调用APR的库来实现操作系统级别控制。

NIO模型是内置的，调用很方便，只需要将上面配置文件中protocol修改成org.apache.coyote.http11.Http11NioProtocol，重启即可生效。上面配置我已经改过了，默认的是HTTP/1.1。

APR则需要安装第三方库，在高并发下会让性能有明显提升。具体安装办法可以参考http://www.cnblogs.com/huangjingzhou/articles/2097241.html。安装完成后重启即可生效。如使用默认protocal就是apr，但最好把将protocol修改成org.apache.coyote.http11.Http11AprProtocol，会更加明确。

在官方找到一个表格详细说明了这三种方式的区别：

  1.                   Java Blocking Connector   Java Nio Blocking Connector   APR/native Connector
  2.                              BIO                         NIO                       APR
  3. Classname                AjpProtocol               AjpNioProtocol           AjpAprProtocol
  4. Tomcat Version           3.x onwards                 7.x onwards              5.5.x onwards
  5. Support Polling              NO                          YES                       YES
  6. Polling Size                 N/A                   maxConnections             maxConnections
  7. Read Request Headers      Blocking                  Sim Blocking                   Blocking
  8. Read Request Body         Blocking                  Sim Blocking                   Blocking
  9. Write Response            Blocking                  Sim Blocking                   Blocking
  10. Wait for next Request     Blocking                  Non Blocking               Non Blocking
  11. Max Connections        maxConnections              maxConnections             maxConnections

6. 优化网络

Joel也明确提出了优化网卡驱动可以有效提升性能，这个对于集群环境工作的时候尤为重要。由于我们采用了Linux服务器，所以优化内核参数也是一个非常重要的工作。给一个参考的优化参数：

  1. 1. 修改/etc/sysctl.cnf文件，在最后追加如下内容：
  3. net.core.netdev_max_backlog = 32768
  4. net.core.somaxconn = 32768
  5. net.core.wmem_default = 8388608
  6. net.core.rmem_default = 8388608
  7. net.core.rmem_max = 16777216
  8. net.core.wmem_max = 16777216
  9. net.ipv4.ip_local_port_range = 1024 65000
  10. net.ipv4.route.gc_timeout = 100
  11. net.ipv4.tcp_fin_timeout = 30
  12. net.ipv4.tcp_keepalive_time = 1200
  13. net.ipv4.tcp_timestamps = 0
  14. net.ipv4.tcp_synack_retries = 2
  15. net.ipv4.tcp_syn_retries = 2
  16. net.ipv4.tcp_tw_recycle = 1
  17. net.ipv4.tcp_tw_reuse = 1
  18. net.ipv4.tcp_mem = 94500000 915000000 927000000
  19. net.ipv4.tcp_max_orphans = 3276800
  20. net.ipv4.tcp_max_syn_backlog = 65536
  22. 2. 保存退出，执行sysctl -p生效

7. 让测试说话

优化系统最忌讳的就是只调优不测试，有时不适当的优化反而会让性能更低。以上所有的优化方法都要在本地进行性能测试过后再不断调整参数，这样最终才能达到最佳的优化效果。

补充Bio、Nio、Apr模式的测试结果：

对于这几种模式，我用ab命令模拟1000并发测试10000词，测试结果比较意外，为了确认结果，我每种方式反复测试了10多次，并且在两个服务器上都测试了一遍。结果发现Bio和Nio性能差别非常微弱，难怪默认居然还是Bio。但是采用apr，连接建立的速度会有50%～100%的提升。直接调用操作系统层果然神速啊，这里强烈推荐apr方式！

最后编辑：
作者：李国庆
这个作者貌似有点懒，什么都没有留下。
站内专栏 站点
捐 赠如果您觉得这篇文章有用处，请支持作者！鼓励作者写出更好更多的文章！

您可能还会对这些文章感兴趣！

留下一个回复

你的email不会被公开。