tomcat与JVM调优
- 调整tomcat参数进行优化
- 调整JVM参数进行优化

tomcat与JVM调优

tomcat服务器在JavaEE项目中使用率非常高，所以在生产环境对tomcat的优化也变得非常重要了。对于tomcat的优化，主要是从2个方面入手，一是，tomcat自身的配置，另一个是 tomcat所运行的jvm虚拟机的调优。
安装tomcat部署项目

配置tomcat8
1. 启动解压tomcat并配置

tar -xvf apache-tomcat-8.5.59.tar.gz cd apache-tomcat-8.5.59/conf/
#修改配置文件,配置tomcat管理用户 vim tomcat-users.xml #写入如下消息 
<role rolename="manager"/>
<role rolename="manager-gui"/> 
<role rolename="admin"/>
<role rolename="admin-gui"/> 
<user username="tomcat" password="tomcat" roles="admin-gui,admin,manager-gui,manager"/>
:wq 保存退出

配置可以访问Server Status
#如果是tomcat7,配置了tomcat用户就可以登录了,但是tomcat8不行,需要修改一个配置文件,否则访问会报403
vim webapps/manager/META-INF/context.xml

sameSiteCookies=”strict” />

:wq 保存退出

使用Apache Jmeter进行测试
将web应用部署到服务器之后，使用jmeter对其进行压力测试。
Apache Jmeter是开源的压力测试工具，我们借助于此工具进行测试，将测试出tomcat 的吞吐量等信息。
下载地址：http://jmeter.apache.org/download_jmeter.cgi
添加线程组，使用线程模拟用户的并发
设置1000个线程，每个线程循环10次，也就是tomcat会接收到10000个请求。

添加Http请求

添加监控

平均响应时间,单位毫秒: 1845
错误率: 0.18%
吞吐量:459.5/sec

调整tomcat参数进行优化

优化吞吐量

禁用AJP服务
什么是AJP呢？ AJP（Apache JServer Protocol）是定向包协议。WEB服务器和Servlet容器通过TCP连接来交互；为了节省SOCKET创建的昂贵代价，WEB服务器会尝试维护一个永久TCP连接到servlet容器，并且在多个请求和响应周期过程会重用连接。
Tomcat在 server.xml 中配置了两种连接器。

第一个连接器监听8080端口，负责建立HTTP连接。在通过浏览器访问Tomcat服务器的Web应用时，使用的就是这个连接器。
2. 第二个连接器监听8009端口，负责和其他的HTTP服务器建立连接。在把Tomcat与其他HTTP服务器集成时，就需要用到这个连接器。AJP连接器可以通过AJP协议和一个web容器进行交互Nginx+tomcat的架构，所以用不着AJP协议，所以把AJP连接器禁用。修改conf下的server.xml文件，将AJP服务禁用掉即可。

重启tomcat，查看效果。可以看到AJP服务以及不存在了。

设置执行器(线程池)

频繁地创建线程会造成性能浪费，所以使用线程池来优化：在tomcat中每一个用户请求都是一个线程，所以可以使用线程池提高性能。修改server.xml文件：

在页面中显示最大线程数为-1，这个是正常的，仅仅是显示的问题，实际使用的指定的值通过设置线程池，调整线程池相关的参数进行测试tomcat的性能。
设置:最大线程数为500，初始为50

<Executor name="tomcatThreadPool" namePrefix="catalina‐exec‐" maxThreads="500" minSpareThreads="50" prestartminSpareThreads="true"/>

吞吐量为702次/秒，性能有所提升。

设置最大等待队列

默认情况下，请求发送到tomcat，如果tomcat正忙，那么该请求会一直等待。这样虽然可以保证每个请求都能请求
到，但是请求时间就会边长。
有些时候，我们也不一定要求请求一定等待，可以设置最大等待队列大小，如果超过就不等待了。这样虽然有些请
求是失败的，但是请求时间会虽短。

<!‐‐最大等待数为100‐‐>
<Executor name="tomcatThreadPool" namePrefix="catalina‐exec‐" maxThreads="500" minSpareThreads="100" prestartminSpareThreads="true" maxQueueSize="100"/>

思考是不是线程数设置的越高越好
测试1:设置线程数如下
maxThreads=”500” minSpareThreads=”50”

测试2:设置线程数如下
maxThreads=”2000” minSpareThreads=”100”

测试3:设置线程数如下
maxThreads=”5000” minSpareThreads=”500”

结论：并不是设置线程数越多吞吐量越好。因此需要根据我们具体的场景进行响应的调试，选取一个较优的参数。

设置nio2的运行模式
tomcat的运行模式有3种：
1.bio 默认的模式,性能非常低下,没有经过任何优化处理和支持.
2.nio nio(new I/O)，是Java SE 1.4及后续版本提供的一种新的I/O操作方式(即java.nio包及其子包)。Java nio是一个基于缓冲区、并能提供非阻塞I/O操作的Java API，因此nio 也被看成是non-blocking I/O的缩写。它拥有比传统I/O操作(bio)更好的并发运行性能。
3.apr 安装起来最困难,但是从操作系统级别来解决异步的IO问题,大幅度的提高性能. 推荐使用nio，不过，在tomcat8中有最新的nio2，速度更快，建议使用nio2. 设置nio2：

<Connector executor="tomcatThreadPool" port="8080" protocol="org.apache.coyote.http11.Http11Nio2Protocol" connectionTimeout="20000" redirectPort="8443" />

tomcat8之前的版本用的是BIO，推荐使用NIO，tomcat8中有最新的NIO2，速度更快，建议使用NIO2。
将最大线程设置为500进行测试：

<Executor name="tomcatThreadPool" namePrefix="catalina‐exec‐" maxThreads="500" minSpareThreads="100" prestartminSpareThreads="true" maxQueueSize="100"/> 
<!‐‐ 设置nio2 ‐‐> 
<Connector executor="tomcatThreadPool" port="8080" protocol="org.apache.coyote.http11.Http11Nio2Protocol" connectionTimeout="20000" redirectPort="8443" />

理论上nio2的效果会优惠nio，多次执行,发现设定为nio2对于提升吞吐量效果不是很明显。大家可以根据自己的测试情况选择合适的io模型。

调整JVM参数进行优化

测试通过jvm参数进行优化，为了测试一致性，依然将最大线程数设置为500，启用nio2运行模式。
设置并行垃圾回收器

#年轻代、老年代均使用并行收集器，初始堆内存64M，最大堆内存512M 
JAVA_OPTS="-XX:+UseParallelGC -XX:+UseParallelOldGC -Xms64m -Xmx512m -XX:+PrintGCDetails - XX:+PrintGCTimeStamps -XX:+PrintGCDateStamps -XX:+PrintHeapAtGC -Xloggc:../logs/gc.log"

展示测试结果:
查看gc日志文件将gc.log文件上传到gceasy.io查看gc中是否存在问题。
vi catalina.sh：
将jvm参数添加进去—设置年轻代和老年代的垃圾收集器均为ParallelGC并行垃圾收集器。不设置jdk8默认也是使用
ParallelGC：

修改完catalina.sh文件后，重启tomcat：

sh startup.sh && tail -f ../logs/catalina.out

gc日志存放目录： apache-tomcat-8.5.34/logs/gc.log

测试结果比较接近，因为jdk8默认使用的也是ParallelGC垃圾收集器。

查看GC日志文件
将apache-tomcat-8.5.34/logs/gc.log 文件上传到gceasy.io查看gc中是否存在问题：
问题一: 年轻代和老年代空间大小分配不合理, 具体如下图

问题二: 0-100事件范围内执行MinorGC 太多

从图中可以看到0-100 100-200毫秒的gc 发生了9次和4次, 时间短,频率高,说明年轻代空间分配不合理,我们可以尝试多给年轻代分配空间,减少Minor GC 频率, 降低Pause GC事件,提高吞吐量.
问题三：下图中我们也能看到问题, Minor GC 发生了 14 次, Full GC 发生了2次。 Pause time 事件也较长。

调整年轻代大小
vi catalina.sh
对比下之前的配置，将初始堆大小，年轻代大小均进行提升

JAVA_OPTS="-XX:+UseParallelGC -XX:+UseParallelOldGC -Xms512m -Xmx512m -XX:NewRatio=2 - XX:SurvivorRatio=8 -XX:+PrintGCDetails -XX:+PrintGCTimeStamps -XX:+PrintGCDateStamps - XX:+PrintHeapAtGC -Xloggc:../logs/gc.log"

查看GC日志
**

效果：吞吐量保持在97%以上，同时Minor GC次数明显减少，停顿次数减少

设置G1垃圾收集器
理论上而言，设置为G1垃圾收集器，性能是会提升的。但是会受制于多方面的影响，也不一定绝对有提升。

#设置使用G1垃圾收集器最大停顿时间100毫秒，初始堆内存512m，最大堆内存512m JAVA_OPTS="-XX:+UseG1GC -XX:MaxGCPauseMillis=100 -Xms512m -Xmx512m -XX:+PrintGCDetails - XX:+PrintGCTimeStamps -XX:+PrintGCDateStamps -XX:+PrintHeapAtGC -Xloggc:../logs/gc.log"

vi cataliina.sh文件：

由上图可以看到吞吐量上升, GC执行次数降低

Java 知识点-持续更新