Tomcat优化

Tomcat网络处理线程模型

BIO+同步Servlet

一个请求，一个工作线程，CPU利用率低。新版本中不再使用。

APR+异步Servlet

APR（Apache Portable Runtime/Apache可移植运行库），是Apache HTTP服务器的支持库。JNI的形式调用Apache HTTP服务器的核心动态链接库来处理文件读取或网络传输操作。Tomcat默认监听指定路径，如果有apr安装，则自动启用。

NIO+异步Servlet

Tomcat8开始，默认NIO方式，非阻塞读取请求信息，非阻塞处理下一个请求，完全异步。

NIO处理流程

1. 接收器接收套接字
2. 接收器从缓存中检索nioChannel对象
3. Pollerthread将nioChannel注册到它的选择器IO事件
4. 轮询器将NIOChannel分配给一个work线程来处理请求
5. SocketProcessor完成对请求的处理和返回

Tomcat参数调优

参数调优

不能靠经验猜测，需要通过不断调试，找出适合应用程序的合理配置。

1. 测试环境准备

jmeter地址: https://jmeter.apache.org/download_jmeter.cgi
下载地址:https://mirrors.tuna.tsinghua.edu.cn/apache/jmeter/binaries/apache-jmeter-5.3.zip
教程:http://www.cnblogs.com/jessicaxu/p/7501770.html
测试脚本:WebDemo测试用例.jmxWebDemo测试用例.jmx

1. 连接数 调整

总共连接数 = acceptCount+ connections
connections: Tomcat能接收的请求限制;
acceptCount: 超过Tomcat能接收的请求数以后，堆积在操作系统的数量(windows 和 linux 略有不同);

2.1 什么时候需要调整connections?如何调整?
connections小于maxThread的时候;需要调大;最好是比预期的最高并发数要大20%;反正是堆积到tomcat的work处理线程池中(堆积占内存);
2.2 什么时候需要调整acceptCount?
想受理更多用户请求，却又不想堆积在tomcat中，利用操作系统来高效的堆积，可以调整为最高并发数 -connections;
实际上不需要调整，tomcat默认100，linux默认128;最好是把连接控制交给应用程序，这样方便管理。
启动方式: java ­-jar web­-demo-­1.1.0.jar —­­server.tomcat.max­-connections=1 ­­ —server.tomcat.max­thread=1 —server.tomcat.acceptCount=1

1. 并发处理线程数 调整

线程太少，CPU利用率过低，程序的吞吐量变小，资源浪费，容易堆积。
线程太多，上下文频繁切换，性能反而变低。
3.1 线程数调为多少合适?
场景代入:服务器配置2核，不考虑内存问题。收到请求，java代码执行耗时50ms，等待数据返回50ms
理想的线程数量= (1 + 代码阻塞时间/代码执行时间) * cpu数量
实际情况是跑起代码，压测环境进行调试。不断调整线程数，将CPU打到80~90%的利用率。
java -­jar web­-demo­-1.1.0.jar —­­server.tomcat.max­-threads=500

1. 总结

请求多，CPU占用率高了，如果能接受很慢的响应，就加大。 否则就集群分流
认清现实，优化代码才是王道，配置只能是锦上添花!