1. 内置Tomcat优点

我们在使用springboot(版本:2.0.3.RELEASE)开发web项目时,大多数时候采用的是内置的Tomcat(当然也可以配置支持内置的jetty),内置Tomcat有什么好处呢?

1、方便微服务部署,减少繁杂的配置
2、方便项目启动,不需要单独下载web容器,如Tomcat,jetty等。

云服务器配置12核心,24G内存,java启动jar命令:

  1. nohup $JAVA_HOME/bin/java -server -Xms10240m -Xmx14336m -Xmn9216m -XX:MetaspaceSize=400m -XX:MaxMetaspaceSize=5120m -XX:-OmitStackTraceInFastThrow -XX:+PrintGCDetails -XX:+PrintGCDateStamps -XX:+PrintHeapAtGC -Xloggc:./song_gc.log -XX:ErrorFile=./song_error.log -jar $APP_HOME/$APP_MAINCLASS >> $LOG_FILE 2>&1 &

针对目前的容器优化,可以从以下几点考虑:
1、线程数 2、超时时间 3、JVM优化

2. 内置Tomcat优化方向

1. 线程数

首先,线程数是一个重点,每一次HTTP请求到达Web服务器,Web服务器都会创建一个线程来处理该请求,该参数决定了应用服务同时可以处理多少个HTTP请求。

比较重要的有两个:初始线程数最大线程数

初始线程数:保障启动的时候,如果有大量用户访问,能够很稳定的接受请求。最大线程数:用来保证系统的稳定性。

2. 超时时间

超时时间:用来保障连接数不容易被压垮。如果大批量的请求过来,延迟比较高,很容易把线程数用光,这时就需要提高超时时间。这种情况在生产中是比较常见的 ,一旦网络不稳定,宁愿丢包也不能把服务器压垮

  • min-spare-threads:最小备用线程数,tomcat启动时的初始化的线程数。

  • max-threads:Tomcat可创建的最大的线程数,每一个线程处理一个请求,超过这个请求数后,客户端请求只能排队,等有线程释放才能处理。(建议这个配置数可以在服务器CUP核心数的200~250倍之间)

  • accept-count:当调用Web服务的HTTP请求数达到tomcat的最大线程数时,还有新的HTTP请求到来,这时tomcat会将该请求放在等待队列中,这个acceptCount就是指能够接受的最大等待数,默认100。如果等待队列也被放满了,这个时候再来新的请求就会被tomcat拒绝(connection refused)。

  • max-connections:这个参数是指在同一时间,tomcat能够接受的最大连接数。一般这个值要大于(max-threads)+(accept-count)。

  • connection-timeout:最长等待时间,如果没有数据进来,等待一段时间后断开连接,释放线程。

在spring boot配置文件中application.yml,添加以下配置:
这块对tomcat进行了一个优化配置,最大线程数是2500,初始化线程是500,超时时间是12000ms;

  1. # Tomcat
  2. server:
  3. tomcat:
  4. uri-encoding: UTF-8
  5. #最小线程数
  6. min-spare-threads: 500
  7. #最大线程数
  8. max-threads: 2500
  9. #最大链接数
  10. max-connections: 6500
  11. #最大等待队列长度
  12. accept-count: 1000
  13. #请求头最大长度kb
  14. max-http-header-size: 1048576
  15. #请请求体最大长度kb
  16. #max-http-post-size: 2097152
  17. #服务http端口
  18. port: 8080
  19. #链接建立超时时间
  20. connection-timeout: 12000
  21. servlet:
  22. #访问根路径
  23. context-path: /song

3. JVM优化

JVM优化一般来说没有太多场景,无非就是加大初始的堆,和最大限制堆,当然也不能无限增大,要根据实际情况优化。

初始内存和最大内存基本会设置成一样的,具体大小根据场景设置,-server是一个必须要用的参数,至于收集器这些使用默认的就可以了,除非有特定需求。

1.使用-server模式:设置JVM使用server模式。64位JDK默认启动该模式。
2.指定堆参数:这个根据服务器的内存大小,来设置堆参数。
-Xms :设置Java堆栈的初始化大小
-Xmx :设置最大的java堆大小
设置初始化堆内存为10240MB,最大为14336MB。