Nginx 负载均衡

负载均衡

Nginx的负载均衡使用upstream定义服务器组，后面跟着组名，组名后面是大括号包起来的服务器列表，每个服务器使用server开头，后面跟定义的服务器名字、服务器ip:port、参数；一个基本的upstream模块如下：

  1. upstream [服务器组名称]{
  2. 　　server [IP地址]:[端口号];
  3. 　　server [IP地址]:[端口号];
  4. 　　....
  5. }

在upstream模块定义完成后，要让指定的访问反向代理到服务器列表，格式如下：

  1. location ~ .*$ {
  2. 　　index index.jsp index.html;
  3. 　　proxy_pass http://[服务器组名称];
  4. }

SpringBoot项目准备

在进行Nginx负载均衡配置前，先搭建一个简单的后端应用项目：nginx-upstream

pom.xml文件

  1. <?xml version="1.0" encoding="UTF-8"?>
  2. <project xmlns="http://maven.apache.org/POM/4.0.0" xmlns:xsi="http://www.w3.org/2001/XMLSchema-instance"
  3.          xsi:schemaLocation="http://maven.apache.org/POM/4.0.0 https://maven.apache.org/xsd/maven-4.0.0.xsd">
  4.     <modelVersion>4.0.0</modelVersion>
  5.     <parent>
  6.         <groupId>org.springframework.boot</groupId>
  7.         <artifactId>spring-boot-starter-parent</artifactId>
  8.         <version>2.3.4.RELEASE</version>
  9.         <relativePath/> <!-- lookup parent from repository -->
  10.     </parent>
  11.     <groupId>com.fcant</groupId>
  12.     <artifactId>nginxloadbalance</artifactId>
  13.     <version>0.0.1-SNAPSHOT</version>
  14.     <name>NginxLoadBalance</name>
  15.     <description>Demo project for Spring Boot</description>
  17.     <properties>
  18.         <java.version>1.8</java.version>
  19.     </properties>
  21.     <dependencies>
  22.         <dependency>
  23.             <groupId>org.springframework.boot</groupId>
  24.             <artifactId>spring-boot-starter-web</artifactId>
  25.         </dependency>
  27.         <dependency>
  28.             <groupId>org.springframework.boot</groupId>
  29.             <artifactId>spring-boot-starter-test</artifactId>
  30.             <scope>test</scope>
  31.             <exclusions>
  32.                 <exclusion>
  33.                     <groupId>org.junit.vintage</groupId>
  34.                     <artifactId>junit-vintage-engine</artifactId>
  35.                 </exclusion>
  36.             </exclusions>
  37.         </dependency>
  38.     </dependencies>
  40.     <build>
  41.         <plugins>
  42.             <plugin>
  43.                 <groupId>org.springframework.boot</groupId>
  44.                 <artifactId>spring-boot-maven-plugin</artifactId>
  45.             </plugin>
  46.         </plugins>
  47.     </build>
  49. </project>

控制器controller

  1.  package com.fcant.nginxloadbalance.controller;
  3. import org.springframework.web.bind.annotation.GetMapping;
  4. import org.springframework.web.bind.annotation.RestController;
  6. /**
  7.  * HelloController
  8.  * <p>
  9.  * encoding:UTF-8
  10.  *
  11.  * @author Fcant 上午 10:21 2020/9/21/0021
  12.  */
  13. @RestController
  14. public class HelloController {
  16.     @GetMapping("/hello")
  17.     public String hello() {
  18.         return "Hello, I'm 8087";
  19.     }
  20. }

application.yml配置文件

  1. server:
  2.   port: 8086
  3. #  port: 8087
  4. spring:
  5.   application:
  6.     name: nginx-upstream

SpringBoot启动类

  1. import org.springframework.boot.SpringApplication;
  2. import org.springframework.boot.autoconfigure.SpringBootApplication;
  3. @SpringBootApplication
  4. public class Application {
  5.     public static void main(String[] args) {
  6.         SpringApplication.run(Application.class, args);
  7.     }
  8. }

因为只有一台电脑，为了演示Nginx负载均衡，后文会通过修改application.yml配置文件的端口和控制器controller的返回值来标识不同的应用服务器。
验证项目是否搭建成功

  1. http://127.0.0.1:8086/hello

image.png

  1. http://127.0.0.1:8087/hello

image.png

配置负载均衡

以下命令均在root用户下操作
进入Nginx的配置文件目录

  1. cd /usr/local/nginx/conf/
  2. vim nginx.conf

增加upstream模块配置

  1. upstream myserver {
  2.      server 192.168.56.1:8086;
  3.      server 192.168.56.1:8087;
  4. }

注意在http模块添加upstream
upstream可以有多个，名称不同即可。

配置location转发规则

  1. location / {   #首页负载之后端服务器
  2.      proxy_pass  http://myserver;  #通过upstrean定义的服务器组名调用后端服务器
  3.      proxy_set_header X-Real-IP $remote_addr;  #传递客户端的ip地址
  4. }

配置完成后可以使用如下命令启动Nginx

  1. /usr/local/nginx/sbin/nginx -c \
  2. /usr/local/nginx/conf/nginx.conf

验证

访问http://192.168.56.9/hello
返回出现的结果是随意的，有可能访问192.168.56.1:8086，可有可能192.168.56.1:8087。

Nginx的负载均衡算法

这样就完成了最基本的负载均衡，但是这并不能满足实际需求。目前Nginx的upstream模块支持6种方式的负载均衡策略（算法）：
轮询（默认方式）、
weight（权重方式）、
ip_hash（依据ip分配方式）、
least_conn（最少连接方式）、
fair（第三方提供的响应时间方式）、
url_hash（第三方通过的依据URL分配方式）。

1）轮询

最基本的配置方法，是upstream模块默认的负载均衡策略。每个请求会按时间顺序平均分配到不同的后端服务器。有如下参数：

  • fail_timeout: 与max_fails结合使用
  • max_fails: 在fail_timeout参数设置的时间内最大失败次数。如果在这个时间内，所有该服务器的请求都失败了，那么认为该服务器停机
  • fail_time: 服务器被认为停机的时长，默认10s（被认为停机的服务器尝试间隔？）
  • backup: 标记该服务器为备用服务器。当主服务器停止时，请求会被发送到它这里

  • down: 标记服务器永久停机 :::danger 注意：

  • down标记的服务器会自动剔除；

  • 缺省就是轮询；

  • 此策略适合服务器配置无状态且短平块的服务使用 :::

    2）weight

    权重方式，在轮询策略的基础上指定轮询的几率。也可以认为是在轮询的基础上新增了一个weight的参数，此参数指定轮询的几率，值为number。upstream模块配置模板如下：

    1. upstream [服务器组名称]{
    2. 　　server [IP地址]:[端口号] weight=2;
    3. 　　server [IP地址]:[端口号];
    4. 　　....
    5. }

    在该例子中，没有weight参数的服务器默认为1，weight的数值与访问比例成正比，所有weight值的总和为一个循环单位，服务器自身的weight值为循环单位内的轮询次数。 :::danger 注意：

  • 权重越高分配到的请求越多；

  • 此策略可以和least_conn策略、iphash策略结合使用；

  • 此策略比较适合服务器硬件配置差距较大的情况。 :::

    3）ip_hash

    依据ip分配方式，指定负载均衡器按照基于客户端IP的分配方式，这个方法确保了相同的客户端请求一致发送到相同的服务器，以保证session会话。这样每个访客都固定访问一个后端服务器，可以解决session不能跨服务器的问题。upstream模块配置模板如下：

    1. upstream [服务器组名称]{
    2. 　　ip_hash;
    3. 　　server [IP地址]:[端口号] weight=2;
    4. 　　server [IP地址]:[端口号];
    5. 　　....
    6. }

    :::danger 注意：

  • nginx1.3.1之前的版本不能在ip_hash中使用权重（weight）；

  • ip_hash不能与backup同时使用；
  • 此策略适合有状态服务的程序，比如session；

  • 当有服务器需要剔除，必须手动down掉。 :::

    4）least_conn

    　　最少连接方式，把请求发给链接数最少的后端服务器。轮询是把请求平均分配给各个后端，使它们的负载大致相同。但是，有些请求占用的时间很长，会导致其所在的后端负载较高。这种情况下，least_conn这种方式就可以达到更好的负载均衡效果。upstream模块配置模板如下：

    1. upstream [服务器组名称]{
    2. 　　least_conn;
    3. 　　server [IP地址]:[端口号] weight=2;
    4. 　　server [IP地址]:[端口号];
    5. 　　....
    6. }

    :::danger 注意：此策略适合请求处理时间长短不一造成的服务器过载情况; :::

    5）fair

    　　响应时间方式，按照服务器端的响应时间来分配请求，响应时间短的优先分配。upstream模块配置模板如下：

    1. upstream [服务器组名称]{
    2. 　　server [IP地址]:[端口号] weight=2;
    3. 　　server [IP地址]:[端口号];
    4. 　　....
    5. 　　fair;
    6. }

    :::danger 注意：需要安装第三方插件; :::

    6）url_hash

    url分配方式，按访问url的hash结果来分配请求，使每个url定向到同一个后端服务器，要配合缓存命中来使用。同一个资源多次请求可能会到达不同的服务器上，导致不必要的多次下载，缓存命中率不高，以及一些资源时间的浪费。而使用url_hash，可以使得同一个url（也就是同一个资源请求）会到达同一台服务器，一旦缓存住了资源，再次收到请求，就可以在缓存中读取。upstream模块配置模板如下：

    1. upstream [服务器组名称]{
    2. 　　hash $request_uri;
    3. 　　server [IP地址]:[端口号] weight=2;
    4. 　　server [IP地址]:[端口号];
    5. 　　....
    6. }

    :::danger 注意：

  • 需要安装第三方插件；

  • uri，是i，不是小写的L。 :::

    upstream相关变量

    变量名：$upstream_addr

    功能：该变量表示了处理该请求的 upstream 中 server 的地址

    变量名：$upstream_cache_status

    功能：该变量出现在 Nginx 0.8.3 版本中， 可能的值如下：

  • MISS - 缓存中未被命中

  • EXPIRED - 生存期期满，请求被传递到后端服务器
  • UPDATING - 生存期满，陈旧的响应被使用，因为proxy/fastcgi_cache_use_stale 升级
  • STALE - 生存期期满，陈旧的响应被使用，因为 proxy/fastcgi_cache_use_stale

  • HIT - 缓存命中

    变量名：$upstream_status

    功能：该变量为 upstream 中 server 的响应状态

    变量名：$upstream_response_time

    功能：upstream server 响应的时间，单位为秒，能够精准到毫秒。如果有多个 server 响应回答，那么会用逗号和冒号分隔开

    变量名：$upstream_http_$HEADER

    功能：HTTP 协议头。例如：$upstream_http_host

    负载均衡时记录处理流量的服务

    使用$upstream_addr变量可以获取负载服务的地址

    1. http {
    2.   #设定mime类型,类型由mime.type文件定义
    3.   include    mime.types;
    4.   default_type  application/octet-stream;
    5.   #设定日志格式
    6.   log_format  main  '$remote_addr - $remote_user [$time_local] "$request" '
    7.                     '$status $body_bytes_sent "$http_referer" '
    8.                     '"$http_user_agent" "$http_x_forwarded_for" "$upstream_addr"';
    10.   access_log  logs/access.log  main;