这一小节中,我们将实战 Nginx 的四层和七层负载均衡功能。条件有限,使用一台公网主机,在上面搭建好 Nginx 服务。公网 IP 为 180.76.152.113。

首先会进行简单的四层负载均衡实验,不会涉及多种负载均衡算法,只使用默认的 Round-Robin算法。在后续的七层负载均衡实验中,会重点测试不同的负载均衡策略,完成相关实验。

Nginx的四层负载均衡实验

首先在 nginx.conf 中添加如下 stream 指令块配置:

  1. stream {
  2. server {
  3. listen 3000;
  4. return '3000 server get ip: $remote_addr!\n';
  5. }
  6. server {
  7. listen 3001;
  8. return '3001 server get ip: $remote_addr!\n';
  9. }
  10. upstream servers {
  11. server 127.0.0.1:3000 weight=2;
  12. server 127.0.0.1:3001;
  13. }
  14. server {
  15. listen 30;
  16. proxy_connect_timeout 3s;
  17. proxy_timeout 3s;
  18. proxy_pass servers;
  19. }
  20. }

上述配置用端口3000和3001模拟两个上游服务器,然后在 upstream 指令块中指定这两个上游服务器的地址,同时给第一个设置权重为2。由于默认采用的是加权的 Round-Robin 算法,默认服务器的权重为1。设置为2,表明3次请求中,2次会转发到3000端口,一次会转发到3001端口,下面的测试也验证了这一点。

  1. # 第一次请求,转发到3000
  2. [shen@shen ~]$ telnet 180.76.152.113 30
  3. Trying 180.76.152.113...
  4. Connected to 180.76.152.113.
  5. Escape character is '^]'.
  6. 3000 server get ip: 127.0.0.1!
  7. Connection closed by foreign host.
  8. [shen@shen ~]$ telnet 180.76.152.113 30
  9. Trying 180.76.152.113...
  10. Connected to 180.76.152.113.
  11. Escape character is '^]'.
  12. 3001 server get ip: 127.0.0.1!
  13. Connection closed by foreign host.
  14. [shen@shen ~]$ telnet 180.76.152.113 30
  15. Trying 180.76.152.113...
  16. Connected to 180.76.152.113.
  17. Escape character is '^]'.
  18. 3000 server get ip: 127.0.0.1!
  19. Connection closed by foreign host.
  20. [shen@shen ~]$ telnet 180.76.152.113 30
  21. Trying 180.76.152.113...
  22. Connected to 180.76.152.113.
  23. Escape character is '^]'.
  24. 3000 server get ip: 127.0.0.1!
  25. Connection closed by foreign host.

Nginx的七层负载均衡实验

和四层的配置其实差不多,在七层中除了测试最基本的,我们还将测试前面提到的几种负载均衡策略,进一步熟悉 Nginx 中的负载均衡配置。

简单的七层负载均衡

在 nginx.conf 中添加如下的 http 指令块:

  1. http {
  2. include mime.types;
  3. default_type application/octet-stream;
  4. log_format main '$remote_addr - $remote_user [$time_local] "$request" '
  5. '$status $body_bytes_sent "$http_referer" '
  6. '"$http_user_agent" "$http_x_forwarded_for"';
  7. access_log logs/access.log main;
  8. sendfile on;
  9. keepalive_timeout 65;
  10. gzip on;
  11. server {
  12. listen 8000;
  13. return 200 '8000, server\n';
  14. }
  15. server {
  16. listen 8001;
  17. return 200 '8001, server\n';
  18. }
  19. server {
  20. listen 8002;
  21. return 200 '8002, server\n';
  22. }
  23. upstream backends {
  24. # ip_hash
  25. # hash user_$arg_username;
  26. server 127.0.0.1:8000;
  27. server 127.0.0.1:8001;
  28. server 127.0.0.1:8002;
  29. }
  30. server {
  31. listen 80;
  32. location / {
  33. proxy_pass http://backends;
  34. proxy_http_version 1.1;
  35. proxy_set_header Connection "";
  36. }
  37. }
  38. }

上述配置中,我们用8000,8001和8002三个端口模拟了3个上游服务器,默认使用轮询负载均衡算法,而且三个的权重均为1。进行如下的 http 请求操作,可以看到 Nginx 转发 http 请求会均匀地分配到3个服务器上。

  1. [shen@shen ~]$ curl http://180.76.152.113
  2. 8000, server
  3. [shen@shen ~]$ curl http://180.76.152.113
  4. 8001, server
  5. [shen@shen ~]$ curl http://180.76.152.113
  6. 8002, server
  7. [shen@shen ~]$ curl http://180.76.152.113
  8. 8000, server

负载均衡的hash算法

我们打开 ip_hash 指令的注释,这个时候默认是使用客户端的 ip 地址作为 hash 的 key,然后重启 Nginx 服务并进行如下的命令行操作:

  1. # 使用本机的ip地址,无论请求多少出,通过hash转发到的上游服务器地址都是一致的
  2. [shen@shen ~]$ curl http://180.76.152.113
  3. 8002, server
  4. [shen@shen ~]$ curl http://180.76.152.113
  5. 8002, server
  6. [shen@shen ~]$ curl http://180.76.152.113
  7. 8002, server
  8. # 只有换了ip之后,请求转发的上游地址才可能有变化
  9. [shen@shen ~]$ curl -H 'X-Forwarded-For: 111.10.1.3' http://180.76.152.113
  10. 8000, server
  11. [shen@shen ~]$ curl -H 'X-Forwarded-For: 111.10.2.3' http://180.76.152.113
  12. 8001, server

使用其他key做hash

接下来,注释 iphash 指令,我们打开 hash user$arg_username 这行配置的注释, hash 指令可以让我们根据我们设置的 key 进行 hash,然后根据 hash 值选择上游的服务器。具体测试参看下面的 Linux 命令:

  1. [shen@shen ~]$ curl http://180.76.152.113?username=shen
  2. 8001, server
  3. [shen@shen ~]$ curl http://180.76.152.113?username=test
  4. 8000, server
  5. [shen@shen ~]$ curl http://180.76.152.113?username=test
  6. 8000, server
  7. [shen@shen ~]$ curl http://180.76.152.113?username=test
  8. 8000, server

这里我们可以看到,在请求中带上 username 参数,Nginx 中配置的 hash 算法会根据请求中带的 username 参数作为 key 去进行 hash,然后在根据 hash 结果映射上游服务器。username 相同时,选择的上游服务器肯定是一样的,只有在 username 的值发生变化时,返回的响应才可能有变化。

小结

今天我们完成了几个测试实验,主要是针对 Nginx 的四层和七层的负载均衡功能进行了测试。这个功能在微服务部署中会有较多的应用。因为高流量企业为保证服务的高可用性,往往会水平扩展多个相同功能的服务,部署在多台主机上,这个时候负载均衡技术就能派上用场了,而 Nginx 提供了完善的负载均衡功能以及多种负载均衡算法,能满足大部分企业的需求,如果还不够,可以通过编写内部开发模块并集成到 Nginx,实现相应的需求。所以说 Nginx 是非常值得学习和深入研究的。