负载均衡

一、基本概念

为什么需要负载均衡？

1、服务端接收请求的时候，超出了最高的并发处理能力，该如何来解决
2、服务器如果宕机了，该如何解决
多台服务器进行性能的水平扩展以及避免单点故障的出现

什么是负载均衡？

系统的扩展可以分为纵向扩展和横向扩展纵向扩展是从单机的角度出发，通过增加系统的硬件处理能力来提升服务器的处理能力横向扩展是通过添加机器来满足大型网站服务的处理能力

这里面设计到两个重要的角色分别是”应用集群”和”负载均衡”
应用集群：将同一应用部署到多台机器上，组成处理集群，接收负载均衡设备分发的请求，进行处理并返回响应的数据。
负载均衡器：将用户访问的请求根据对应的负载均衡算法，分发到集群中的一台服务器进行处理。

负载均衡的作用：

1、解决服务器的高并发压力，提高应用程序的处理性能。
2、提供故障转移，实现高可用。
3、通过添加或减少服务器数量，增强网站的可扩展性。
4、在负载均衡器上进行过滤，可以提高系统的安全性。

负载均衡常用的处理方式

方式一：用户手动选择

方式二：DNS轮询方式

大多数域名注册商都支持对同一个主机名添加多条A记录，这就是DNS轮询，DNS服务器将解析请求按照A记录的顺序，随机分配到不同的IP上。

但是本地会缓存DNS解析结果，可以使用 ipconfig/flushdns 来手动清空缓存。
明显问题：
1、可靠性低，如果一台服务器宕机，那么所有的访问该服务器的请求将不会有所回应
2、负载均衡不均衡，因为本地缓存

方式三：四/七层负载均衡

OSI（Open System Interconnection）开放式系统互联模型，这个是由国际标准化组织ISO制定的一个不基于具体机型、操作系统或公司的网络体系结构。该模型将网络通信的工作分为七层。

应用层：为应用程序提供网络服务
表示层：对数据进行格式化、编码、加密、压缩等操作
会话层：建立、维护、管理会话连接
传输层：建立、维护、管理端到端的连接，常见的有UDP/TCP
网络层：IP寻址和路由选择
数据链路层：控制网络层与物理层之间的通信
物理层：比特流传输
所谓四层负载均衡指的是OSI模型中的传输层，主要是基于IP+PORT的负载均衡
所谓七层负载均衡指的是OSI模型中的应用层，主要是基于虚拟的URL或主机IP的负载均衡

实现四层负载均衡的方式：
硬件：F5 BIG-IP Radware等
软件：LVS Nginx Hayproxy等
实现七层负载均衡的方式：
软件：Nginx Hayproxy等

四层和七层负载均衡的区别：
1、四层负载均衡数据包是在底层就进行了分发，而七层负载均衡数据包则在最顶端进行分发，所以四层负载均衡的效率要比七层负载均衡的效率高；
2、四层负载均衡不识别域名，而七层负载均衡识别域名
处理四层和七层负载 其实还有二层、三层负载均衡，二层是在数据链路层基于mac地址来实现负载均衡，三层是在网络层一般采用虚拟IP地址的方式实现负载均衡
实际环境采用的模式：四层负载(LVS)+七层负载(Nginx)

二、Nginx七层负载均衡

Nginx需要实现七层负载均衡需要用到proxy_pass代理模块配置。Nginx默认安装支持这个模块。Nginx的负载均衡是在Nginx的反向代理基础上把用户的请求根据制定的算法分发到一组【upstream虚拟服务池】

2.1 Nginx七层负载均衡的指令

upstream指令

该指令是用来定义一组服务器，他们可以是监听不同端口的服务器，并且也可以是同时监听TCP和Unix socket的服务器。服务器可以制定不同的权重，默认为1。

server指令

该指令用来制定后端服务器的名称和一些参数，可以使用域名、IP、端口或者Unix socket

2.2 Nginx七层负载均衡的实现流程

服务端设置
47.110.48.67:8083

server {
    listen  9001;
    server_name     localhost;
    default_type    text/html;
    location  /{
            return 200 '<h1>152.136.178.244:9001</h1>';
    }
}
server {
    listen  9002;
    server_name     localhost;
    default_type    text/html;
    location  /{
            return 200 '<h1>152.136.178.244:9002</h1>';
    }
}
server {
    listen  9003;
    server_name     localhost;
    default_type    text/html;
    location  /{
            return 200 '<h1>152.136.178.244:9003</h1>';
    }
}

upstream backend {
    server  152.136.178.244:9001;
    server  152.136.178.244:9002;
    server  152.136.178.244:9003;
}
server {
    listen 8083;
    server_name     localhost;
    location / {
            proxy_pass http://backend;
    }
}

2.3 Nginx负载均衡状态

代理服务器在负载均衡调度中的状态有以下几个：

down

一般对于需要停机维护的服务器进行设置

upstream backend {
    server  152.136.178.244:9001 down;
    server  152.136.178.244:9002;
    server  152.136.178.244:9003;
}
server {
    listen 8083;
    server_name     localhost;
    location / {
            proxy_pass http://backend;
    }
}

backup

将该服务器标记为备份服务器，当主服务器不可用时，将用来传递请求
当9003宕机的时候，会使用9002

upstream backend {
    server  152.136.178.244:9001 down;
    server  152.136.178.244:9002 backup;
    server  152.136.178.244:9003;
}
server {
    listen 8083;
    server_name     localhost;
    location / {
            proxy_pass http://backend;
    }
}

max_conns

max_conns=number：用于设置代理服务器同时活动链接的最大数量，默认为0，表示不限制，使用该配置可以根据后端服务器处理请求的并发量来进行设置，防止后端服务器被压垮。

max_fails和fail_timeout

max_fails=number：设置允许请求代理服务器失败的次数，默认为1。
fail_timeout=time：设置经过max_fails失败后，服务器暂停的时间，默认是10秒。

upstream backend {
    server  152.136.178.244:9001 down;
    server  152.136.178.244:9002 backup;
    server  152.136.178.244:9003 max_fails=3 fail_timeout=15;
}
server {
    listen 8083;
    server_name     localhost;
    location / {
            proxy_pass http://backend;
    }
}

三、负载均衡策略

Nginx的upstream支持如下六种方式的分配算法，分别是：

3.1 轮询

按请求时间顺序逐个分配到不同的后端服务器，是默认的配置

3.2 weight加权[加权轮询]

weight=number：用来设置服务器的权重，默认为1，权重数据越大，被分配到请求的记录越大；该权重值主要是针对实际环境中不同的后端服务器硬件配置进行调整的，所以此策略比较适合服务器的硬件配置差别比较大的情况。

upstream backend {
    server  152.136.178.244:9001 weight=10;
    server  152.136.178.244:9002 weight=5;
    server  152.136.178.244:9003 weight=3;
}
server {
    listen 8083;
    server_name     localhost;
    location / {
            proxy_pass http://backend;
    }
}

3.3 ip_hash

session共享，如果需要做一个登录操作，把登录信息放到一个session中。
当对后端的多台动态应用服务器做负载均衡时，ip_hash指令能够将某个客户端IP的请求通过哈希算法定位到同一台后端服务器上。这样，当来自某一个IP的用户在后端Web服务器A上登录后，在访问该站点的其他URL，能保证器访问的还是后端Web服务器A。

upstream backend {
    ip_hash;
    server  152.136.178.244:9001 ;
    server  152.136.178.244:9002 ;
    server  152.136.178.244:9003 ;
}
server {
    listen 8083;
    server_name     localhost;
    location / {
            proxy_pass http://backend;
    }
}

缺点：无法保证后端服务器的负载均衡，可能导致有些后端服务器收到的请求多，有些后端服务器接收的请求少，而且设置后端服务器权重等方法将不起作用。
解决办法：通过redis缓存，将登录信息放在redis，不使用session使用redis

3.4 least_conn

最少连接，把请求转发给连接数较少的后端服务器。适合用在处理请求处理时间长短不一致造成服务器过载的情况。

upstream backend {
    least_conn;
    server  152.136.178.244:9001 ;
    server  152.136.178.244:9002 ;
    server  152.136.178.244:9003 ;
}

3.5 url_hash

按访问的url的hash结果来分配请求，使每个url定向到同一个后端服务器，要配合缓存命中来使用。同一个资源多次请求，可能会到达不同的服务器上，导致不必要的多次下载，缓存命中率不高，以及一些资源时间的浪费。而使用url_hash，可以使得同一个url（也就是同一个资源请求）会到达同一台服务器，一旦缓存住了资源，再次收到请求，可以从缓存中读取。

upstream backend {
    hash &request_uri;
    server  152.136.178.244:9001 ;
    server  152.136.178.244:9002 ;
    server  152.136.178.244:9003 ;
}

访问如下地址：

http://47.110.48.67:8083/a
http://47.110.48.67:8083/b
http://47.110.48.67:8083/c

3.6 fair

fair采用的不是内建负载均衡使用的轮换的均衡算法，而是可以根据页面大小、加载时间长短智能的进行负载均衡。那么如何使用第三方模块fair呢。
① 首先配置文件如下：

upstream backend {
    fair;
    server  152.136.178.244:9001 ;
    server  152.136.178.244:9002 ;
    server  152.136.178.244:9003 ;
}

② 下载nginx-upstream-fair模块

下载地址：https://github.com/gnosek/nginx-upstream-fair

③ 上传并解压

#解压
unzip nginx-upstream-fair-master.zip
#改名
mv nginx-upstream-fair-master fair
#查看路径
pwd
/home/nginx-module

四、Nginx四层负载均衡

—with-stream