主要介绍kubernetes的流量负载组件：Service和Ingress。

1 Service介绍

  • 在kubernetes中，Pod是应用程序的载体，我们可以通过Pod的IP来访问应用程序，但是Pod的IP地址不是固定的，这就意味着不方便直接采用Pod的IP对服务进行访问。
  • 为了解决这个问题，kubernetes提供了Service资源，Service会对提供同一个服务的多个Pod进行聚合，并且提供一个统一的入口地址，通过访问Service的入口地址就能访问到后面的Pod服务。

Service介绍.png

  • Service在很多情况下只是一个概念，真正起作用的其实是kube-proxy服务进程，每个Node节点上都运行了一个kube-proxy的服务进程。当创建Service的时候会通过API Server向etcd写入创建的Service的信息，而kube-proxy会基于监听的机制发现这种Service的变化，然后它会将最新的Service信息转换为对应的访问规则。

Service原理.png

  1. # 10.97.97.97:80 是service提供的访问入口
  2. # 当访问这个入口的时候，可以发现后面有三个pod的服务在等待调用，
  3. # kube-proxy会基于rr（轮询）的策略，将请求分发到其中一个pod上去
  4. # 这个规则会同时在集群内的所有节点上都生成，所以在任何一个节点上访问都可以。
  5. [root@k8s-node1 ~]# ipvsadm -Ln
  6. IP Virtual Server version 1.2.1 (size=4096)
  7. Prot LocalAddress:Port Scheduler Flags
  8.  -> RemoteAddress:Port  Forward Weight ActiveConn InActConn
  9.  TCP 10.97.97.97:80 rr
  10.   -> 10.244.1.39:80   Masq  1  0  0
  11.   -> 10.244.1.40:80   Masq  1  0  0
  12.   -> 10.244.2.33:80   Masq  1  0  0
  • kube-proxy目前支持三种工作模式：
    • userspace模式：
      • userspace模式下，kube-proxy会为每一个Service创建一个监听端口，发向Cluster IP的请求被iptables规则重定向到kube-proxy监听的端口上，kube-proxy根据LB算法（负载均衡算法）选择一个提供服务的Pod并和其建立连接，以便将请求转发到Pod上。
      • 该模式下，kube-proxy充当了一个四层负载均衡器的角色。由于kube-proxy运行在userspace中，在进行转发处理的时候会增加内核和用户空间之间的数据拷贝，虽然比较稳定，但是效率非常低下。

userspace模式.png

  • iptables模式：
    • iptables模式下，kube-proxy为Service后端的每个Pod创建对应的iptables规则，直接将发向Cluster IP的请求重定向到一个Pod的IP上。
    • 该模式下kube-proxy不承担四层负载均衡器的角色，只负责创建iptables规则。该模式的优点在于较userspace模式效率更高，但是不能提供灵活的LB策略，当后端Pod不可用的时候无法进行重试。

iptables模式.png

  • ipvs模式：
    • ipvs模式和iptables类似，kube-proxy监控Pod的变化并创建相应的ipvs规则。ipvs相对iptables转发效率更高，除此之外，ipvs支持更多的LB算法。

ipvs模式.png

  • 开启ipvs（必须安装ipvs内核模块，否则会降级为iptables）：
  1. kubectl edit cm kube-proxy -n kube-system

编辑kube-proxy.gif

  1. kubectl delete pod -l k8s-app=kube-proxy -n kube-system

删除指定的kube-proxy让k8s重建新的kube-proxy.png

  1. # 测试ipvs模块是否开启成功
  2. ipvsadm -Ln

测试ipvs是否开启成功.png

2 Service类型

  • Service的资源清单：
  1. apiVersion: v1 # 版本
  2. kind: Service # 类型
  3. metadata: # 元数据
  4.   name: # 资源名称
  5.   namespace: # 命名空间
  6. spec:
  7.   selector: # 标签选择器，用于确定当前Service代理那些Pod
  8.     app: nginx
  9.   type: NodePort # Service的类型，指定Service的访问方式
  10.   clusterIP: # 虚拟服务的IP地址
  11.   sessionAffinity: # session亲和性，支持ClientIP、None两个选项，默认值为None
  12.   ports: # 端口信息
  13.     - port: 8080 # Service端口
  14.       protocol: TCP # 协议
  15.       targetPort : # Pod端口
  16.       nodePort:  # 主机端口

spec.type的说明：

  • ClusterIP：默认值，它是kubernetes系统自动分配的虚拟IP，只能在集群内部访问。
  • NodePort：将Service通过指定的Node上的端口暴露给外部，通过此方法，就可以在集群外部访问服务。
  • LoadBalancer：使用外接负载均衡器完成到服务的负载分发，注意此模式需要外部云环境的支持。
  • ExternalName：把集群外部的服务引入集群内部，直接使用。

3 Service使用

3.1 实验环境准备

  • 在使用Service之前，首先利用Deployment创建出3个Pod，注意要为Pod设置app=nginx-pod的标签。
  • 创建deployment.yaml文件，内容如下：
  1. apiVersion: apps/v1
  2. kind: Deployment
  3. metadata:
  4.   name: pc-deployment
  5.   namespace: dev
  6. spec:
  7.   replicas: 3
  8.   selector:
  9.     matchLabels:
  10.       app: nginx-pod
  11.   template:
  12.     metadata:
  13.       labels:
  14.         app: nginx-pod
  15.     spec:
  16.       containers:
  17.         - name: nginx
  18.           image: nginx:1.17.1
  19.           ports:
  20.             - containerPort: 80
  • 创建Deployment：
  1. kubectl create -f deployment.yaml

Service实验准备之创建Deployment.png

  • 查看Pod信息：
  1. kubectl get pod -n dev -o wide --show-labels

Service实验准备之查看Pod信息.png

  • 为了方便后面的测试，修改三台Nginx的index.html：
  1. kubectl exec -it  pc-deployment-7d7dd5499b-59qkm -c nginx -n dev /bin/sh
  1. echo "10.244.1.30" > /usr/share/nginx/html/index.html

修改Nginx的首页.gif

  1. kubectl exec -it pc-deployment-7d7dd5499b-fwpgx -c nginx -n dev /bin/sh
  1. echo "10.244.1.31" > /usr/share/nginx/html/index.html
  1. kubectl exec -it pc-deployment-7d7dd5499b-nb6sv -c nginx -n dev /bin/sh
  1. echo "10.244.2.67" > /usr/share/nginx/html/index.html
  • 修改完毕之后，测试访问：
  1. curl 10.244.1.30
  1. curl 10.244.1.31
  1. curl 10.244.2.67

修改完毕，测试访问.png

3.2 ClusterIP类型的Service

3.2.1 创建Service

  • 创建service-clusterip.yaml文件，内容如下：
  1. apiVersion: v1
  2. kind: Service
  3. metadata:
  4.   name: service-clusterip
  5.   namespace: dev
  6. spec:
  7.   selector:
  8.     app: nginx-pod
  9.   clusterIP: 10.97.97.97 # service的IP地址，如果不写，默认会生成一个
  10.   type: ClusterIP
  11.   ports:
  12.     - port: 80 # Service的端口
  13.       targetPort: 80 # Pod的端口
  • 创建Service：
  1. kubectl create -f service-clusterip.yaml

ClusterIP类型的Service之创建Service.png

3.2.2 查看Service

  • 查看Service：
  1. kubectl get svc -n dev -o wide

ClusterIP类型的Service之查看Service.png

3.2.3 查看Service的详细信息

  • 查看Service的详细信息：
  1. kubectl describe svc service-clusterip -n dev

ClusterIP类型的Service之查看Service详细信息.png

3.2.4 查看ipvs的映射规则

  • 查看ipvs的映射规则：
  1. ipvsadm -Ln

查看ipvs的映射规则.png

3.2.5 访问10.97.97.97:80，观察效果

  • 访问10.97.97.97:80，观察效果：
  1. curl 10.97.97.97:80

ClusterIP类型的Service之访问10.97.97.97观察效果，.png

3.2.6 Endpoint（实际中使用的不多）

  • Endpoint是kubernetes中的一个资源对象，存储在etcd中，用来记录一个service对应的所有Pod的访问地址，它是根据service配置文件中的selector描述产生的。
  • 一个service由一组Pod组成，这些Pod通过Endpoints暴露出来，Endpoints是实现实际服务的端点集合。换言之，service和Pod之间的联系是通过Endpoints实现的。

Endpoint概述.png

  • 查看Endpoint：
  1. kubectl get endpoints -n dev -o wide

查看Endpoint.png

3.2.7 负载分发策略

  • 对Service的访问被分发到了后端的Pod上去，目前kubernetes提供了两种负载分发策略：
    • 如果不定义，默认使用kube-proxy的策略，比如随机、轮询等。
    • 基于客户端地址的会话保持模式，即来自同一个客户端发起的所有请求都会转发到固定的一个Pod上，这对于传统基于Session的认证项目来说很友好，此模式可以在spec中添加sessionAffinity: ClusterIP选项。
  • 查看ipvs的映射规则，rr表示轮询：
  1. ipvsadm -Ln

查看ipvs的映射规则，rr表示轮询.png

  • 循环测试访问：
  1. while true;do curl 10.97.97.97:80; sleep 5; done;

循环测试访问.png

  • 修改分发策略：
  1. apiVersion: v1
  2. kind: Service
  3. metadata:
  4.   name: service-clusterip
  5.   namespace: dev
  6. spec:
  7.   selector:
  8.     app: nginx-pod
  9.   clusterIP: 10.97.97.97 # service的IP地址，如果不写，默认会生成一个
  10.   type: ClusterIP
  11.   sessionAffinity: ClientIP # 修改分发策略为基于客户端地址的会话保持模式
  12.   ports:
  13.     - port: 80 # Service的端口
  14.       targetPort: 80 # Pod的端口
  1. kubectl apply -f service-clusterip.yaml

修改分发策略.png

  • 循环测试访问：
  1. while true;do curl 10.97.97.97:80; sleep 5; done;

再次循环测试访问.png

3.2.8 删除Service

  • 删除Service：
  1. kubectl delete -f service-clusterip.yaml

ClusterIP类型的Service之删除Service.png

3.3 HeadLiness类型的Service

3.3.1 概述

  • 在某些场景中，开发人员可能不想使用Service提供的负载均衡功能，而希望自己来控制负载均衡策略，针对这种情况，kubernetes提供了HeadLinesss Service，这类Service不会分配Cluster IP，如果想要访问Service，只能通过Service的域名进行查询。

3.3.2 创建Service

  • 创建service-headliness.yaml文件，内容如下：
  1. apiVersion: v1
  2. kind: Service
  3. metadata:
  4.   name: service-headliness
  5.   namespace: dev
  6. spec:
  7.   selector:
  8.     app: nginx-pod
  9.   clusterIP: None # 将clusterIP设置为None，即可创建headliness Service
  10.   type: ClusterIP
  11.   ports:
  12.     - port: 80 # Service的端口
  13.       targetPort: 80 # Pod的端口
  • 创建Service：
  1. kubectl create -f service-headliness.yaml

HeadLiness类型的Service之创建Service.png

3.3.3 查看Service

  • 查看Service：
  1. kubectl get svc service-headliness -n dev -o wide

HeadLiness类型的Service之查看Service.png

3.3.4 查看Service详情

  • 查看Service详情：
  1. kubectl describe svc service-headliness -n dev

HeadLiness类型的Service之查看Service详情.png

3.3.5 查看域名解析情况

  • 查看Pod：
  1. kubectl get pod -n dev

HeadLiness类型的Service之查看Pod.png

  • 进入Pod中，执行cat /etc/resolv.conf命令：
  1. kubectl exec -it pc-deployment-7d7dd5499b-59qkm -n dev /bin/sh
  1. cat /etc/resolv.conf

HeadLiness类型的Service之查看域名解析情况.png

3.3.6 通过Service的域名进行查询

  • 通过Service的域名进行查询：
  1. dig @10.96.0.10 service-headliness.dev.svc.cluster.local

3.4 NodePort类型的Service

3.4.1 概述

  • 在之前的案例中，创建的Service的IP地址只能在集群内部才可以访问，如果希望Service暴露给集群外部使用，那么就需要使用到另外一种类型的Service，称为NodePort类型的Service。NodePort的工作原理就是将Service的端口映射到Node的一个端口上，然后就可以通过NodeIP:NodePort来访问Service了。

NodePort类型的Service之概述.png

3.4.2 创建Service

  • 创建service-nodeport.yaml文件，内容如下：
  1. apiVersion: v1
  2. kind: Service
  3. metadata:
  4.   name: service-nodeport
  5.   namespace: dev
  6. spec:
  7.   selector:
  8.     app: nginx-pod
  9.   type: NodePort # Service类型为NodePort
  10.   ports:
  11.     - port: 80 # Service的端口
  12.       targetPort: 80 # Pod的端口
  13.       nodePort: 30002 # 指定绑定的node的端口（默认取值范围是30000~32767），如果不指定，会默认分配
  • 创建Service：
  1. kubectl create -f service-nodeport.yaml

NodePort类型的Service之创建Service.png

3.4.3 查看Service

  • 查看Service：
  1. kubectl get svc service-nodeport -n dev -o wide

NodePort类型的Service之查看Service.png

3.4.4 访问

3.5 LoadBalancer类型的Service

  • LoadBalancer和NodePort很相似，目的都是向外部暴露一个端口，区别在于LoadBalancer会在集群的外部再来做一个负载均衡设备，而这个设备需要外部环境的支持，外部服务发送到这个设备上的请求，会被设备负载之后转发到集群中。

LoadBalancer类型的Service.png

3.6 ExternalName类型的Service

3.6.1 概述

  • ExternalName类型的Service用于引入集群外部的服务，它通过externalName属性指定一个服务的地址，然后在集群内部访问此Service就可以访问到外部的服务了。

ExternalName类型的Service之概述.png

3.6.2 创建Service

  • 创建service-externalname.yaml文件，内容如下：
  1. apiVersion: v1
  2. kind: Service
  3. metadata:
  4.   name: service-externalname
  5.   namespace: dev
  6. spec:
  7.   type: ExternalName # Service类型为ExternalName
  8.   externalName: www.baidu.com # 改成IP地址也可以
  • 创建Service：
  1. kubectl create -f service-externalname.yaml

ExternalName类型的Service之创建Service.png

3.6.3 域名解析

  • 域名解析：
  1. dig @10.96.0.10 service-externalname.dev.svc.cluster.local

4 Ingress介绍

  • 我们已经知道，Service对集群之外暴露服务的主要方式有两种：NodePort和LoadBalancer，但是这两种方式，都有一定的缺点：
    • NodePort方式的缺点是会占用很多集群机器的端口，那么当集群服务变多的时候，这个缺点就愈发明显。
    • LoadBalancer的缺点是每个Service都需要一个LB，浪费，麻烦，并且需要kubernetes之外的设备的支持。
  • 基于这种现状，kubernetes提供了Ingress资源对象，Ingress只需要一个NodePort或者一个LB就可以满足暴露多个Service的需求，工作机制大致如下图所示：

Ingress介绍.png

  • 实际上，Ingress相当于一个七层的负载均衡器，是kubernetes对反向代理的一个抽象，它的工作原理类似于Nginx，可以理解为Ingress里面建立了诸多映射规则，Ingress Controller通过监听这些配置规则并转化为Nginx的反向代理配置，然后对外提供服务。
    • Ingress：kubernetes中的一个对象，作用是定义请求如何转发到Service的规则。
    • Ingress Controller：具体实现反向代理及负载均衡的程序，对Ingress定义的规则进行解析，根据配置的规则来实现请求转发，实现的方式有很多，比如Nginx，Contour，Haproxy等。
  • Ingress（以Nginx）的工作原理如下：
    • K8s的Service详解 - 图37用户编写Ingress规则，说明那个域名对应kubernetes集群中的那个Service。
    • K8s的Service详解 - 图38Ingress控制器动态感知Ingress服务规则的变化，然后生成一段对应的Nginx的反向代理配置。
    • K8s的Service详解 - 图39Ingress控制器会将生成的Nginx配置写入到一个运行着的Nginx服务中，并动态更新。
    • K8s的Service详解 - 图40到此为止，其实真正在工作的就是一个Nginx了，内部配置了用户定义的请求规则。

Ingress工作原理.png

5 Ingress使用

5.1 环境准备

5.1.1 搭建Ingress环境

  • 创建文件夹，并进入到此文件夹中：
  1. mkdir ingress-controller
  1. cd ingress-controller
  1. wget https://raw.githubusercontent.com/kubernetes/ingress-nginx/nginx-0.30.0/deploy/static/mandatory.yaml
  1. wget https://raw.githubusercontent.com/kubernetes/ingress-nginx/nginx-0.30.0/deploy/static/provider/baremetal/service-nodeport.yaml
  • 创建Ingress-nginx：
  1. kubectl apply -f ./
  • 查看ingress-nginx：
  1. kubectl get pod -n ingress-nginx

Ingress使用准备环境之查看Ingress-nginx.png

  • 查看Service：
  1. kubectl get svc -n ingress-nginx

Ingress使用准备环境之查看Service.png

5.1.2 准备Service和Pod

  • 为了后面的实验比较方便，创建如下图所示的模型：

Ingress使用准备环境之准备Service和Pod.png

  • 创建tomcat-nginx.yaml文件，内容如下：
  1. apiVersion: apps/v1
  2. kind: Deployment
  3. metadata:
  4.   name: nginx-deployment
  5.   namespace: dev
  6. spec:
  7.   replicas: 3
  8.   selector:
  9.     matchLabels:
  10.       app: nginx-pod
  11.   template:
  12.     metadata:
  13.       labels:
  14.         app: nginx-pod
  15.     spec:
  16.       containers:
  17.       - name: nginx
  18.         image: nginx:1.17.1
  19.         ports:
  20.         - containerPort: 80
  22. ---
  24. apiVersion: apps/v1
  25. kind: Deployment
  26. metadata:
  27.   name: tomcat-deployment
  28.   namespace: dev
  29. spec:
  30.   replicas: 3
  31.   selector:
  32.     matchLabels:
  33.       app: tomcat-pod
  34.   template:
  35.     metadata:
  36.       labels:
  37.         app: tomcat-pod
  38.     spec:
  39.       containers:
  40.       - name: tomcat
  41.         image: tomcat:8.5-jre10-slim
  42.         ports:
  43.         - containerPort: 8080
  45. ---
  47. apiVersion: v1
  48. kind: Service
  49. metadata:
  50.   name: nginx-service
  51.   namespace: dev
  52. spec:
  53.   selector:
  54.     app: nginx-pod
  55.   clusterIP: None
  56.   type: ClusterIP
  57.   ports:
  58.   - port: 80
  59.     targetPort: 80
  61. ---
  63. apiVersion: v1
  64. kind: Service
  65. metadata:
  66.   name: tomcat-service
  67.   namespace: dev
  68. spec:
  69.   selector:
  70.     app: tomcat-pod
  71.   clusterIP: None
  72.   type: ClusterIP
  73.   ports:
  74.   - port: 8080
  75.     targetPort: 8080
  • 创建Service和Pod：
  1. kubectl create -f tomcat-nginx.yaml

Ingress使用准备环境之创建Service和Pod.png

  • 查看Service和Pod：
  1. kubectl get svc,pod -n dev

Ingress使用准备环境之查看Service和Pod.png

5.2 Http代理

  • 创建ingress-http.yaml文件，内容如下：
  1. apiVersion: extensions/v1beta1
  2. kind: Ingress
  3. metadata:
  4.   name: ingress-http
  5.   namespace: dev
  6. spec:
  7.   rules:
  8.   - host: nginx.xudaxian.com
  9.     http:
  10.       paths:
  11.       - path: /
  12.         backend:
  13.           serviceName: nginx-service
  14.           servicePort: 80
  15.   - host: tomcat.xudaxian.com
  16.     http:
  17.       paths:
  18.       - path: /
  19.         backend:
  20.           serviceName: tomcat-service
  21.           servicePort: 8080
  • 创建：
  1. kubectl create -f ingress-http.yaml

http代理之创建.png

  • 查看：
  1. kubectl get ingress ingress-http -n dev

http代理之查看.png

  • 查看详情：
  1. kubectl describe ingress ingress-http -n dev

http代理之查看详情.png

  • 在本机的hosts文件中添加如下的规则（192.168.209.100为Master节点的IP地址）：
  1. 192.168.209.100 nginx.xudaxian.com
  2. 192.168.209.100 tomcat.xudaxian.com

http代理之本机hosts添加规则.png

  • 查看ingress-nginx的端口（本次测试http的端口是30378，https的端口是31125）：
  1. kubectl get svc -n ingress-nginx

http代理之查看ingress-nginx的端口.png

  • 本机通过浏览器输入下面的地址访问：
  1. http://nginx.xudaxian.com:30378
  1. http://tomcat.xudaxian.com:30378

本机通过浏览器输入下面的地址访问1.png

本机通过浏览器输入下面的地址访问2.png

5.3 Https代理

  • 生成证书：
  1. openssl req -x509 -sha256 -nodes -days 365 -newkey rsa:2048 -keyout tls.key -out tls.crt -subj "/C=CN/ST=BJ/L=BJ/O=nginx/CN=xudaxian.com"

Https代理之生成证书.png

  • 创建密钥：
  1. kubectl create secret tls tls-secret --key tls.key --cert tls.crt

Https代理之创建密钥.png

  • 创建ingress-https.yaml文件，内容如下：
  1. apiVersion: extensions/v1beta1
  2. kind: Ingress
  3. metadata:
  4.   name: ingress-https
  5.   namespace: dev
  6. spec:
  7.   tls:
  8.     - hosts:
  9.       - nginx.xudaxian.com
  10.       - tomcat.xudaxian.com
  11.       secretName: tls-secret # 指定秘钥
  12.   rules:
  13.   - host: nginx.xudaxian.com
  14.     http:
  15.       paths:
  16.       - path: /
  17.         backend:
  18.           serviceName: nginx-service
  19.           servicePort: 80
  20.   - host: tomcat.xudaxian.com
  21.     http:
  22.       paths:
  23.       - path: /
  24.         backend:
  25.           serviceName: tomcat-service
  26.           servicePort: 8080
  • 创建：
  1. kubectl create -f ingress-https.yaml

Https代理之创建.png

  • 查看：
  1. kubectl get ingress ingress-https -n dev

Https代理之查看.png

  • 查看详情：
  1. kubectl describe ingress ingress-https -n dev

Https代理之查看详情.png

  • 在本机的hosts文件中添加如下的规则（192.168.209.100为Master节点的IP地址）：略。
  • 本机通过浏览器输入下面的地址访问：
  1. https://nginx.xudaxian.com:31125
  1. https://tomcat.xudaxian.com:31125

转载 https://www.yuque.com/fairy-era/yg511q/hwvr84