Kubernetes DaemonSet
顾名思义，DaemonSet 的主要功能是可在 K8s 集群中运行一个守护进程 Pod。DaemonSet 可确保在所有（或部分）工作节上点运行 Pod 的副本。
随着节点被添加到集群中，Pod 也被添加进去。当从集群中删除节点时，这些 Pod 会被垃圾回收。删除DaemonSet将清理其创建的 Pod。与其他编排对象不同的是，DaemonSet 开始运行的时间往往早于整个 K8s 集群出现的时间。
守护进程 Pod 具有以下特点：

  • 它运行在 K8s 集群中的每个节点（大多数情况下）上
  • 每个节点上只有一个这样的 Pod
  • 当有新节点加入 K8s 集群时，就会在该新节点上自动创建 Pod
  • 当一个节点被删除时，Pod 会相应地被回收

DaemonSet的一些典型用途：

  • 在每个节点上运行集群存储守护进程，例如 ceph。
  • 在每个节点上运行日志收集守护进程，例如 fluentd。
  • 在每个节点上运行节点监控守护进程，例如 Prometheus node exporter。

    K8s 系统守护程序集

    事实上，K8s 本身就是使用 DaemonSet 来运行系统组件的。如果您运行以下命令：
    1. $ kubectl get daemonset -n kube-system
    2. NAME         DESIRED   CURRENT   READY   UP-TO-DATE   AVAILABLE   NODE SELECTOR   AGE
    3. aws-node     2         2         2       2            2           <none>          160d
    4. kube-proxy   2         2         2       2            2           <none>          160d
    可以看到 K8s 集群中运行着 aws-node 和 kube-proxy 两个 DaemonSet 。

    DaemonSet 定义

    为了理解 DaemonSet 是如何工作的，首先需要看一下它的定义：
    1. apiVersion: apps/v1
    2. kind: DaemonSet
    3. metadata:
    4. name: fluentd-elasticsearch
    5. namespace: kube-system
    6. labels:
    7.   k8s-app: fluentd-logging
    8. spec:
    9. selector:
    10.   matchLabels:
    11.     name: fluentd-elasticsearch
    12. template:
    13.   metadata:
    14.     labels:
    15.       name: fluentd-elasticsearch
    16.   spec:
    17.     tolerations:
    18.     # this toleration is to have the daemonset runnable on master nodes
    19.     # remove it if your masters can't run pods
    20.     - key: node-role.kubernetes.io/master
    21.       operator: Exists
    22.       effect: NoSchedule
    23.     containers:
    24.     - name: fluentd-elasticsearch
    25.       image: quay.io/fluentd_elasticsearch/fluentd:v2.5.2
    26.       resources:
    27.         limits:
    28.           memory: 200Mi
    29.         requests:
    30.           cpu: 100m
    31.           memory: 200Mi
    32.       volumeMounts:
    33.       - name: varlog
    34.         mountPath: /var/log
    35.       - name: varlibdockercontainers
    36.         mountPath: /var/lib/docker/containers
    37.         readOnly: true
    38.     terminationGracePeriodSeconds: 30
    39.     volumes:
    40.     - name: varlog
    41.       hostPath:
    42.         path: /var/log
    43.     - name: varlibdockercontainers
    44.       hostPath:
    45.         path: /var/lib/docker/containers
    这个 DaemonSet 管理着一个 fluentd-elasticsearch 镜像 Pod。该镜像的功能非常有用：通过 fluentd 可将 Docker 容器中的日志转发到 ElasticSearch。
    需要注意的是，在 DaemonSet 上，为了防止它占用过多的主机资源，一般应该添加 resources 字段来限制它的 CPU 和内存使用。
    可以看到，DaemonSet 其实和 Deployment很像，只不过没有 replicas 字段；它还使用选择器来选择和管理所有带有 name=fluentd-elasticsearch 标签的 Pod。
    这些 Pod 模板也是用 template 字段定义的。在该字段中，使用 fluentd-elasticsearch:2.5.2 镜像定义了一个容器，该容器挂载了两个 hostPath 类型的卷，分别对应主机的 /var/log 和 /var/lib/docker/ 容器目录。
    很明显，fluentd 启动后，会从这两个目录中收集日志信息，然后转发给 ElasticSearch 保存。这样就可以通过 ElasticSearch 来轻松检索这些日志。

    在所有节点上运行 Pod

    那么 DaemonSet 是如何保证每个节点上只托管一个 Pod 的呢？这通常由守护进程集控制器DaemonSet Controller 处理。
    DaemonSet 控制器首先从 api-server 上获取所有节点的列表（从 etcd 获取数据），然后遍历所有节点，并检查当前每个节点上是否有 DaemonSet Pod 在运行。
    检查结果可能有以下三种情况：
  1. 没有这样的 Pod，就意味着是在该 Node 上创建这样的 Pod；
  2. 如果有这样的 Pod，但数量大于 1，则表示应该从该 Node 中删除多余的 Pod；
  3. 正好有 1 个这样的 Pod，说明这个节点是正常的。

如果要在选定节点上调度 Pod，则必须指定 .spec.template.spec.nodeSelector，然后 DaemonSet 控制器将在匹配节点选择器的节点上创建 Pod。如果不指定，则 DaemonSet 控制器将在所有节点上创建 Pod。例如：

  1. nodeSelector:
  2.     name: Node_Name

但是，在 K8s 项目中，nodeSelector 实际上是一个会被弃用的字段 因为，现在有一个功能更全的新字段来代替它，即：nodeAffinity。

nodeAffinity

举个例子吧：

  1. apiVersion: v1
  2. kind: Pod
  3. metadata:
  4.   name: with-node-affinity
  5. spec:
  6.   affinity:
  7.     nodeAffinity:
  8.       requiredDuringSchedulingIgnoredDuringExecution:
  9.         nodeSelectorTerms:
  10.         - matchExpressions:
  11.           - key: metadata.name
  12.             operator: In
  13.             values:
  14.             - node-name

在上面的例子中，声明了一个 spec.affinity 字段，并定义了一个 nodeAffinity。其中，spec.affinity 字段是 Pod 中与调度相关的字段。

  • requiredDuringSchedulingIgnoredDuringExecution：表示每次调度时都要考虑该 nodeAffinity。同时，这也意味着在某些情况下 nodeAffinity 也可以设置为被忽略；
  • 这个 Pod 以后只被允许在”metadata.name” 为 “node-name” 的节点上运行。

因此，DaemonSet 控制器在创建 Pod 时会自动将这样的 nodeAffinity 定义添加到 Pod 的 API 对象中。其中，需要绑定的节点名称为当前正在遍历的节点。

容忍度（Tolerations）

另外，DaemonSet 会自动为这个 Pod 添加另一个称为 tolerations 的调度相关字段。该字段意味着这个 Pod 将“容忍（Toleration）”一些节点“污点（Taint）”。
看一个例子：

  1. apiVersion: v1
  2. kind: Pod
  3. metadata:
  4.   name: with-toleration
  5. spec:
  6.   tolerations:
  7.   - key: node.kubernetes.io/unschedulable
  8.     operator: Exists
  9.     effect: NoSchedule

这个 Toleration 的意思是：“容忍”所有标记为不可调度的“污点”的节点；“容忍”的效果是允许调度。
正常情况下，标记为不可调度的“污点”的 Node 不会有任何 Pod 被调度（效果：NoSchedule）。但是，DaemonSet 会自动将这个特殊的 Toleration 添加到托管的 Pod 中，这样这些 Pod 就可以忽略这个限制，然后确保每个节点上都会调度一个 Pod。当然，如果节点出现故障，Pod 可能启动失败，DaemonSet 会一直尝试，直到 Pod 启动成功。

创建 DaemonSet

最后，创建这个 fluentd DaemonSet。执行以下命令：

  1. $ kubectl create -f fluentd-elasticsearch.yaml

创建成功之后，可以看到如下输出：

  1. $ kubectl get pod -n kube-system -l name=fluentd-elasticsearch
  2. NAME                          READY     STATUS    RESTARTS   AGE
  3. fluentd-elasticsearch-dqfv9   1/1       Running   0          10m
  4. fluentd-elasticsearch-pf9z5   1/1       Running   0          10m

此时，若想通过 kubectl get 查看 Kubernetes 集群中的 DaemonSet 对象，则：

  1. $ kubectl get ds -n kube-system fluentd-elasticsearch
  2. NAME                    DESIRED   CURRENT   READY     UP-TO-DATE   AVAILABLE   NODE SELECTOR   AGE
  3. fluentd-elasticsearch   2         2         2         2            2           <none>          1h

结论

DaemonSet 只管理 Pod 对象，然后通过 **nodeAffinity** 和 **Toleration** 的小功能保证每个节点上只有一个 Pod。这个控制器的实现原理和 Deployment 类似，应该简单易懂。