调度说明

简介

是 kubernetes 的调度器，主要的任务是把定义的 pod 分配到集群的节点上。听起来非常简单，但有很多要考虑的问题：

公平：如何保证每个节点都能被分配资源
资源高效利用：集群所有资源最大化被使用
效率：调度的性能要好，能够尽快地对大批量的 pod 完成调度工作
灵活：允许用户根据自己的需求控制调度的逻辑

Sheduler 是作为单独的程序运行的，启动之后会一直坚挺 API Server，获取 Podspec.NodeName 为空的 pod，对每个pod都会创建一个binding，表明该pod应该放到哪个节点上

调度过程

调度分为几个部分：

首先是过滤掉不满足条件的节点，这个过程称为 predicate；
然后对通过的节点按照优先级排序，这个是priority；
最后从中选择优先级最高的节点。如果中间任何一步骤有错误，就直接返回错误。

Predicate 有一系列的算法可以使用：

PodFitsResources ：节点上剩余的资源是否大于pod 请求的资源
PodFitsHost ：如果pod 指定了NodeName，检查节点名称是否和NodeName匹配
PodFitsHostPorts ：节点上已经使用的port是否和pod申请的port冲突
PodselectorMatches ：过滤掉和pod指定的 label 不匹配的节点
NoDiskConflict ：已经mount的 volume和pod指定的volume不冲突，除非它们都是只读

如果在predicate 过程中没有合适的节点，pod 会一直在 pending 状态，不断重试调度，直到有节点满足条件。经过这个步骤，如果有多个节点满足条件，就继续 priorities 过程：按照优先级大小对节点排序。
优先级由一系列键值对组成，键是该优先级项的名称，值是它的权重（该项的重要性）。这些优先级选项包括：

LeastRequestedPriority ：通过计算CPU和Memory的使用率来决定权重，使用率越低权重越高。换句话说，这个优先级指标倾向于资源使用比例更低的节点
BalancedResourceAllocation ：节点上CPU和Memory使用率越接近，权重越高。这个应该和上面的一起使用，不应该单独使用
ImageLocalityPriority ：倾向于已经有要使用镜像的节点，镜像总大小值越大，权重越高通过算法对所有的优先级项目和权重进行计算，得出最终的结果

自定义调度器

除了kubernetes自带的调度器，你也可以编写自己的调度器。通过 spec:schedulername 参数指定调度器的名字，可以为pod选择某个调度器进行调度。比如下面的pod 选择 my-scheduler 进行调度，而不是默认的 default-scheduler ：

apiVersion: v1
kind: Pod
metadata:
  name: annotation-second-scheduler
  labels:
    name: multischeduler-example
spec:
  schedulername: my-scheduler
  containers:
  - name: pod-with-second-annotation-container
    image: gcr.io/google_containers/pause:2.0

调度亲和性

软策略：能匹配最好
硬策略：必须匹配

节点亲和性

pod.spec.nodeAffinity

preferredDuringSchedulinglgnoredDuringExecution：软策略
requiredDuringschedulinglgnoredDuringExecution：硬策略

requiredDuringschedulinglgnoredDuringExecution

apiVersion: v1
kind: Pod
metadata:
  name: affinity
  labels:
    app: node-affinity-pod
spec:
  containers:
  - name: with-node-affinity
    image: hub.atguigu.com/library/myapp:v1
  affinity:             # 亲和性
    nodeAffinity:        # node 的亲和性
      requiredDuringSchedulingIgnoredDuringExecution:    # 硬策略
        nodeSelectorTerms:        # node选择方案
        - matchExpressions:
          - key: kubernetes.io/hostname   # key名
            operator: NotIn     # 不在，只要 hostname 不等于 values 的值即可
            values:
            - k8s-node02     # 这就意味着 这个pod 始终会在node01上

preferredDuringSchedulinglgnoredDuringExecution

apiVersion: v1
kind: Pod
metadata:
  name: affinity
  labels:
    app: node-affinity-pod
spec:
  containers:
  - name: with-node-affinity
    image: hub.atguigu.com/library/myapp:v1
  affinity:
    nodeAffinity:
      preferredDuringSchedulingIgnoredDuringExecution:
      - weight: 1    # 权重为 1， 权重越大越亲和
        preference:
          matchExpressions:
          - key: source
            operator: In
            values:
            - qikqiak

合体

apiVersion: v1
kind: Pod
metadata:
  name: affinity
  labels:
    app: node-affinity-pod
spec:
  containers:
  - name: with-node-affinity
    image: hub.atguigu.com/library/myapp:v1
  affinity:
    nodeAffinity:
      requiredDuringSchedulingIgnoredDuringExecution:
        nodeSelectorTerms:
        - matchExpressions:
          - key: kubernetes.io/hostname
            operator: NotIn
            values:
            - k8s-node02
      preferredDuringSchedulingIgnoredDuringExecution:
      - weight: 1
        preference:
          matchExpressions:
          - key: source
            operator: In
            values:
            - qikqiak

键值运算关系

In: label 的值在某个列表中
Notln: label 的值不在某个列表中
Gt: label 的值大于某个值
Lt: label 的值小于某个值
Exists：某个 label 存在
DoesNotExist：某个 label 不存在

Pod 亲和性

pod.spec.affinity.podAffinity/podAntiAffinity

preferredDuringSchedulinglgnoredDuringExecution：软策略

requiredDuringschedulinglgnoredDuringExecution：硬策略

apiVersion: v1
kind: Pod
metadata:
name: pod-3
labels:
  app: pod-3
spec:
containers:
- name: pod-3
  image: hub.atguigu.com/library/myapp:v1
affinity:
  podAffinity:
    requiredDuringSchedulingIgnoredDuringExecution:
    - labelSelector:   # 标签选择
        matchExpressions:
        - key: app
          operator: In
          values:
          - pod-1
      topologyKey: kubernetes.io/hostname
  podAntiAffinity:
    preferredDuringSchedulingIgnoredDuringExecution:
    - weight: 1
      podAffinityTerm:
        labelSelector:
          matchExpressions:
          - key: app
            operator: In
            values:
            - pod-2
        topologyKey: kubernetes.io/hostname

亲和性/反亲和性调度策略比较如下：

| 调度策略 | 匹配标签 | 操作符 | 拓扑域支持 | 调度目标 | | —- | —- | —- | —- | —- | | nodeAffinity | 主机 | In，Notln，Exists，DoesNotExist，Gt，Lt | 否 | 指定主机 | | podAffinity | POD | In，NotIn，Exists，DoesNotExist | 是 | POD与指定POD同一拓扑域 | | podAnitAffinity | POD | In，NotIn，Exists，DoesNotExist | 是 | POD与指定POD不在同一拓扑域 |

污点

Taint 和Toleration

节点亲和性，是pod的一种属性（偏好或硬性要求），它使pod被吸引到一类特定的节点。Taint则相反，它使节点能够排斥一类特定的pod 。
Taint 和toleration 相互配合，可以用来避免pod 被分配到不合适的节点上。每个节点上都可以应用一个或多个taint，这表示对于那些不能容忍这些taint的pod，是不会被该节点接受的。如果将toleration 应用于pod上，则表示这些pod可以（但不要求）被调度到具有匹配taint的节点上

污点（Taint）

I、污点（Taint）的组成
使用 kubectl taint 命令可以给某个Node 节点设置污点，Node 被设置上污点之后就和Pod 之间存在了一种相斥的关系，可以让Node 拒绝Pod的调度执行，甚至将Node已经存在的Pod 驱逐出去每个污点的组成如下：

key=value:effect

每个污点有一个key和 value作为污点的标签，其中value可以为空，effect 描述污点的作用。当前taint effect 支持如下三个选项：

Noschedule ：表示k8s将不会将Pod 调度到具有该污点的Node上
PreferNoSchedule ：表示k8s 将尽量避免将Pod 调度到具有该污点的Node上
NoExecute ：表示k8s将不会将Pod 调度到具有该污点的Node上，同时会将Node上已经存在的Pod驱逐出去

Ⅱ、污点的设置、查看和去除

#设置污点
kubectl taint nodes node1 keyl=valuel:NoSchedule
#节点说明中，查找Taints字段
kubectl describe pod pod-name
#去除污点
kubectl taint nodes node1 key1：NoSchedule-

容忍（Tolerations）

设置了污点的 Node 将根据taint的effect:NoSchedule、PreferNoSchedule、NoExecute 和Pod之间产生互斥的关系，Pod将在一定程度上不会被调度到Node上。但我们可以在Pod上设置容忍（Toleration），意思是设置了容忍的Pod 将可以容忍污点的存在，可以被调度到存在污点的Node上
pod.spec.tolerations

tolerations:
- key: "key1"
  operator: "Equal"
  value: "value1"
  effect: "NoSchedule"
  tolerationSeconds: 3600
- key: "key1"
  operator: "Equal"
  value: "value1"
  effect: "NoExecute"
- key: "key2"
  operator: "Exists"
  effect: "NoSchedule"

其中key，vaule，effect 要与Node 上设置的taint保持一致
operator的值为Exists 将会忽略 value值
tolerationSeconds 用于描述当Pod 需要被驱逐时可以在Pod上继续保留运行的时间

I、当不指定key值时，表示容忍所有的污点key:

tolerations:
- operator: "Exists"

Ⅱ、当不指定 effect值时，表示容忍所有的污点作用

tolerations:
- key: "key"
  operator: "Exists"

Ⅲ、有多个Master 存在时，防止资源浪费，可以如下设置

kubectl taint nodes Node-Name node-role.kubernetes.io/master=:PreferNoSchedule

固定节点

指定调度节点

I、Pod.spec.nodeName 将Pod 直接调度到指定的Node节点上，会跳过Scheduler的调度策略，该匹配规则是强制匹配

apiVersion: extensions/v1beta1
kind: Deployment
metadata:
  name: myweb
spec:
  replicas: 7
  template:
    metadata:
      labels:
        app: myweb
    spec:
      nodeName: k8s-node01
      containers:
      - name: myweb
        image: hub.atguigu.com/library/myapp:v1
        ports:
        - containerPort: 80

Ⅱ、Pod.spec.nodeSelector：通过kubernetes的label-selector 机制选择节点，由调度器调度策略匹配label，而后调度Pod到目标节点，该匹配规则属于强制约束

apiVersion: extensions/v1beta1
kind: Deployment
metadata:
  name: myweb
spec:
  replicas: 2
  template:
    metadata:
      labels:
        app: myweb
    spec:
      nodeSelector:
        type: backEndNode1
      containers:
      - name: myweb
        image: harbor/tomcat：8.5-jre8
        ports:
        - containerPort: 80

k8s -- Scheduler