Pod 调度就绪性

特性状态: Kubernetes v1.30 [稳定版]

Pod 一旦创建就被认为可以进行调度。Kubernetes 调度器会尽职尽责地查找节点来放置所有待处理的 Pod。然而,在实际情况下,一些 Pod 可能会长时间处于“缺少必要资源”状态。这些 Pod 实际上以不必要的方式搅动调度器(和像 Cluster AutoScaler 这样的下游集成器)。

通过指定/删除 Pod 的 .spec.schedulingGates,您可以控制 Pod 何时被认为可以进行调度。

配置 Pod schedulingGates

schedulingGates 字段包含一个字符串列表,每个字符串字面量都被视为 Pod 在被认为可调度之前应该满足的条件。此字段只能在创建 Pod 时(由客户端创建或在准入期间发生变化)初始化。创建后,每个 schedulingGate 可以以任意顺序删除,但禁止添加新的 scheduling gate。

pod-scheduling-gates-diagram

图. Pod SchedulingGates

使用示例

要将 Pod 标记为未准备好进行调度,您可以使用一个或多个 scheduling gates 创建它,如下所示

apiVersion: v1
kind: Pod
metadata:
  name: test-pod
spec:
  schedulingGates:
  - name: example.com/foo
  - name: example.com/bar
  containers:
  - name: pause
    image: registry.k8s.io/pause:3.6

Pod 创建后,您可以使用以下命令检查其状态

kubectl get pod test-pod

输出显示它处于 SchedulingGated 状态

NAME       READY   STATUS            RESTARTS   AGE
test-pod   0/1     SchedulingGated   0          7s

您还可以通过运行以下命令来检查其 schedulingGates 字段

kubectl get pod test-pod -o jsonpath='{.spec.schedulingGates}'

输出为

[{"name":"example.com/foo"},{"name":"example.com/bar"}]

要告知调度器此 Pod 已准备好进行调度,您可以通过重新应用修改后的清单来完全删除其 schedulingGates

apiVersion: v1
kind: Pod
metadata:
  name: test-pod
spec:
  containers:
  - name: pause
    image: registry.k8s.io/pause:3.6

您可以通过运行以下命令来检查 schedulingGates 是否已清除

kubectl get pod test-pod -o jsonpath='{.spec.schedulingGates}'

输出应为空。并且您可以通过运行以下命令来检查其最新状态

kubectl get pod test-pod -o wide

鉴于 test-pod 不请求任何 CPU/内存资源,预计此 Pod 的状态将从之前的 SchedulingGated 转换为 Running

NAME       READY   STATUS    RESTARTS   AGE   IP         NODE
test-pod   1/1     Running   0          15s   10.0.0.4   node-2

可观测性

指标 scheduler_pending_pods 带有一个新的标签 "gated",用于区分 Pod 是已被尝试调度但声明为不可调度,还是被显式标记为未准备好进行调度。您可以使用 scheduler_pending_pods{queue="gated"} 来检查指标结果。

可变的 Pod 调度指令

您可以在 Pod 具有调度门控时更改它们的调度指令,但有一些限制。从高层次来看,您只能收紧 Pod 的调度指令。换句话说,更新后的指令将导致 Pod 只能调度到之前匹配的节点的子集上。更具体地说,更新 Pod 的调度指令的规则如下

  1. 对于 .spec.nodeSelector,只允许添加。如果不存在,则允许设置。

  2. 对于 spec.affinity.nodeAffinity,如果为 nil,则允许设置任何内容。

  3. 如果 NodeSelectorTerms 为空,则允许设置。如果非空,则只允许将 NodeSelectorRequirements 添加到 matchExpressionsfieldExpressions,并且不允许更改现有的 matchExpressionsfieldExpressions。这是因为 .requiredDuringSchedulingIgnoredDuringExecution.NodeSelectorTerms 中的项是 OR 的,而 nodeSelectorTerms[].matchExpressionsnodeSelectorTerms[].fieldExpressions 中的表达式是 AND 的。

  4. 对于 .preferredDuringSchedulingIgnoredDuringExecution,允许所有更新。这是因为首选项不是权威的,因此策略控制器不会验证这些项。

下一步

上次修改时间:2024 年 2 月 20 日下午 5:24 PST:将特性 PodSchedulingReadiness 提升为稳定版 (42af37b091)