升级 kubeadm 集群

本页面介绍如何将使用 kubeadm 创建的 Kubernetes 集群从 1.30.x 版本升级到 1.31.x 版本，以及从 1.31.x 版本升级到 1.31.y 版本（其中 y > x）。升级时跳过次要版本不受支持。有关更多详细信息，请访问 版本偏差策略。

要查看有关升级使用旧版 kubeadm 创建的集群的信息，请改用以下页面

升级工作流程总体上如下所示

  1. 升级主要控制平面节点。
  2. 升级其他控制平面节点。
  3. 升级工作节点。

开始之前

  • 确保仔细阅读 发行说明。
  • 集群应使用静态控制平面和 etcd Pod 或外部 etcd。
  • 确保备份任何重要组件，例如存储在数据库中的应用程序级状态。kubeadm upgrade 不会触碰您的工作负载，只会触碰 Kubernetes 内部组件，但备份始终是最佳做法。
  • 必须禁用交换。.

其他信息

  • 以下说明概述了在升级过程中何时应清空每个节点。如果您要对任何 kubelet 执行 **次要** 版本升级，则 **必须** 首先清空要升级的节点（或多个节点）。在控制平面节点的情况下，它们可能正在运行 CoreDNS Pod 或其他关键工作负载。有关更多信息，请参阅 清空节点。
  • Kubernetes 项目建议您匹配 kubelet 和 kubeadm 版本。您可以使用比 kubeadm 旧的 kubelet 版本，前提是该版本在支持的版本范围内。有关更多详细信息，请访问 kubeadm 与 kubelet 的偏差。
  • 升级后所有容器都会重启，因为容器规范哈希值已更改。
  • 要验证 kubelet 服务在 kubelet 升级后是否已成功重启，您可以执行 systemctl status kubelet 或使用 journalctl -xeu kubelet 查看服务日志。
  • kubeadm upgrade 支持 --config，并使用 UpgradeConfiguration API 类型，可用于配置升级过程。
  • kubeadm upgrade 不支持重新配置现有集群。请改为按照 重新配置 kubeadm 集群 中的步骤操作。

升级 etcd 时需注意事项

由于 kube-apiserver 静态 Pod 一直在运行（即使您已清空节点），因此当您执行包含 etcd 升级的 kubeadm 升级时，在新的 etcd 静态 Pod 重启期间，对服务器的正在进行的请求将处于挂起状态。作为解决方法，可以在启动 kubeadm upgrade apply 命令之前几秒钟主动停止 kube-apiserver 进程。这样可以完成正在进行的请求并关闭现有连接，从而最大限度地减少 etcd 停机的影响。这可以在控制平面节点上执行，方法如下

killall -s SIGTERM kube-apiserver # trigger a graceful kube-apiserver shutdown
sleep 20 # wait a little bit to permit completing in-flight requests
kubeadm upgrade ... # execute a kubeadm upgrade command

更改软件包存储库

如果您使用的是社区拥有的软件包存储库 (pkgs.k8s.io)，则需要为所需的 Kubernetes 次要版本启用软件包存储库。这在 更改 Kubernetes 软件包存储库 文档中进行了说明。

确定要升级到的版本

使用操作系统软件包管理器查找 Kubernetes 1.31 的最新补丁版本

# Find the latest 1.31 version in the list.
# It should look like 1.31.x-*, where x is the latest patch.
sudo apt update
sudo apt-cache madison kubeadm


# Find the latest 1.31 version in the list.
# It should look like 1.31.x-*, where x is the latest patch.
sudo yum list --showduplicates kubeadm --disableexcludes=kubernetes

升级控制平面节点

应一次升级一个控制平面节点上的升级过程。选择您要首先升级的控制平面节点。该节点必须具有 /etc/kubernetes/admin.conf 文件。

调用“kubeadm upgrade”

对于第一个控制平面节点

  1. 升级 kubeadm

    # replace x in 1.31.x-* with the latest patch version
sudo apt-mark unhold kubeadm && \
sudo apt-get update && sudo apt-get install -y kubeadm='1.31.x-*' && \
sudo apt-mark hold kubeadm


    # replace x in 1.31.x-* with the latest patch version
sudo yum install -y kubeadm-'1.31.x-*' --disableexcludes=kubernetes

  2. 验证下载是否有效且具有预期版本

    kubeadm version

  3. 验证升级计划

    sudo kubeadm upgrade plan

    此命令检查您的集群是否可以升级，并获取您可以升级到的版本。它还会显示一个表格，其中包含组件配置版本状态。

  4. 选择要升级到的版本，并运行相应的命令。例如

    # replace x with the patch version you picked for this upgrade
sudo kubeadm upgrade apply v1.31.x

    命令完成后，您应该看到

    [upgrade/successful] SUCCESS! Your cluster was upgraded to "v1.31.x". Enjoy!

[upgrade/kubelet] Now that your control plane is upgraded, please proceed with upgrading your kubelets if you haven't already done so.

  5. 手动升级 CNI 提供程序插件。

    您的容器网络接口 (CNI) 提供程序可能需要遵循自己的升级说明。查看 附加组件 页面以查找您的 CNI 提供程序，并查看是否需要其他升级步骤。

    如果 CNI 提供程序以 DaemonSet 的形式运行，则此步骤在其他控制平面节点上不需要。

对于其他控制平面节点

与第一个控制平面节点相同，但使用

sudo kubeadm upgrade node

代替

sudo kubeadm upgrade apply

另外，调用 kubeadm upgrade plan 和升级 CNI 提供程序插件也不再需要。

清空节点

通过将节点标记为不可调度并逐出工作负载，为维护准备节点

# replace <node-to-drain> with the name of your node you are draining
kubectl drain <node-to-drain> --ignore-daemonsets

升级 kubelet 和 kubectl

  1. 升级 kubelet 和 kubectl

    # replace x in 1.31.x-* with the latest patch version
sudo apt-mark unhold kubelet kubectl && \
sudo apt-get update && sudo apt-get install -y kubelet='1.31.x-*' kubectl='1.31.x-*' && \
sudo apt-mark hold kubelet kubectl


    # replace x in 1.31.x-* with the latest patch version
sudo yum install -y kubelet-'1.31.x-*' kubectl-'1.31.x-*' --disableexcludes=kubernetes

  2. 重启 kubelet

    sudo systemctl daemon-reload
sudo systemctl restart kubelet

取消隔离节点

通过将节点标记为可调度，将节点恢复联机

# replace <node-to-uncordon> with the name of your node
kubectl uncordon <node-to-uncordon>

升级工作节点

应一次升级一个工作节点上的升级过程，或者一次升级几个工作节点，而不会影响运行工作负载所需的最小容量。

以下页面显示了如何升级 Linux 和 Windows 工作节点

验证集群的状态

在所有节点上升级 kubelet 后，通过从 kubectl 可以访问集群的任何位置运行以下命令，验证所有节点是否再次可用

kubectl get nodes

STATUS 列应显示所有节点的 Ready，并且版本号应已更新。

从故障状态中恢复

如果 kubeadm upgrade 失败且未回滚，例如由于执行期间意外关机，则可以再次运行 kubeadm upgrade。此命令是幂等的，最终会确保实际状态与您声明的所需状态一致。

要从错误状态中恢复，您也可以运行 sudo kubeadm upgrade apply --force，而无需更改集群运行的版本。

在升级期间，kubeadm 会在 /etc/kubernetes/tmp 下写入以下备份文件夹

  • kubeadm-backup-etcd-<date>-<time>
  • kubeadm-backup-manifests-<date>-<time>

kubeadm-backup-etcd 包含此控制平面节点的本地 etcd 成员数据的备份。如果 etcd 升级失败，并且自动回滚不起作用，则可以将此文件夹的内容手动还原到 /var/lib/etcd 中。如果使用外部 etcd，则此备份文件夹将为空。

kubeadm-backup-manifests 包含此控制平面节点的静态 Pod 清单文件的备份。如果升级失败，并且自动回滚不起作用，则可以将此文件夹的内容手动还原到 /etc/kubernetes/manifests 中。如果由于某种原因，某个组件的升级前和升级后清单文件之间没有区别，则不会为该组件写入备份文件。

工作原理

kubeadm upgrade apply 执行以下操作

  • 检查您的集群是否处于可升级状态
    • API 服务器可访问
    • 所有节点都处于 Ready 状态
    • 控制平面正常
  • 强制执行版本偏差策略。
  • 确保控制平面映像可用或可供机器拉取。
  • 如果组件配置需要版本升级，则生成替换或使用用户提供的覆盖。
  • 升级控制平面组件，如果其中任何一个无法启动，则回滚。
  • 应用新的 CoreDNS 和 kube-proxy 清单，并确保创建所有必要的 RBAC 规则。
  • 创建 API 服务器的新证书和密钥文件，并在旧文件即将在 180 天内过期时备份旧文件。

kubeadm upgrade node 在其他控制平面节点上执行以下操作：

  • 从集群中获取 kubeadm ClusterConfiguration。
  • 选择性地备份 kube-apiserver 证书。
  • 升级控制平面组件的静态 Pod 清单。
  • 升级此节点的 kubelet 配置。

kubeadm upgrade node 在工作节点上执行以下操作：

  • 从集群中获取 kubeadm ClusterConfiguration。
  • 升级此节点的 kubelet 配置。
上次修改时间：2024 年 7 月 5 日下午 4:06 PST：kubeadm: 在所有文档示例中使用 v1beta4 (efc1133fa4)