自拍偷在线精品自拍偷,亚洲欧美中文日韩v在线观看不卡

kubeadm部署K8S集群并使用containerd做容器運(yùn)行時

作者：喬克
開源
Containerd是從Docker中分離的一個項(xiàng)目，旨在為Kubernetes提供容器運(yùn)行時，負(fù)責(zé)管理鏡像和容器的生命周期。不過Containerd是可以拋開Docker獨(dú)立工作的。

[[389249]]

前言

去年12月份，當(dāng)Kubernetes社區(qū)宣布1.20版本之后會逐步棄用dockershim，當(dāng)時也有很多自媒體在宣傳Kubernetes棄用Docker。其實(shí)，我覺得這是一種誤導(dǎo)，也許僅僅是為了蹭熱度。

dockershim是Kubernetes的一個組件，其作用是為了操作Docker。Docker是在2013年面世的，而Kubernetes是在2016年，所以Docker剛開始并沒有想到編排，也不會知道會出現(xiàn)Kubernetes這個龐然大物(它要是知道，也不會敗的那么快...)。但是Kubernetes在創(chuàng)建的時候就是以Docker作為容器運(yùn)行時，很多操作邏輯都是針對的Docker，隨著社區(qū)越來越健壯，為了兼容更多的容器運(yùn)行時，才將Docker的相關(guān)邏輯獨(dú)立出來組成了dockershim。

正因?yàn)檫@樣，只要Kubernetes的任何變動或者Docker的任何變動，都必須維護(hù)dockershim，這樣才能保證足夠的支持，但是通過dockershim操作Docker，其本質(zhì)還是操作Docker的底層運(yùn)行時Containerd，而且Containerd自身也是支持CRI(Container Runtime Interface)，那為什么還要繞一層Docker呢?是不是可以直接通過CRI和Containerd進(jìn)行交互?這也是社區(qū)希望啟動dockershim的原因之一吧。

那什么是Containerd呢?

Containerd是從Docker中分離的一個項(xiàng)目，旨在為Kubernetes提供容器運(yùn)行時，負(fù)責(zé)管理鏡像和容器的生命周期。不過Containerd是可以拋開Docker獨(dú)立工作的。它的特性如下：

  • 支持OCI鏡像規(guī)范，也就是runc
  • 支持OCI運(yùn)行時規(guī)范
  • 支持鏡像的pull
  • 支持容器網(wǎng)絡(luò)管理
  • 存儲支持多租戶
  • 支持容器運(yùn)行時和容器的生命周期管理
  • 支持管理網(wǎng)絡(luò)名稱空間

Containerd和Docker在命令使用上的一些區(qū)別主要如下：

可以看到使用方式大同小異。

下面介紹一下使用kubeadm安裝K8S集群，并使用containerd作為容器運(yùn)行時的具體安裝步驟。

環(huán)境說明

主機(jī)節(jié)點(diǎn)

 

軟件說明

軟件版本

環(huán)境準(zhǔn)備

(1)在每個節(jié)點(diǎn)上添加 hosts 信息：

$ cat /etc/hosts

  1. 192.168.0.5 k8s-master 
  2. 192.168.0.125 k8s-node01 

(2)禁用防火墻：

  1. $ systemctl stop firewalld 
  2. $ systemctl disable firewalld 

(3)禁用SELINUX：

  1. $ setenforce 0 
  2. $ cat /etc/selinux/config 
  3. SELINUX=disabled 

(4)創(chuàng)建/etc/sysctl.d/k8s.conf文件，添加如下內(nèi)容：

  1. net.bridge.bridge-nf-call-ip6tables = 1 
  2. net.bridge.bridge-nf-call-iptables = 1 
  3. net.ipv4.ip_forward = 1 

(5)執(zhí)行如下命令使修改生效：

  1. $ modprobe br_netfilter 
  2. $ sysctl -p /etc/sysctl.d/k8s.conf 

(6)安裝 ipvs

  1. $ cat > /etc/sysconfig/modules/ipvs.modules <<EOF 
  2. #!/bin/bash 
  3. modprobe -- ip_vs 
  4. modprobe -- ip_vs_rr 
  5. modprobe -- ip_vs_wrr 
  6. modprobe -- ip_vs_sh 
  7. modprobe -- nf_conntrack_ipv4 
  8. EOF 
  9. $ chmod 755 /etc/sysconfig/modules/ipvs.modules && bash /etc/sysconfig/modules/ipvs.modules && lsmod | grep -e ip_vs -e nf_conntrack_ipv4 

 上面腳本創(chuàng)建了的/etc/sysconfig/modules/ipvs.modules文件，保證在節(jié)點(diǎn)重啟后能自動加載所需模塊。使用lsmod | grep -e ip_vs -e nf_conntrack_ipv4命令查看是否已經(jīng)正確加載所需的內(nèi)核模塊。

(7)安裝了 ipset 軟件包：

  1. $ yum install ipset -y 

為了便于查看 ipvs 的代理規(guī)則，最好安裝一下管理工具 ipvsadm：

  1. $ yum install ipvsadm -y 

(8)同步服務(wù)器時間

  1. $ yum install chrony -y 
  2. $ systemctl enable chronyd 
  3. $ systemctl start chronyd 
  4. $ chronyc sources 

(9)關(guān)閉 swap 分區(qū)：

  1. $ swapoff -a 

(10)修改/etc/fstab文件，注釋掉 SWAP 的自動掛載，使用free -m確認(rèn) swap 已經(jīng)關(guān)閉。swappiness 參數(shù)調(diào)整，修改/etc/sysctl.d/k8s.conf添加下面一行：

  1. vm.swappiness=0 

執(zhí)行sysctl -p /etc/sysctl.d/k8s.conf使修改生效。

(11)接下來可以安裝 Containerd

  1. $ yum install -y yum-utils \ 
  2.  device-mapper-persistent-data \ 
  3.  lvm2 
  4. $ yum-config-manager \ 
  5.  --add-repo \ 
  6.  https://download.docker.com/linux/centos/docker-ce.repo 
  7. $ yum list | grep containerd 

可以選擇安裝一個版本，比如我們這里安裝最新版本：

  1. $ yum install containerd.io-1.4.4 -y 

(12)創(chuàng)建containerd配置文件：

  1. mkdir -p /etc/containerd 
  2. containerd config default > /etc/containerd/config.toml 
  3. # 替換配置文件 
  4. sed -i "s#k8s.gcr.io#registry.cn-hangzhou.aliyuncs.com/google_containers#g"  /etc/containerd/config.toml 
  5. sed -i '/containerd.runtimes.runc.options/a\ \ \ \ \ \ \ \ \ \ \ \ SystemdCgroup = true' /etc/containerd/config.toml 
  6. sed -i "s#https://registry-1.docker.io#https://registry.cn-hangzhou.aliyuncs.com#g"  /etc/containerd/config.toml 

(13)啟動Containerd:

  1. systemctl daemon-reload 
  2. systemctl enable containerd 
  3. systemctl restart containerd 

在確保 Containerd安裝完成后，上面的相關(guān)環(huán)境配置也完成了，現(xiàn)在我們就可以來安裝 Kubeadm 了，我們這里是通過指定yum 源的方式來進(jìn)行安裝，使用阿里云的源進(jìn)行安裝：

  1. cat <<EOF > /etc/yum.repos.d/kubernetes.repo 
  2. [kubernetes] 
  3. name=Kubernetes 
  4. baseurl=http://mirrors.aliyun.com/kubernetes/yum/repos/kubernetes-el7-x86_64 
  5. enabled=1 
  6. gpgcheck=0 
  7. repo_gpgcheck=0 
  8. gpgkey=http://mirrors.aliyun.com/kubernetes/yum/doc/yum-key.gpg 
  9.  http://mirrors.aliyun.com/kubernetes/yum/doc/rpm-package-key.gpg 
  10. EOF 

然后安裝 kubeadm、kubelet、kubectl(我安裝的是最新版，有版本要求自己設(shè)定版本)：

  1. $  yum install -y kubelet-1.20.5 kubeadm-1.20.5 kubectl-1.20.5 

設(shè)置運(yùn)行時：

  1. $ crictl config runtime-endpoint /run/containerd/containerd.sock 

可以看到我們這里安裝的是 v1.20.5版本，然后將 kubelet 設(shè)置成開機(jī)啟動：

  1. $ systemctl daemon-reload 
  2. $ systemctl enable kubelet && systemctl start kubelet 

到這里為止上面所有的操作都需要在所有節(jié)點(diǎn)執(zhí)行配置。

初始化集群

初始化Master

然后接下來在 master 節(jié)點(diǎn)配置 kubeadm 初始化文件，可以通過如下命令導(dǎo)出默認(rèn)的初始化配置：

  1. $ kubeadm config print init-defaults > kubeadm.yaml 

然后根據(jù)我們自己的需求修改配置，比如修改 imageRepository 的值，kube-proxy 的模式為 ipvs，需要注意的是由于我們使用的containerd作為運(yùn)行時，所以在初始化節(jié)點(diǎn)的時候需要指定cgroupDriver為systemd【1】

  1. apiVersion: kubeadm.k8s.io/v1beta2 
  2. bootstrapTokens: 
  3. - groups: 
  4.   - system:bootstrappers:kubeadm:default-node-token 
  5.   token: abcdef.0123456789abcdef 
  6.   ttl: 24h0m0s 
  7.   usages: 
  8.   - signing 
  9.   - authentication 
  10. kind: InitConfiguration 
  11. localAPIEndpoint: 
  12.   advertiseAddress: 192.168.0.5  
  13.   bindPort: 6443 
  14. nodeRegistration: 
  15.   criSocket: /run/containerd/containerd.sock  
  16.   name: k8s-master 
  17.   taints: 
  18.   - effect: NoSchedule 
  19.     key: node-role.kubernetes.io/master 
  20. --- 
  21. apiServer: 
  22.   timeoutForControlPlane: 4m0s 
  23. apiVersion: kubeadm.k8s.io/v1beta2 
  24. certificatesDir: /etc/kubernetes/pki 
  25. clusterName: kubernetes 
  26. controllerManager: {} 
  27. dns: 
  28.   type: CoreDNS 
  29. etcd: 
  30.   local: 
  31.     dataDir: /var/lib/etcd 
  32. imageRepository: registry.cn-hangzhou.aliyuncs.com/google_containers 
  33. kind: ClusterConfiguration 
  34. kubernetesVersion: v1.20.5 
  35. networking: 
  36.   dnsDomain: cluster.local 
  37.   podSubnet: 172.16.0.0/16 
  38.   serviceSubnet: 10.96.0.0/12 
  39. scheduler: {} 
  40. --- 
  41. apiVersion: kubeproxy.config.k8s.io/v1alpha1 
  42. kind: KubeProxyConfiguration 
  43. mode: ipvs 
  44. --- 
  45. apiVersion: kubelet.config.k8s.io/v1beta1 
  46. kind: KubeletConfiguration 
  47. cgroupDriver: systemd 

然后使用上面的配置文件進(jìn)行初始化：

  1. $ kubeadm init --config=kubeadm.yaml 
  2.  
  3. [init] Using Kubernetes version: v1.20.5 
  4. [preflight] Running pre-flight checks 
  5. [preflight] Pulling images required for setting up a Kubernetes cluster 
  6. [preflight] This might take a minute or two, depending on the speed of your internet connection 
  7. [preflight] You can also perform this action in beforehand using 'kubeadm config images pull' 
  8. [certs] Using certificateDir folder "/etc/kubernetes/pki" 
  9. [certs] Generating "ca" certificate and key 
  10. [certs] Generating "apiserver" certificate and key 
  11. [certs] apiserver serving cert is signed for DNS names [k8s-master kubernetes kubernetes.default kubernetes.default.svc kubernetes.default.svc.cluster.local] and IPs [10.96.0.1 192.168.0.5] 
  12. [certs] Generating "apiserver-kubelet-client" certificate and key 
  13. [certs] Generating "front-proxy-ca" certificate and key 
  14. [certs] Generating "front-proxy-client" certificate and key 
  15. [certs] Generating "etcd/ca" certificate and key 
  16. [certs] Generating "etcd/server" certificate and key 
  17. [certs] etcd/server serving cert is signed for DNS names [k8s-master localhost] and IPs [192.168.0.5 127.0.0.1 ::1] 
  18. [certs] Generating "etcd/peer" certificate and key 
  19. [certs] etcd/peer serving cert is signed for DNS names [k8s-master localhost] and IPs [192.168.0.5 127.0.0.1 ::1] 
  20. [certs] Generating "etcd/healthcheck-client" certificate and key 
  21. [certs] Generating "apiserver-etcd-client" certificate and key 
  22. [certs] Generating "sa" key and public key 
  23. [kubeconfig] Using kubeconfig folder "/etc/kubernetes" 
  24. [kubeconfig] Writing "admin.conf" kubeconfig file 
  25. [kubeconfig] Writing "kubelet.conf" kubeconfig file 
  26. [kubeconfig] Writing "controller-manager.conf" kubeconfig file 
  27. [kubeconfig] Writing "scheduler.conf" kubeconfig file 
  28. [kubelet-start] Writing kubelet environment file with flags to file "/var/lib/kubelet/kubeadm-flags.env" 
  29. [kubelet-start] Writing kubelet configuration to file "/var/lib/kubelet/config.yaml" 
  30. [kubelet-start] Starting the kubelet 
  31. [control-plane] Using manifest folder "/etc/kubernetes/manifests" 
  32. [control-plane] Creating static Pod manifest for "kube-apiserver" 
  33. [control-plane] Creating static Pod manifest for "kube-controller-manager" 
  34. [control-plane] Creating static Pod manifest for "kube-scheduler" 
  35. [etcd] Creating static Pod manifest for local etcd in "/etc/kubernetes/manifests" 
  36. [wait-control-plane] Waiting for the kubelet to boot up the control plane as static Pods from directory "/etc/kubernetes/manifests". This can take up to 4m0s 
  37. [kubelet-check] Initial timeout of 40s passed. 
  38. [apiclient] All control plane components are healthy after 70.001862 seconds 
  39. [upload-config] Storing the configuration used in ConfigMap "kubeadm-config" in the "kube-system" Namespace 
  40. [kubelet] Creating a ConfigMap "kubelet-config-1.20" in namespace kube-system with the configuration for the kubelets in the cluster 
  41. [upload-certs] Skipping phase. Please see --upload-certs 
  42. [mark-control-plane] Marking the node k8s-master as control-plane by adding the labels "node-role.kubernetes.io/master=''" and "node-role.kubernetes.io/control-plane='' (deprecated)" 
  43. [mark-control-plane] Marking the node k8s-master as control-plane by adding the taints [node-role.kubernetes.io/master:NoSchedule] 
  44. [bootstrap-token] Using token: abcdef.0123456789abcdef 
  45. [bootstrap-token] Configuring bootstrap tokens, cluster-info ConfigMap, RBAC Roles 
  46. [bootstrap-token] configured RBAC rules to allow Node Bootstrap tokens to get nodes 
  47. [bootstrap-token] configured RBAC rules to allow Node Bootstrap tokens to post CSRs in order for nodes to get long term certificate credentials 
  48. [bootstrap-token] configured RBAC rules to allow the csrapprover controller automatically approve CSRs from a Node Bootstrap Token 
  49. [bootstrap-token] configured RBAC rules to allow certificate rotation for all node client certificates in the cluster 
  50. [bootstrap-token] Creating the "cluster-info" ConfigMap in the "kube-public" namespace 
  51. [kubelet-finalize] Updating "/etc/kubernetes/kubelet.conf" to point to a rotatable kubelet client certificate and key 
  52. [addons] Applied essential addon: CoreDNS 
  53. [addons] Applied essential addon: kube-proxy 
  54.  
  55. Your Kubernetes control-plane has initialized successfully! 
  56.  
  57. To start using your cluster, you need to run the following as a regular user: 
  58.  
  59.   mkdir -p $HOME/.kube 
  60.   sudo cp -i /etc/kubernetes/admin.conf $HOME/.kube/config 
  61.   sudo chown $(id -u):$(id -g) $HOME/.kube/config 
  62.  
  63. Alternatively, if you are the root user, you can run: 
  64.  
  65.   export KUBECONFIG=/etc/kubernetes/admin.conf 
  66.  
  67. You should now deploy a pod network to the cluster. 
  68. Run "kubectl apply -f [podnetwork].yaml" with one of the options listed at: 
  69.   https://kubernetes.io/docs/concepts/cluster-administration/addons/ 
  70.  
  71. Then you can join any number of worker nodes by running the following on each as root: 
  72.  
  73. kubeadm join 192.168.0.5:6443 --token abcdef.0123456789abcdef \ 
  74.     --discovery-token-ca-cert-hash sha256:446623b965cdb0289c687e74af53f9e9c2063e854a42ee36be9aa249d3f0ccec 

拷貝 kubeconfig 文件

  1. $ mkdir -p $HOME/.kube 
  2. $ sudo cp -i /etc/kubernetes/admin.conf $HOME/.kube/config 
  3. $ sudo chown $(id -u):$(id -g) $HOME/.kube/config 

添加節(jié)點(diǎn)

記住初始化集群上面的配置和操作要提前做好，將 master 節(jié)點(diǎn)上面的 $HOME/.kube/config 文件拷貝到 node 節(jié)點(diǎn)對應(yīng)的文件中，安裝 kubeadm、kubelet、kubectl，然后執(zhí)行上面初始化完成后提示的 join 命令即可：

  1. # kubeadm join 192.168.0.5:6443 --token abcdef.0123456789abcdef \ 
  2. >     --discovery-token-ca-cert-hash sha256:446623b965cdb0289c687e74af53f9e9c2063e854a42ee36be9aa249d3f0ccec  
  3. [preflight] Running pre-flight checks 
  4. [preflight] Reading configuration from the cluster... 
  5. [preflight] FYI: You can look at this config file with 'kubectl -n kube-system get cm kubeadm-config -o yaml' 
  6. [kubelet-start] Writing kubelet configuration to file "/var/lib/kubelet/config.yaml" 
  7. [kubelet-start] Writing kubelet environment file with flags to file "/var/lib/kubelet/kubeadm-flags.env" 
  8. [kubelet-start] Starting the kubelet 
  9. [kubelet-start] Waiting for the kubelet to perform the TLS Bootstrap... 
  10.  
  11. This node has joined the cluster: 
  12. * Certificate signing request was sent to apiserver and a response was received. 
  13. * The Kubelet was informed of the new secure connection details. 
  14.  
  15. Run 'kubectl get nodes' on the control-plane to see this node join the cluster. 

如果忘記了上面的 join 命令可以使用命令kubeadm token create --print-join-command重新獲取。

執(zhí)行成功后運(yùn)行 get nodes 命令：

  1. $ kubectl get no 
  2. NAME         STATUS     ROLES                  AGE   VERSION 
  3. k8s-master   NotReady   control-plane,master   29m   v1.20.5 
  4. k8s-node01   NotReady   <none>                 28m   v1.20.5 

可以看到是 NotReady 狀態(tài)，這是因?yàn)檫€沒有安裝網(wǎng)絡(luò)插件，接下來安裝網(wǎng)絡(luò)插件，可以在文檔 https://kubernetes.io/docs/setup/production-environment/tools/kubeadm/create-cluster-kubeadm/ 中選擇我們自己的網(wǎng)絡(luò)插件，這里我們安裝 calio:

  1. $ wget https://docs.projectcalico.org/v3.8/manifests/calico.yaml 

# 因?yàn)橛泄?jié)點(diǎn)是多網(wǎng)卡，所以需要在資源清單文件中指定內(nèi)網(wǎng)網(wǎng)卡

$ vi calico.yaml

  1. ...... 
  2. spec: 
  3.  containers: 
  4.  - env: 
  5.  - name: DATASTORE_TYPE 
  6.    value: kubernetes 
  7.  - name: IP_AUTODETECTION_METHOD # DaemonSet中添加該環(huán)境變量 
  8.    value: interface=eth0 # 指定內(nèi)網(wǎng)網(wǎng)卡 
  9.  - name: WAIT_FOR_DATASTORE 
  10.    value: "true" 
  11. - name: CALICO_IPV4POOL_CIDR # 由于在init的時候配置的172網(wǎng)段，所以這里需要修改 
  12.   value: "172.16.0.0/16" 
  13.  
  14. ...... 

安裝calico網(wǎng)絡(luò)插件

  1. $ kubectl apply -f calico.yaml 

隔一會兒查看 Pod 運(yùn)行狀態(tài)：

  1. # kubectl get pod -n kube-system  
  2. NAME                                      READY   STATUS              RESTARTS   AGE 
  3. calico-kube-controllers-bcc6f659f-zmw8n   0/1     ContainerCreating   0          7m58s 
  4. calico-node-c4vv7                         1/1     Running             0          7m58s 
  5. calico-node-dtw7g                         0/1     PodInitializing     0          7m58s 
  6. coredns-54d67798b7-mrj2b                  1/1     Running             0          46m 
  7. coredns-54d67798b7-p667d                  1/1     Running             0          46m 
  8. etcd-k8s-master                           1/1     Running             0          46m 
  9. kube-apiserver-k8s-master                 1/1     Running             0          46m 
  10. kube-controller-manager-k8s-master        1/1     Running             0          46m 
  11. kube-proxy-clf4s                          1/1     Running             0          45m 
  12. kube-proxy-mt7tt                          1/1     Running             0          46m 
  13. kube-scheduler-k8s-master                 1/1     Running             0          46m 

網(wǎng)絡(luò)插件運(yùn)行成功了，node 狀態(tài)也正常了：

  1. # kubectl get nodes  
  2. NAME         STATUS   ROLES                  AGE   VERSION 
  3. k8s-master   Ready    control-plane,master   47m   v1.20.5 
  4. k8s-node01   Ready    <none>                 46m   v1.20.5 

用同樣的方法添加另外一個節(jié)點(diǎn)即可。

配置命令自動補(bǔ)全

  1. yum install -y bash-completion 
  2. source /usr/share/bash-completion/bash_completion 
  3. source <(kubectl completion bash) 
  4. echo "source <(kubectl completion bash)" >> ~/.bashrc 

參考文檔

【1】：https://github.com/containerd/containerd/issues/4857

【2】：https://github.com/containerd/containerd

 

責(zé)任編輯：姜華 來源： 運(yùn)維開發(fā)故事
kubeadmK8Scontainerd
相關(guān)推薦

2024-03-20 10:46:00

云原生容器

2021-09-02 05:37:22

Containerd Kubernetes 容器

2023-01-10 13:48:50

ContainerdCRI源碼

2025-03-19 08:01:10

Kubernetes集群源碼

2019-07-12 09:30:12

DashboardDockerDNS

2021-09-11 15:38:23

容器運(yùn)行鏡像開放

2021-11-04 07:49:58

K8SStatefulSetMySQL

2022-01-02 08:42:50

架構(gòu)部署容器

2023-01-03 09:10:21

2021-08-18 06:40:54

KubernetesDocker Containerd

2023-08-29 08:20:35

Kubernete跨云容器

2024-07-15 18:20:18

2020-08-11 08:59:20

容器虛擬化技術(shù)

2021-10-22 00:09:16

Kubernetes容器接口

2023-03-05 21:50:46

K8s集群容量

2023-09-03 23:58:23

k8s集群容量

2023-09-06 08:12:04

k8s云原生

2015-07-20 15:44:46

Swift框架MJExtension反射

2023-07-04 07:30:03

容器Pod組件

2022-02-07 08:42:28

k8sdocker命令
點(diǎn)贊
收藏

51CTO技術(shù)棧公眾號