[[398025]]

Operator 概述

Operator 是 Kubernetes 的擴(kuò)展軟件，它利用 定制資源 管理應(yīng)用及其組件。Operator 遵循 Kubernetes 的理念，特別是在控制器 方面[^1]

k8s 的是一個高度自動化的系統(tǒng)，其中涵蓋了常見應(yīng)用程序所需的大部分功能，例如服務(wù)發(fā)現(xiàn)，負(fù)載均衡，HPA等等，這些功能是由 k8s 自帶的一些控制器實(shí)現(xiàn)的，但是需求總是永無止境的，當(dāng)我們有類似需求但是 k8s 又無法很好的滿足的時候我們就可以使用 Operator 和 Custome Resource(自定義資源)來達(dá)到類似的效果。

例如常見的需求就有部署一個數(shù)據(jù)庫，節(jié)點(diǎn)自動化運(yùn)維，日志采集組件配置等等

從 Operator 理念的提出到現(xiàn)在已經(jīng)有了很多工具可以幫助我們快速低成本的開發(fā)，其中最常用的就是 CoreOS 開源的 operator-sdk[^3]和 k8s sig 小組維護(hù)的 kubebuilder[^2]，我們這個系列選用 kubebuilder。

開始之前我們先了解兩個馬上就會涉及到的核心概念

GV & GVK & GVR

GV: Api Group & Version

• API Group 是相關(guān) API 功能的集合
• 每個 Group 擁有一或多個 Versions

GVK: Group Version Kind

• 每個 GV 都包含 N 個 api 類型，稱之為 Kinds，不同 Version 同一個 Kinds 可能不同

GVR: Group Version Resource

• Resource 是 Kind 的對象標(biāo)識，一般來 Kind 和 Resource 是 1:1 的，但是有時候存在 1:n 的關(guān)系，不過對于 Operator 來說都是 1:1 的關(guān)系

舉個🌰，我們在 k8s 中的 yaml 文件都有下面這么兩行，例如上篇文章我們部署的 nginx deployment

apiVersion: apps/v1 # 這個是 GV，G 是 apps，V 是 v1 
kind: Deployment    # 這個就是 Kind 
sepc:               # 加上下放的 spec 就是 Resource了 
  ... 

根據(jù) GVK K8s 就能找到你到底要創(chuàng)建什么類型的資源，根據(jù)你定義的 Spec 創(chuàng)建好資源之后就成為了 Resource，也就是 GVR。GVK/GVR 就是 K8s 資源的坐標(biāo)，是我們創(chuàng)建/刪除/修改/讀取資源的基礎(chǔ)[^4]。

KubeBuilder 簡明教程

安裝

訪問官方倉庫下載已經(jīng)編譯好的二進(jìn)制文件: Releases · kubernetes-sigs/kubebuilder (github.com)

• 本文編寫的時候 kubebuilder 已經(jīng)推出了 v3.0.0-rc.0 版本，所以為了避免剛寫完新版就已經(jīng) release 了的尷尬情況，本文直接使用的是 3.0 版本
• 下載好了之后記得將對應(yīng)文件加入 PATH 當(dāng)中

安裝成功之后使用 kubebuilder version 可以查看安裝的版本信息

❯ kubebuilder version 
Version: main.version{KubeBuilderVersion:"3.0.0-rc.0", KubernetesVendor:"1.19.2", GitCommit:"90fe4124c4c6965c6bfac63339888956952cda90", BuildDate:"2021-04-08T17:36:28Z", GoOs:"linux", GoArch:"amd64"} 

項目初始化

先創(chuàng)建一個空文件夾，然后在文件夾內(nèi)執(zhí)行下方命令

kubebuilder init --domain lailin.xyz --repo github.com/mohuishou/blog-code/k8s-operator/02-kubebuilder 

• –-domain lailin.xyz 我們的項目的域名
• --repo xxx 是倉庫地址，同時也是 go mode中的repo地址

如果你 golang 版本過低或者過高都有可能出現(xiàn)下方的錯誤信息，我這里是因為使用的 1.16 版本太高了

2021/04/25 20:47:14 failed to initialize project: unable to run pre-scaffold tasks of "base.go.kubebuilder.io/v3": go version 'go1.16' is incompatible because 'requires 1.13 <= version < 1.16'. You can skip this check using the --skip-go-version-check flag 

這種情況下可以添加 --skip-go-version-check 忽略這個錯誤，但是還是建議使用官方推薦的版本

kubebuilder init --domain lailin.xyz --repo github.com/mohuishou/blog-code/k8s-operator/02-kubebuilder --skip-go-version-check 

項目目錄

. 
├── Dockerfile 
├── Makefile # 這里定義了很多腳本命令，例如運(yùn)行測試，開始執(zhí)行等 
├── PROJECT  # 這里是 kubebuilder 的一些元數(shù)據(jù)信息 
├── config 
│   ├── default    # 一些默認(rèn)配置 
│   ├── manager    # 部署 crd 所需的 yaml 
│   ├── prometheus # 監(jiān)控指標(biāo)數(shù)據(jù)采集配置 
│   └── rbac # 部署所需的 rbac 授權(quán) yaml 
├── go.mod 
├── go.sum 
├── hack 
│   └── boilerplate.go.txt 
└── main.go 

創(chuàng)建 api

kubebuilder create api --group apps --version v1 --kind Application 

執(zhí)行之后我們可以發(fā)現(xiàn)項目結(jié)構(gòu)發(fā)生了一些變化

. 
├── api 
│   └── v1 
│       ├── application_types.go # 這里是定義 spec 的地方 
│       ├── groupversion_info.go # GV 的定義，一般無需修改 
│       └── zz_generated.deepcopy.go 
├── config 
│   ├── crd # 自動生成的 crd 文件，不用修改這里，只需要修改了 v1 中的 go 文件之后執(zhí)行 make generate 即可 
│   ├── default 
│   ├── manager 
│   ├── prometheus 
│   ├── rbac 
│   └── samples # 這里是 crd 示例文件，可以用來部署到集群當(dāng)中 
├── controllers 
│   ├── application_controller.go # 在這里實(shí)現(xiàn) controller 的邏輯 
│   └── suite_test.go # 這里寫測試 

實(shí)現(xiàn) Controller

定義 CR

// api/v1/application_types.go 
 
// ApplicationSpec defines the desired state of Application 
type ApplicationSpec struct { 
 // INSERT ADDITIONAL SPEC FIELDS - desired state of cluster 
 // Important: Run "make" to regenerate code after modifying this file 
 
 // Product 該應(yīng)用所屬的產(chǎn)品 
 Product string `json:"product,omitempty"` 
} 

修改之后我們執(zhí)行一下 make manifests generate 可以發(fā)現(xiàn)已經(jīng)生成了相關(guān)的字段，并且代碼中的字段注釋也就是 yaml 文件中的注釋

# config/crd/bases/apps.lailin.xyz_applications.yaml 
...... 
   properties: 
              product: 
                description: Product 該應(yīng)用所屬的產(chǎn)品 
                type: string 
...... 

實(shí)現(xiàn) controller

kubebuilder 已經(jīng)幫我們實(shí)現(xiàn)了 Operator 所需的大部分邏輯，我們只需要在 Reconcile 中實(shí)現(xiàn)業(yè)務(wù)邏輯就行了

// controllers/application_controller.go 
 
func (r *ApplicationReconciler) Reconcile(ctx context.Context, req ctrl.Request) (ctrl.Result, error) { 
 _ = r.Log.WithValues("application", req.NamespacedName) 
 
 r.Log.Info("app changed", "ns", req.Namespace) 
 
 return ctrl.Result{}, nil 
} 

邏輯修改好之后，我們先執(zhí)行 make install 安裝 CRD，然后執(zhí)行 make run運(yùn)行 controller

go run ./main.go 
2021-04-25T21:55:55.578+0800    INFO    controller-runtime.metrics     metrics server is starting to listen     {"addr": ":8080"} 
2021-04-25T21:55:55.579+0800    INFO    setup   starting manager 
2021-04-25T21:55:55.579+0800    INFO    controller-runtime.manager     starting metrics server  {"path": "/metrics"} 
2021-04-25T21:55:55.579+0800    INFO    controller-runtime.manager.controller.application       Starting EventSource    {"reconciler group": "apps.lailin.xyz", "reconciler kind": "Application", "source": "kind source: /, Kind="} 
2021-04-25T21:55:55.680+0800    INFO    controller-runtime.manager.controller.application       Starting Controller     {"reconciler group": "apps.lailin.xyz", "reconciler kind": "Application"} 
2021-04-25T21:55:55.680+0800    INFO    controller-runtime.manager.controller.application       Starting workers        {"reconciler group": "apps.lailin.xyz", "reconciler kind": "Application", "worker count": 1} 

然后我們部署一個測試的 crd kubectl apply -f config/samples/apps_v1_application.yaml

apiVersion: apps.lailin.xyz/v1 
kind: Application 
metadata: 
  name: application-sample 
spec: 
  # Add fields here 
  product: test 

然后可以看到之前寫的日志邏輯已經(jīng)觸發(fā)

2021-04-25T21:57:12.618+0800    INFO    controllers.Application app changed     {"ns": "default"} 

Kubebuilder 注釋

在生成的代碼當(dāng)中我們可以看到很多 //+kubebuilder:xxx 開頭的注釋，對 Go 比較熟悉的同學(xué)應(yīng)該知道這些注釋是給對應(yīng)的代碼生成器服務(wù)的，在 Go 中有一個比較常用的套路就是利用 go gennerate生成對應(yīng)的 go 代碼。

kubebuilder 使用 controller-gen 生成代碼和對應(yīng)的 yaml 文件，這其中主要包含 CRD 生成、驗證、處理還有 WebHook 的 RBAC 的生成功能，下面我簡單介紹一下，完整版可以看 kubebuilder 的官方文檔

CRD 生成

• //+kubebuilder:subresource:status 開啟 status 子資源，添加這個注釋之后就可以對 status進(jìn)行更新操作了
• //+groupName=nodes.lailin.xyz 指定 groupname
• //+kubebuilder:printcolumn 為 kubectl get xxx 添加一列，這個挺有用的
• ......

CRD 驗證，利用這個功能，我們只需要添加一些注釋，就給可以完成大部分需要校驗的功能

• //+kubebuilder:default:= 給字段設(shè)置默認(rèn)值
• //+kubebuilder:validation:Pattern:=string 使用正則驗證字段
• ......

Webhook

• //+kubebuilder:webhook 用于指定 webhook 如何生成，例如我們可以指定只監(jiān)聽 Update 事件的 webhook

RBAC 用于生成 rbac 的權(quán)限

• //+kubebuilder:rbac

總結(jié)

這篇文章主要講解了 kubebuilder的安裝使用方式，以及涉及到的一些簡單的概念，項目目錄結(jié)構(gòu)的說明，下一篇文章我們就一起來實(shí)現(xiàn)一個真實(shí)的 Operator 需求

參考文獻(xiàn)

[^1]: Operator 模式 | Kubernetes:

https://kubernetes.io/zh/docs/concepts/extend-kubernetes/operator/

[^2]: kubebuilder 官方文檔, 這個是 master 分支的文檔，待 3.0 發(fā)布后去掉 master 即可:

https://master.book.kubebuilder.io/quick-start.html

[^3]: operator-sdk:

https://sdk.operatorframework.io/

[^4]: 深入解析 Kubebuilder：讓編寫 CRD 變得更簡單:

https://developer.aliyun.com/article/719215