Metadata 的概念

在創(chuàng)建虛擬機(jī)的時候，用戶往往需要對虛擬機(jī)進(jìn)行一些配置，比如：開啟一些服務(wù)、安裝某些包、添加 SSH 秘鑰、配置 hostname 等等。在 OpenStack 中，這些配置信息被分成兩類：metadata 和 user data。Metadata 主要包括虛擬機(jī)自身的一些常用屬性，如 hostname、網(wǎng)絡(luò)配置信息、SSH 登陸秘鑰等，主要的形式為鍵值對。而 user data 主要包括一些命令、腳本等。User data 通過文件傳遞，并支持多種文件格式，包括 gzip 壓縮文件、shell 腳本、cloud-init 配置文件等。雖然 metadata 和 user data 并不相同，但是 OpenStack 向虛擬機(jī)提供這兩種信息的機(jī)制是一致的，只是虛擬機(jī)在獲取到信息后，對兩者的處理方式不同罷了。所以下文統(tǒng)一用 matadata 來描述。

本文詳細(xì)闡述了 OpenStack 中 metadata 的服務(wù)機(jī)制，通過深入了解 metadata 的服務(wù)機(jī)制，用戶可以在適當(dāng)?shù)膽?yīng)用場景中選擇正確的 metadata 配置方式，從而對虛擬機(jī)進(jìn)行配置。此外，了解 metadata 服務(wù)機(jī)制能夠為用戶在 OpenStack 的部署、排錯、維護(hù)提供幫助，提高工作效率。

Metadata 的獲取機(jī)制

在 OpenStack 中，虛擬機(jī)獲取 Metadata 信息的方式有兩種：Config drive 和 metadata RESTful 服務(wù)。下面我們分別對這兩種機(jī)制進(jìn)行介紹與分析。

Config drive

Config drive 機(jī)制是指 OpenStack 將 metadata 信息寫入虛擬機(jī)的一個特殊的配置設(shè)備中，然后在虛擬機(jī)啟動時，自動掛載并讀取 metadata 信息，從而達(dá)到獲取 metadata 的目的。在客戶端操作系統(tǒng)中，存儲 metadata 的設(shè)備需要是 ISO9660 或者 VFAT 文件系統(tǒng)。具體的實現(xiàn)會根據(jù) Hypervisor 的不同和配置有所差異，以 libvirt 為例：OpenStack 會將 metadata 寫入 libvirt 的虛擬磁盤文件中，并指示 libvirt 將其虛擬為 cdrom 設(shè)備，如圖 1 和圖 2 所示。另一方面，虛擬機(jī)在啟動時，客戶操作系統(tǒng)中的 cloud-init 會去掛載并讀取該設(shè)備，然后根據(jù)所讀取出的內(nèi)容對虛擬機(jī)進(jìn)行配置。

圖 1.虛擬機(jī)定義的 xml 文件

圖 2.存儲 metadata 的虛擬磁盤文件

當(dāng)然，要實現(xiàn)上述功能，需要宿主機(jī)和虛擬機(jī)鏡像兩者協(xié)同完成，它們需要各自滿足一些條件：

宿主機(jī)(OpenStack 的計算節(jié)點)

支持 config drive 機(jī)制的 Hypervisors 有：libvirt、hyper-v 和 VMware。當(dāng)使用 libvirt 和 VMware 作為 Hypervisor 時，需要確保宿主機(jī)上安裝有 genisoimage 程序，并且設(shè)置 mkisofs_cmd 標(biāo)志為 genisoimage 的位置。當(dāng)使用 hyper-v 作為 Hypervisor 時，需要設(shè)置 mkisofs_cmd 標(biāo)志為 mkisofs.exe 的全路徑，此外還需要在 hyper-v 的配置文件中設(shè)置 qume_img_cmd 為 qemu-img 命令的路徑。

虛擬機(jī)鏡像

虛擬機(jī)鏡像需要確保安裝了 cloud-init。如果沒有安裝 cloud-init，需要自行編寫腳本，實現(xiàn)在虛擬機(jī)啟動期間掛載配置磁盤、讀取數(shù)據(jù)、解析數(shù)據(jù)并且根據(jù)數(shù)據(jù)內(nèi)容執(zhí)行相應(yīng)動作。

OpenStack 提供了命令行參數(shù)--config-drive 用于配置是否在創(chuàng)建虛擬機(jī)時使用 config drive 機(jī)制。比如：

清單 1

#nova boot --config-drive=true --image image-name --key-name mykey --flavor 1 --user-data  
./my-user-data.txt myinstance --file /etc/network/interfaces=/home/myuser/instance-interfaces 

或者也可以如清單 2 所示，在/etc/nova/nova.conf 中配置，使得 OpenStack 計算服務(wù)在創(chuàng)建虛擬機(jī)時默認(rèn)使用 config drive 機(jī)制。

清單 2

force_config_drive=true 

用戶可以在虛擬機(jī)中查看寫入的 metadata 信息，如果客戶操作系統(tǒng)支持通過標(biāo)簽訪問磁盤的話，可以使用如下命令查看：

清單 3

#mkdir -p /mnt/config 
#mount /dev/disk/by-label/config-2 /mnt/config 

Metadata RESTful 服務(wù)

OpenStack 提供了 RESTful 接口，虛擬機(jī)可以通過 REST API 來獲取 metadata 信息。提供該服務(wù)的組件為：nova-api-metadata。當(dāng)然，要完成從虛擬機(jī)至網(wǎng)絡(luò)節(jié)點的請求發(fā)送和相應(yīng)，只有 nova-api-metadata 服務(wù)是不夠的，此外共同完成這項任務(wù)的服務(wù)還有：Neutron-metadata-agent 和 Neutron-ns-metadata-proxy。下面我們將剖析它們是如何協(xié)同工作為虛擬機(jī)提供 metadata 服務(wù)的。

Nova-api-metadata

nova-api-metadata 啟動了 RESTful 服務(wù)，負(fù)責(zé)處理虛擬機(jī)發(fā)送來的 REST API 請求。從請求的 HTTP 頭部中取出相應(yīng)的信息，獲得虛擬機(jī)的 ID，繼而從數(shù)據(jù)庫中讀取虛擬機(jī)的 metadata 信息，***將結(jié)果返回。

Neutron-metadata-agent

Neutron-metadata-agent 運行在網(wǎng)絡(luò)節(jié)點，負(fù)責(zé)將接收到的獲取 metadata 的請求轉(zhuǎn)發(fā)給 nova-api-metadata。Neutron-metadata-agent 會獲取虛擬機(jī)和租戶的 ID，添加到請求的 HTTP 頭部中。nova-api-metadata 會根據(jù)這些信息獲取 metadata。

Neutron-ns-metadata-proxy

Neutron-ns-metadata-proxy 也運行在網(wǎng)絡(luò)節(jié)點。為了解決網(wǎng)絡(luò)節(jié)點的網(wǎng)段和租戶的虛擬網(wǎng)段重復(fù)的問題，OpenStack 引入了網(wǎng)絡(luò)命名空間。Neutron 中的路由和 DHCP 服務(wù)器都在各自獨立的命名空間中。由于虛擬機(jī)獲取 metadata 的請求都是以路由和 DHCP 服務(wù)器作為網(wǎng)絡(luò)出口，所以需要通過 neutron-ns-metadata-proxy 聯(lián)通不同的網(wǎng)絡(luò)命名空間，將請求在網(wǎng)絡(luò)命名空間之間轉(zhuǎn)發(fā)。Neutron-ns-metadata-proxy 利用在 unix domain socket 之上的 HTTP 技術(shù)，實現(xiàn)了不同網(wǎng)絡(luò)命名空間之間的 HTTP 請求轉(zhuǎn)發(fā)。并在請求頭中添加’X-Neutron-Router-ID’和’X-Neutron-Network-ID’信息，以便 Neutron-metadata-agent 來辨別發(fā)送請求的虛擬機(jī)，獲取虛擬機(jī)的 ID。

圖 3.Metadata 請求發(fā)送流程

如圖 3 所示，虛擬機(jī)獲取 metadata 的大致流程為：首先請求被發(fā)送至 neutron-ns-metadata-proxy，此時會在請求中添加 router-id 和 network-id，然后請求通過 unix domian socket 被轉(zhuǎn)發(fā)給 neutron-metadata-agent，根據(jù)請求中的 router-id、network-id 和 IP，獲取 port 信息，從而拿到 instance-id 和 tenant-id 加入請求中，***請求被轉(zhuǎn)發(fā)給 nova-api-metadata，其利用 instance-id 和 tenant-id 獲取虛擬機(jī)的 metadata，返回相應(yīng)。

上面我們分析了各個服務(wù)之間轉(zhuǎn)發(fā)請求的流程，那么現(xiàn)在只存在一個問題，整個獲取 metadata 的路線就通暢了：虛擬機(jī)如何將請求發(fā)送至 neutron-ns-metadata-proxy?

我們首先來分析虛擬機(jī)發(fā)送的請求。由于 metadata 最早是由亞馬遜提出的，當(dāng)時規(guī)定 metadata 服務(wù)的地址為 169.254.169.254:80，OpenStack 沿用了這一規(guī)定。所以虛擬機(jī)會向 169.254.169.254:80 發(fā)送 medtadata 請求。那么這一請求是如何從虛擬機(jī)中發(fā)送出來的呢?目前 Neutron 有兩種方式來解決這個問題：通過 router 發(fā)送請求和通過 DHCP 發(fā)送請求。

#p#

通過 router 發(fā)送請求

如果虛擬機(jī)所在 subnet 連接在了 router 上，那么發(fā)向 169.254.169.254 的報文會被發(fā)至 router。如圖 4 所示，Neutron 通過在 router 所在網(wǎng)絡(luò)命名空間添加 iptables 規(guī)則，將該報文轉(zhuǎn)發(fā)至 9697 端口，而 neutron-ns-metadata-proxy 監(jiān)聽著該端口，所以報文被 neutron-ns-metadata-proxy 獲取，進(jìn)入上述后續(xù)處理和轉(zhuǎn)發(fā)流程。

圖 4.router 所在網(wǎng)絡(luò)命名空間的 iptables 規(guī)則

圖 5.監(jiān)聽在 9697 端口上的 Neutron-ns-metadata-proxy 服務(wù)

通過 DHCP 發(fā)送請求

如果虛擬機(jī)所在 subnet 沒有連接在任何 router 上，那么請求則無法通過 router 轉(zhuǎn)發(fā)。此時 Neutron 通過 DHCP 服務(wù)器來轉(zhuǎn)發(fā) metadata 請求。DHCP 服務(wù)通過 DHCP 協(xié)議的選項 121 來為虛擬機(jī)設(shè)置靜態(tài)路由。如圖 6 所示，圖中 10.0.0.3 為 DHCP 服務(wù)器的 IP 地址。通過查看虛擬機(jī)的靜態(tài)路由表，我們可以發(fā)現(xiàn)發(fā)送至 169.254.169.254 的報文被發(fā)送到了 10.0.0.3，即 DHCP 服務(wù)器。

圖 6.虛擬機(jī)中的靜態(tài)路由表

另外再查看 DHCP 服務(wù)器的 IP 配置信息，發(fā)現(xiàn) DHCP 服務(wù)器配置了兩個 IP，其中一個就是 169.254.169.254。與 router 類似的，Neutron 在 DHCP 網(wǎng)絡(luò)命名空間中啟動了監(jiān)聽 80 端口的 neutron-ns-metadata-proxy 服務(wù)，從而進(jìn)入處理和轉(zhuǎn)發(fā)請求的流程。

圖 7.DHCP 服務(wù)器的 IP 配置

總結(jié)

Metadata 服務(wù)為用戶自定義配置虛擬機(jī)提供了有效的解決方案。本文剖析了 OpenStack 提供 metadata 服務(wù)的兩種機(jī)制：config drive 和 RESTful 服務(wù)。Config drive 機(jī)制主要用于配置虛擬機(jī)的網(wǎng)絡(luò)信息，包括 IP、子網(wǎng)掩碼、網(wǎng)關(guān)等。當(dāng)虛擬機(jī)無法通過 DHCP 正確獲取網(wǎng)絡(luò)信息時，config drive 是獲取 metadata 信息的必要方式。如果虛擬機(jī)能夠自動正確配置網(wǎng)絡(luò)，那么可以通過 RESTful 服務(wù)的方式獲取 metadata 信息。

原文鏈接：http://www.ibm.com/developerworks/cn/cloud/library/1509_liukg_openstackmeta/index.html