[[415610]]

云與虛擬化

云計(jì)算是通過(guò) Internet 服務(wù)的方式提供動(dòng)態(tài)可伸縮資源的計(jì)算模式，經(jīng)過(guò)多年的發(fā)展已成為企業(yè) IT 技術(shù)的重要支撐。虛擬化是云計(jì)算的核心技術(shù)之一，將一臺(tái)計(jì)算機(jī)抽象為多臺(tái)邏輯計(jì)算機(jī)，即虛擬機(jī)，每個(gè)虛擬機(jī)是一個(gè)單獨(dú)安全的環(huán)境，可運(yùn)行不同的操作系統(tǒng)且互不影響。

虛擬化技術(shù)給資源使用和調(diào)度帶來(lái)了極大便利，云計(jì)算系統(tǒng)可以根據(jù)負(fù)載情況及時(shí)進(jìn)行資源調(diào)度，在提升資源利用率的同時(shí)保證應(yīng)用和服務(wù)不會(huì)因資源不足而影響服務(wù)質(zhì)量。然而虛擬化也是有代價(jià)的，對(duì)資源的抽象帶來(lái)了性能損失，這也是虛擬化一直致力解決的問(wèn)題。

虛擬化的資源抽象可以簡(jiǎn)單劃分為三部分：CPU 虛擬化、內(nèi)存虛擬化和設(shè)備虛擬化。其中設(shè)備虛擬化已經(jīng)可以實(shí)現(xiàn)網(wǎng)絡(luò)、存儲(chǔ)等設(shè)備直通虛擬機(jī)，沒(méi)有性能損失；CPU 虛擬化在硬件特性的支持下，執(zhí)行普通指令性能與裸機(jī)相同；而內(nèi)存虛擬化相比裸機(jī)，仍然存在較大差異，是當(dāng)下值得關(guān)注的問(wèn)題。

內(nèi)存虛擬化

虛擬內(nèi)存：說(shuō)到內(nèi)存虛擬化，就不得不提虛擬內(nèi)存的概念。早期的操作系統(tǒng)只有物理地址且空間有限，進(jìn)程使用內(nèi)存時(shí)必須小心翼翼以避免覆蓋其他進(jìn)程的內(nèi)存。為避免此問(wèn)題，虛擬內(nèi)存的概念被抽象出來(lái)，保證每個(gè)進(jìn)程都有一塊連續(xù)的、獨(dú)立的虛擬內(nèi)存空間。進(jìn)程直接通過(guò) VA（Virtual Address）使用內(nèi)存，CPU 訪存時(shí)發(fā)出的 VA 由硬件 MMU（Memory Management Unit）攔截并轉(zhuǎn)換為 PA（Physical Address），VA 到 PA 的映射使用頁(yè)表進(jìn)行管理，MMU 在轉(zhuǎn)換時(shí)會(huì)自動(dòng)查詢(xún)頁(yè)表。

內(nèi)存虛擬化：與虛擬內(nèi)存的概念類(lèi)似，一臺(tái)主機(jī)上的每個(gè)虛擬機(jī)認(rèn)為自己獨(dú)占整個(gè)物理地址空間，因而需要對(duì)內(nèi)存再做一次抽象，即內(nèi)存虛擬化，保證每個(gè)虛擬機(jī)都有獨(dú)立的地址空間。這樣一來(lái)，在虛擬機(jī)和物理機(jī)中均有 VA 和 PA 的概念，即 GVA（Guest Virtual Address）和 GPA（Guest Physical Address），以及 HVA（Host Virtual Address）和 HPA（Host Physical Address）。虛擬機(jī)內(nèi)的程序使用的是GVA，最終需要轉(zhuǎn)換成 HPA。兩個(gè) VA 到 PA（ GVA 到 GPA 以及 HVA 到 HPA）的映射同樣使用頁(yè)表管理，GPA 到 HVA 一般是幾段連續(xù)的線(xiàn)性映射，由虛擬機(jī)的管理程序 VMM（Virtual Machine Monitor）進(jìn)行管理。

進(jìn)程訪存需要從 VA 轉(zhuǎn)換成 PA，在引入內(nèi)存虛擬化后，轉(zhuǎn)換路徑發(fā)生了很大的變化。原本只需要將 VA 轉(zhuǎn)換為 PA，虛擬化后轉(zhuǎn)換過(guò)程變成 GVA -> GPA -> HVA -> HPA 。路徑變得更長(zhǎng)更復(fù)雜之后，對(duì)于訪存的安全和性能都帶來(lái)了挑戰(zhàn)，這兩點(diǎn)也是內(nèi)存虛擬化需要達(dá)到的目標(biāo)：1）安全 ，即地址轉(zhuǎn)換的合法性，虛擬機(jī)不能訪問(wèn)不屬于自己的內(nèi)存；2）性能，即地址轉(zhuǎn)換的高效性，包括轉(zhuǎn)換關(guān)系建立的開(kāi)銷(xiāo)低，以及轉(zhuǎn)換過(guò)程本身的開(kāi)銷(xiāo)低。

經(jīng)典方案

為達(dá)成內(nèi)存虛擬化的目標(biāo)，已經(jīng)有很多虛擬化方案被提出，SPT（Shadow Page Table）和 EPT（Extended Page Table）是兩種典型的方案，也是大家最熟悉的方案。我們先以此為切入點(diǎn)，看看他們是如何工作的，然后再討論其他的虛擬化方案。

SPT：由于最初的硬件只支持一層頁(yè)表轉(zhuǎn)換，直接用來(lái)轉(zhuǎn)換虛擬機(jī)或物理機(jī)上的 VA 到 PA 都無(wú)法完成 GVA 到 HPA 的轉(zhuǎn)換。因此 SPT 建立了一條捷徑，即影子頁(yè)表，直接管理 GVA 到 HPA 的映射，如下圖所示。每一個(gè)影子頁(yè)表實(shí)例對(duì)應(yīng)虛擬機(jī)內(nèi)一個(gè)進(jìn)程，影子頁(yè)表的建立需要 VMM 查詢(xún)虛擬機(jī)內(nèi)進(jìn)程的頁(yè)表。

由于影子頁(yè)表管理的是 GVA 到 HPA 的直接映射，SPT 地址轉(zhuǎn)換路徑與物理機(jī)路徑相當(dāng)，直接查詢(xún)一層頁(yè)表就可以完成地址轉(zhuǎn)換。在使用 4 級(jí)頁(yè)表時(shí)，轉(zhuǎn)換過(guò)程如下圖所示。

優(yōu)勢(shì)：SPT 地址轉(zhuǎn)換過(guò)程的開(kāi)銷(xiāo)低，與物理機(jī)相當(dāng)。

劣勢(shì)：

1）地址轉(zhuǎn)換關(guān)系的建立開(kāi)銷(xiāo)很大，為保證地址轉(zhuǎn)換的合法性，所有的轉(zhuǎn)換關(guān)系建立，即虛擬機(jī)進(jìn)程的頁(yè)表修改，都會(huì)被攔截之后陷出到特權(quán)的 VMM 中代為執(zhí)行；

2）影子頁(yè)表本身需要占用內(nèi)存，且一個(gè)影子頁(yè)表只對(duì)應(yīng)虛擬機(jī)內(nèi)一個(gè)進(jìn)程，整體會(huì)占用較多內(nèi)存資源。

EPT：后來(lái)的硬件針對(duì)虛擬化增加了嵌套頁(yè)表的支持，使得硬件可以自動(dòng)完成兩層頁(yè)表轉(zhuǎn)換。EPT 即是基于硬件支持的方案，在管理 GVA 到 GPA 的虛擬機(jī)頁(yè)表基礎(chǔ)上，新增擴(kuò)展頁(yè)表管理 GPA 到 HPA 的映射，如下圖所示。這兩層頁(yè)表相互獨(dú)立，兩層映射關(guān)系轉(zhuǎn)換都由硬件自動(dòng)完成。

由于虛擬機(jī)內(nèi)各級(jí)頁(yè)表（gL4, gL3, gL2, gL1）內(nèi)容只是 GPA，查詢(xún)下一級(jí)時(shí)必須先經(jīng)擴(kuò)展頁(yè)表（nL4, nL3, nL2, nL1）轉(zhuǎn)換為 HPA，使得整個(gè)轉(zhuǎn)換路徑很長(zhǎng)。在兩層頁(yè)表均為 4 級(jí)時(shí)，轉(zhuǎn)換過(guò)程如下圖所示。

優(yōu)勢(shì)：地址轉(zhuǎn)換關(guān)系的建立開(kāi)銷(xiāo)低，獨(dú)立的 EPT 頁(yè)表的存在保證了地址轉(zhuǎn)換的合法性，因此虛擬機(jī)的頁(yè)表可以自行修改而無(wú)需 VMM 的干預(yù)。

劣勢(shì)：轉(zhuǎn)換過(guò)程的開(kāi)銷(xiāo)很大，最壞情況下需要 24（4 + 4 + 4 * 4）次硬件查表轉(zhuǎn)換。

兩種經(jīng)典的方案在安全上都有堅(jiān)實(shí)的保證，但在性能上各有缺陷。SPT 為保證地址轉(zhuǎn)換的合法性在建立轉(zhuǎn)換關(guān)系時(shí)付出了很大代價(jià)，而 EPT 雖然消除了建立轉(zhuǎn)換關(guān)系的開(kāi)銷(xiāo)，轉(zhuǎn)換路徑卻更長(zhǎng)了。

其他探索

業(yè)界和學(xué)術(shù)界關(guān)于內(nèi)存虛擬化還有很多的探索，基本思想與 SPT 或 EPT 類(lèi)似，可以據(jù)此分為三類(lèi)來(lái)看：

1）一層頁(yè)表方案。與 SPT 類(lèi)似，使用一層頁(yè)表直接管理 GVA 到 HPA 的映射；

2）兩層頁(yè)表方案。與 EPT 類(lèi)似，使用兩層獨(dú)立頁(yè)表分別管理 GVA 到 GPA 以及 GPA 到 HPA 的映射；

3）混合方案。結(jié)合前兩類(lèi)方案，進(jìn)行動(dòng)態(tài)的選擇。

Direct Paging：一層頁(yè)表方案，這是 Xen 在早期硬件僅支持一層頁(yè)表時(shí)的半虛擬化方案。相比于 SPT 最大的區(qū)別是，沒(méi)有單獨(dú)維護(hù) GVA 到 GPA 的虛擬機(jī)頁(yè)表，虛擬機(jī)知道自己處于虛擬化環(huán)境，即知道自己的頁(yè)表內(nèi)容是 HPA。虛擬機(jī)修改頁(yè)表也需要陷出，但是采用主動(dòng)陷出的方式，可以 batch 化，而 SPT 則是被動(dòng)攔截陷出；讀取頁(yè)表時(shí)只能拿到 HPA，需要查一張 M2P（Machine to Physical）表才能得到 GPA。

Direct Paging 同樣使用一層頁(yè)表管理 GVA 到 HPA 映射，地址轉(zhuǎn)換的路徑與 SPT 是相同的。在使用 4 級(jí)頁(yè)表時(shí)，最壞只需 4 次查表。

優(yōu)勢(shì)：地址轉(zhuǎn)換過(guò)程的開(kāi)銷(xiāo)低，與物理機(jī)相當(dāng)。

劣勢(shì)：

1）地址轉(zhuǎn)換關(guān)系的建立開(kāi)銷(xiāo)很大，所有頁(yè)表修改都需要主動(dòng)陷出；

2）需要虛擬機(jī)做半虛擬化的適配，虛擬機(jī)需要感知自己的頁(yè)表管理的是 GVA 到 HPA 的映射。

Direct Segment：兩層頁(yè)表方案，這是學(xué)術(shù)界基于新硬件的方案。GVA 到 GPA 的映射管理與 EPT 相同，同樣采用多級(jí)頁(yè)表。但 GPA 到 HPA 的映射采用分段機(jī)制， GPA 轉(zhuǎn)換為 HPA 時(shí)只需要通過(guò)硬件加上一個(gè)偏移即可。

GPA 雖然不等于 HPA，但二者的映射關(guān)系十分簡(jiǎn)單，只需要 Direct Segment 硬件添加一個(gè)偏移，整個(gè)轉(zhuǎn)換路徑與物理機(jī)的路徑相比差別很小，僅多了幾次硬件偏移。虛擬機(jī)使用 4 級(jí)頁(yè)表時(shí)，轉(zhuǎn)換路徑如下圖所示，其中 DS 表示 GPA 到 HPA 轉(zhuǎn)換的硬件支持。

優(yōu)勢(shì)：地址轉(zhuǎn)換關(guān)系的建立開(kāi)銷(xiāo)低，同時(shí)轉(zhuǎn)換過(guò)程的開(kāi)銷(xiāo)也很低。

劣勢(shì)：

1）需要硬件支持 GPA 到 HPA 分段映射，現(xiàn)有的硬件不具備這樣的功能；

2）需要分配大段連續(xù)的內(nèi)存，即主機(jī)不能有太多內(nèi)存碎片。

Flat EPT：兩層頁(yè)表方案，這也是學(xué)術(shù)界提出的基于新硬件的方案。整體與 EPT 非常相似，唯一的區(qū)別在于 EPT 管理 GPA 到 HPA 的使用多級(jí)頁(yè)表，一般是 4 級(jí)，每級(jí) 512 項(xiàng)；而 Flat EPT 使用僅有一級(jí)的扁平頁(yè)表，表項(xiàng)遠(yuǎn)不止 512。

與 EPT 相同，虛擬機(jī)內(nèi)各級(jí)頁(yè)表的內(nèi)容也是 GPA，查詢(xún)下一級(jí)時(shí)需要先經(jīng)過(guò)扁平擴(kuò)展頁(yè)表（nL4）轉(zhuǎn)換為 HPA。由于扁平擴(kuò)展頁(yè)表只有一級(jí)，轉(zhuǎn)換路徑相比 EPT 縮短了非常多。在虛擬機(jī)內(nèi)使用4級(jí)頁(yè)表時(shí)，轉(zhuǎn)換路徑如下圖所示，最壞只需 9（4 + 1 + 4 * 1）次查表。

優(yōu)勢(shì)：地址轉(zhuǎn)換關(guān)系的建立開(kāi)銷(xiāo)低，同時(shí)轉(zhuǎn)換過(guò)程的開(kāi)銷(xiāo)也較低。相比于 Direct Segment 對(duì)內(nèi)存分配要求很低，只需要少量連續(xù)內(nèi)存用作扁平擴(kuò)展頁(yè)表即可（8G規(guī)格虛擬機(jī)只需要 16M）。

劣勢(shì)：需要硬件支持扁平擴(kuò)展頁(yè)表，當(dāng)前的硬件只支持表項(xiàng)為 512 的多級(jí)擴(kuò)展頁(yè)表。

Mix SPT and EPT：混合方案，這是學(xué)術(shù)界較早提出的方案，簡(jiǎn)單而言就是動(dòng)態(tài)的分時(shí)切換 SPT 與 EPT。在虛擬機(jī)運(yùn)行時(shí)監(jiān)控和采集 TLB miss 與 Page Fault 的數(shù)據(jù)，在二者達(dá)到設(shè)定的閾值時(shí)進(jìn)行 SPT 與 EPT 之間的切換，如下圖所示：

TLB miss 率高于閾值 T1，Page Fault 頻率低于閾值 T2 時(shí)，從 EPT 切換到 SPT
TLB miss 率低于閾值 T1，Page Fault 頻率高于閾值 T2 時(shí)，從 SPT 切換到 EPT

優(yōu)勢(shì)：有機(jī)會(huì)充分利用SPT與EPT的優(yōu)勢(shì)，達(dá)到更好的性能。

劣勢(shì)：

1）頁(yè)表切換閾值的設(shè)定很困難，硬件配置都可能影響閾值；

2）SPT與EPT的切換也是有代價(jià)的，主要是SPT的銷(xiāo)毀與重建。

總結(jié)

一層頁(yè)表顯著的優(yōu)勢(shì)是地址轉(zhuǎn)換過(guò)程開(kāi)銷(xiāo)低，與物理機(jī)相同，需要解決的問(wèn)題是減少地址轉(zhuǎn)換建立的開(kāi)銷(xiāo)。一個(gè)可能的方向是放棄一些安全性，讓頁(yè)表的修改更輕量；另一個(gè)更實(shí)際的方向是在合適的場(chǎng)景使用，即針對(duì)頁(yè)表修改不頻繁的負(fù)載使用。

兩層頁(yè)表的優(yōu)勢(shì)是地址轉(zhuǎn)換建立的開(kāi)銷(xiāo)小，虛擬機(jī)可以獨(dú)立修改頁(yè)表，需要考慮的問(wèn)題是縮短轉(zhuǎn)換路徑。這個(gè)方向其實(shí)可行性很高，但是依賴(lài)新硬件的支持，短期不太可能出現(xiàn)符合要求的新硬件。

混合頁(yè)表的設(shè)計(jì)初衷是希望充分利用兩類(lèi)頁(yè)表的優(yōu)勢(shì)，但是做好動(dòng)態(tài)的模式切換是非常困難的，負(fù)載的差異甚至硬件的差異都可能影響切換的效果?；蛟S針對(duì)已知負(fù)載做定向的調(diào)優(yōu)是一個(gè)可行的方向。

長(zhǎng)遠(yuǎn)來(lái)看，如果有新硬件的加持，兩層頁(yè)表（尤其是Flat EPT）是比較完善的方案，地址轉(zhuǎn)換可以很高效，也不需要在安全和通用性上做一些犧牲。但是短期來(lái)看，新硬件為時(shí)尚早，在一層頁(yè)表方案上做進(jìn)一步的探索和優(yōu)化，是更加實(shí)際的。我們將會(huì)持續(xù)在內(nèi)存虛擬化這條路徑探索更多的可能，歡迎大家加入 OpenAnolis 龍蜥社區(qū)討論交流。