天啦嚕!知道硬盤很慢,但沒想到比 CPU Cache 慢 10000000 倍
一、前言
大家如果想自己組裝電腦的話,肯定需要購買一個 CPU,但是存儲器方面的設備,分類比較多,那我們肯定不能只買一種存儲器,比如你除了要買內(nèi)存,還要買硬盤,而針對硬盤我們還可以選擇是固態(tài)硬盤還是機械硬盤。
相信大家都知道內(nèi)存和硬盤都屬于計算機的存儲設備,斷電后內(nèi)存的數(shù)據(jù)是會丟失的,而硬盤則不會,因為硬盤是持久化存儲設備,同時也是一個 I/O 設備。
但其實 CPU 內(nèi)部也有存儲數(shù)據(jù)的組件,這個應該比較少人注意到,比如寄存器、CPU L1/L2/L3 Cache 也都是屬于存儲設備,只不過它們能存儲的數(shù)據(jù)非常小,但是它們因為靠近 CPU 核心,所以訪問速度都非??欤爝^硬盤好幾個數(shù)量級別。
問題來了,那機械硬盤、固態(tài)硬盤、內(nèi)存這三個存儲器,到底和 CPU L1 Cache 相比速度差多少倍呢?
在回答這個問題之前,我們先來看看「存儲器的層次結構」,好讓我們對存儲器設備有一個整體的認識。
二、存儲器的層次結構
我們想象中一個場景,大學期末準備考試了,你前去圖書館臨時抱佛腳。那么,在看書的時候,我們的大腦會思考問題,也會記憶知識點,另外我們通常也會把常用的書放在自己的桌子上,當我們要找一本不常用的書,則會去圖書館的書架找。
就是這么一個小小的場景,已經(jīng)把計算機的存儲結構基本都涵蓋了。
我們可以把 CPU 比喻成我們的大腦,大腦正在思考的東西,就好比 CPU 中的寄存器,處理速度是最快的,但是能存儲的數(shù)據(jù)也是最少的,畢竟我們也不能一下同時思考太多的事情,除非你練過。
我們大腦中的記憶,就好比 CPU Cache,中文稱為 CPU 高速緩存,處理速度相比寄存器慢了一點,但是能存儲的數(shù)據(jù)也稍微多了一些。
CPU Cache 通常會分為 L1、L2、L3 三層,其中 L1 Cache 通常分成「數(shù)據(jù)緩存」和「指令緩存」,L1 是距離 CPU 最近的,因此它比 L2、L3 的讀寫速度都快、存儲空間都小。我們大腦中短期記憶,就好比 L1 Cache,而長期記憶就好比 L2/L3 Cache。
寄存器和 CPU Cache 都是在 CPU 內(nèi)部,跟 CPU 挨著很近,因此它們的讀寫速度都相當?shù)目?,但是能存儲的?shù)據(jù)很少,畢竟 CPU 就這么丁點大。
知道 CPU 內(nèi)部的存儲器的層次分布,我們放眼看看 CPU 外部的存儲器。
當我們大腦記憶中沒有資料的時候,可以從書桌或書架上拿書來閱讀,那我們桌子上的書,就好比內(nèi)存,我們雖然可以一伸手就可以拿到,但讀寫速度肯定遠慢于寄存器,那圖書館書架上的書,就好比硬盤,能存儲的數(shù)據(jù)非常大,但是讀寫速度相比內(nèi)存差好幾個數(shù)量級,更別說跟寄存器的差距了。
我們從圖書館書架取書,把書放到桌子上,再閱讀書,我們大腦就會記憶知識點,然后再經(jīng)過大腦思考,這一系列過程相當于,數(shù)據(jù)從硬盤加載到內(nèi)存,再從內(nèi)存加載到 CPU 的寄存器和 Cache 中,然后再通過 CPU 進行處理和計算。
對于存儲器,它的速度越快、能耗會越高、而且材料的成本也是越貴的,以至于速度快的存儲器的容量都比較小。
CPU 里的寄存器和 Cache,是整個計算機存儲器中價格最貴的,雖然存儲空間很小,但是讀寫速度是極快的,而相對比較便宜的內(nèi)存和硬盤,速度肯定比不上 CPU 內(nèi)部的存儲器,但是能彌補存儲空間的不足。
存儲器通??梢苑譃檫@么幾個級別:
(1) 寄存器;
(2) CPU Cache;
- L1-Cache;
- L2-Cache;
- L3-Cahce;
(3) 內(nèi)存;
(4) SSD/HDD 硬盤
1. 寄存器
最靠近 CPU 的控制單元和邏輯計算單元的存儲器,就是寄存器了,它使用的材料速度也是最快的,因此價格也是最貴的,那么數(shù)量不能很多。
存儲器的數(shù)量通常在幾十到幾百之間,每個寄存器可以用來存儲一定的字節(jié)(byte)的數(shù)據(jù)。比如:
- 32 位 CPU 中大多數(shù)寄存器可以存儲 4 個字節(jié);
- 64 位 CPU 中大多數(shù)寄存器可以存儲 8 個字節(jié)。
寄存器的訪問速度非??欤话阋笤诎雮€ CPU 時鐘周期內(nèi)完成讀寫,CPU 時鐘周期跟 CPU 主頻息息相關,比如 2 GHz 主頻的 CPU,那么它的時鐘周期就是 1/2G,也就是 0.5ns(納秒)。
CPU 處理一條指令的時候,除了讀寫寄存器,還需要解碼指令、控制指令執(zhí)行和計算。如果寄存器的速度太慢,則會拉長指令的處理周期,從而給用戶的感覺,就是電腦「很慢」。
2. CPU Cache
CPU Cache 用的是一種叫 SRAM(Static Random-Access Memory,靜態(tài)隨機存儲器) 的芯片。
SRAM 之所以叫「靜態(tài)」存儲器,是因為只要有電,數(shù)據(jù)就可以保持存在,而一旦斷電,數(shù)據(jù)就會丟失了。
在 SRAM 里面,一個 bit 的數(shù)據(jù),通常需要 6 個晶體管,所以 SRAM 的存儲密度不高,同樣的物理空間下,能存儲的數(shù)據(jù)是有限的,不過也因為 SRAM 的電路簡單,所以訪問速度非??臁?/p>
CPU 的高速緩存,通常可以分為 L1、L2、L3 這樣的三層高速緩存,也稱為一級緩存、二次緩存、三次緩存。
3. L1 高速緩存
L1 高速緩存的訪問速度幾乎和寄存器一樣快,通常只需要 2~4 個時鐘周期,而大小在幾十 KB 到幾百 KB 不等。
每個 CPU 核心都有一塊屬于自己的 L1 高速緩存,指令和數(shù)據(jù)在 L1 是分開存放的,所以 L1 高速緩存通常分成指令緩存和數(shù)據(jù)緩存。
在 Linux 系統(tǒng),我們可以通過這條命令,查看 CPU 里的 L1 Cache 「數(shù)據(jù)」緩存的容量大小:
- $ cat /sys/devices/system/cpu/cpu0/cache/index0/size
- 32K
而查看 L1 Cache 「指令」緩存的容量大小,則是:
- $ cat /sys/devices/system/cpu/cpu0/cache/index1/size
- 32K
4. L2 高速緩存
L2 高速緩存同樣每個 CPU 核心都有,但是 L2 高速緩存位置比 L1 高速緩存距離 CPU 核心 更遠,它大小比 L1 高速緩存更大,CPU 型號不同大小也就不同,通常大小在幾百 KB 到幾 MB 不等,訪問速度則更慢,速度在 10~20 個時鐘周期。
在 Linux 系統(tǒng),我們可以通過這條命令,查看 CPU 里的 L2 Cache 的容量大小:
- $ cat /sys/devices/system/cpu/cpu0/cache/index2/size
- 256K
5. L3 高速緩存
L3 高速緩存通常是多個 CPU 核心共用的,位置比 L2 高速緩存距離 CPU 核心 更遠,大小也會更大些,通常大小在幾 MB 到幾十 MB 不等,具體值根據(jù) CPU 型號而定。
訪問速度相對也比較慢一些,訪問速度在 20~60個時鐘周期。
在 Linux 系統(tǒng),我們可以通過這條命令,查看 CPU 里的 L3 Cache 的容量大?。?/p>
- $ cat /sys/devices/system/cpu/cpu0/cache/index3/size
- 3072K
6. 內(nèi)存
內(nèi)存用的芯片和 CPU Cache 有所不同,它使用的是一種叫作 DRAM (Dynamic Random Access Memory,動態(tài)隨機存取存儲器) 的芯片。
相比 SRAM,DRAM 的密度更高,功耗更低,有更大的容量,而且造價比 SRAM 芯片便宜很多。
DRAM 存儲一個 bit 數(shù)據(jù),只需要一個晶體管和一個電容就能存儲,但是因為數(shù)據(jù)會被存儲在電容里,電容會不斷漏電,所以需要「定時刷新」電容,才能保證數(shù)據(jù)不會被丟失,這就是 DRAM 之所以被稱為「動態(tài)」存儲器的原因,只有不斷刷新,數(shù)據(jù)才能被存儲起來。
DRAM 的數(shù)據(jù)訪問電路和刷新電路都比 SRAM 更復雜,所以訪問的速度會更慢,內(nèi)存速度大概在 200~300 個 時鐘周期之間。
7. SSD/HDD 硬盤
SSD(Solid-state disk) 就是我們常說的固體硬盤,結構和內(nèi)存類似,但是它相比內(nèi)存的優(yōu)點是斷電后數(shù)據(jù)還是存在的,而內(nèi)存、寄存器、高速緩存斷電后數(shù)據(jù)都會丟失。內(nèi)存的讀寫速度比 SSD 大概快 10~1000 倍。
當然,還有一款傳統(tǒng)的硬盤,也就是機械硬盤(Hard Disk Drive, HDD),它是通過物理讀寫的方式來訪問數(shù)據(jù)的,因此它訪問速度是非常慢的,它的速度比內(nèi)存慢 10W 倍左右。
由于 SSD 的價格快接近機械硬盤了,因此機械硬盤已經(jīng)逐漸被 SSD 替代了。
三、存儲器的層次關系
現(xiàn)代的一臺計算機,都用上了 CPU Cahce、內(nèi)存、到 SSD 或 HDD 硬盤這些存儲器設備了。
其中,存儲空間越大的存儲器設備,其訪問速度越慢,所需成本也相對越少。
CPU 并不會直接和每一種存儲器設備直接打交道,而是每一種存儲器設備只和它相鄰的存儲器設備打交道。
比如,CPU Cache 的數(shù)據(jù)是從內(nèi)存加載過來的,寫回數(shù)據(jù)的時候也只寫回到內(nèi)存,CPU Cache 不會直接把數(shù)據(jù)寫到硬盤,也不會直接從硬盤加載數(shù)據(jù),而是先加載到內(nèi)存,再從內(nèi)存加載到 CPU Cache 中。
所以,每個存儲器只和相鄰的一層存儲器設備打交道,并且存儲設備為了追求更快的速度,所需的材料成本必然也是更高,也正因為成本太高,所以 CPU 內(nèi)部的寄存器、L1\L2\L3 Cache 只好用較小的容量,相反內(nèi)存、硬盤則可用更大的容量,這就我們今天所說的存儲器層次結構。
另外,當 CPU 需要訪問內(nèi)存中某個數(shù)據(jù)的時候,如果寄存器有這個數(shù)據(jù),CPU 就直接從寄存器取數(shù)據(jù)即可,如果寄存器沒有這個數(shù)據(jù),CPU 就會查詢 L1 高速緩存,如果 L1 沒有,則查詢 L2 高速緩存,L2 還是沒有的話就查詢 L3 高速緩存,L3 依然沒有的話,才去內(nèi)存中取數(shù)據(jù)。
所以,存儲層次結構也形成了緩存的體系。
四、存儲器之間的實際價格和性能差距
前面我們知道了,速度越快的存儲器,造價成本往往也越高,那我們就以實際的數(shù)據(jù)來看看,不同層級的存儲器之間的性能和價格差異。
下面這張表格是不同層級的存儲器之間的成本對比圖:
你可以看到 L1 Cache 的訪問延時是 1 納秒,而內(nèi)存已經(jīng)是 100 納秒了,相比 L1 Cache 速度慢了 100 倍。另外,機械硬盤的訪問延時更是高達 10 毫秒,相比 L1 Cache 速度慢了 10000000 倍,差了好幾個數(shù)量級別。
在價格上,每生產(chǎn) MB 大小的 L1 Cache 相比內(nèi)存貴了 466 倍,相比機械硬盤那更是貴了 175000 倍。
我在某東逛了下各個存儲器設備的零售價,8G 內(nèi)存 + 1T 機械硬盤 + 256G 固態(tài)硬盤的總價格,都不及一塊 Intle i5-10400 的 CPU 的價格,這款 CPU 的高速緩存的總大小也就十多 MB。
五、總結
各種存儲器之間的關系,可以用我們在圖書館學習這個場景來理解。
CPU 可以比喻成我們的大腦,我們當前正在思考和處理的知識的過程,就好比 CPU 中的寄存器處理數(shù)據(jù)的過程,速度極快,但是容量很小。而 CPU 中的 L1-L3 Cache 好比我們大腦中的短期記憶和長期記憶,需要小小花費點時間來調(diào)取數(shù)據(jù)并處理。
我們面前的桌子就相當于內(nèi)存,能放下更多的書(數(shù)據(jù)),但是找起來和看起來就要花費一些時間,相比 CPU Cache 慢不少。而圖書館的書架相當于硬盤,能放下比內(nèi)存更多的數(shù)據(jù),但找起來就更費時間了,可以說是最慢的存儲器設備了。
從 寄存器、CPU Cache,到內(nèi)存、硬盤,這樣一層層下來的存儲器,訪問速度越來越慢,存儲容量越來越大,價格也越來越便宜,而且每個存儲器只和相鄰的一層存儲器設備打交道,于是這樣就形成了存儲器的層次結構。
再來回答,開頭的問題:那機械硬盤、固態(tài)硬盤、內(nèi)存這三個存儲器,到底和 CPU L1 Cache 相比速度差多少倍呢?
CPU L1 Cache 隨機訪問延時是 1 納秒,內(nèi)存則是 100 納秒,所以 CPU L1 Cache 比內(nèi)存快 100 倍左右。
SSD 隨機訪問延時是 150 微妙,所以 CPU L1 Cache 比 SSD 快 150000 倍左右。
最慢的機械硬盤隨機訪問延時已經(jīng)高達 10 毫秒,我們來看看機械硬盤到底有多「龜速」:
- SSD 比機械硬盤快 70 倍左右;
- 內(nèi)存比機械硬盤快 100000 倍左右,即 10W 倍;
- CPU L1 Cache 比機械硬盤快 10000000 倍左右,即 1000W倍;
我們把上述的時間比例差異放大后,就能非常直觀感受到它們的性能差異了。如果 CPU 訪問 L1 Cache 的緩存時間是 1 秒,那訪問內(nèi)存則需要大約 2 分鐘,隨機訪問 SSD 里的數(shù)據(jù)則需要 1.7 天,訪問機械硬盤那更久,長達近 4 個月。
可以發(fā)現(xiàn),不同的存儲器之間性能差距很大,構造存儲器分級很有意義,分級的目的是要構造緩存體系。