看一遍就理解:IO 模型詳解
前言
大家好,我是程序員田螺。今天我們一起來學(xué)習(xí)IO模型。在本文開始前呢,先問問大家?guī)讉€問題哈~
什么是IO呢?什么是阻塞非阻塞IO?什么是同步異步IO?什么是IO多路復(fù)用?select/epoll跟IO模型有什么關(guān)系?有幾種經(jīng)典IO模型呢?BIO、NIO、AIO到底有什么區(qū)別的?
如果這些問題,你都能很好答上的話,那恭喜你,你對IO的掌握已經(jīng)很棒啦!那你跟田螺哥一起看完這篇文章,再復(fù)習(xí)一下,加深印象吧~如果你對這些問題模棱兩可的話,那也沒關(guān)系,看完這篇文章,就理解啦!
什么是IO呢?
IO,英文全稱是Input/Output,翻譯過來就是輸入/輸出。平時我們聽得挺多,就是什么磁盤IO,網(wǎng)絡(luò)IO。那IO到底是什么呢?是不是有種懵懵懂懂的感覺呀,好像大概知道它是什么,又好像說不清楚。
IO,即輸入/輸出,到底誰是輸入?誰是輸出呢?IO如果脫離了主體,就會讓人疑惑。
計算機角度的IO
我們常說的輸入輸出,比較直觀的意思就是計算機的輸入輸出,計算機就是主體。大家是否還記得,大學(xué)學(xué)計算機組成原理的時候,有個馮.諾依曼結(jié)構(gòu),它將計算機分成分為5個部分:運算器、控制器、存儲器、輸入設(shè)備、輸出設(shè)備。
輸入設(shè)備是向計算機輸入數(shù)據(jù)和信息的設(shè)備,鍵盤,鼠標都屬于輸入設(shè)備;輸出設(shè)備是計算機硬件系統(tǒng)的終端設(shè)備,用于接收計算機數(shù)據(jù)的輸出顯示,一般顯示器、打印機屬于輸出設(shè)備。
例如你在鼠標鍵盤敲幾下,它就會把你的指令數(shù)據(jù),傳給主機,主機通過運算后,把返回的數(shù)據(jù)信息,輸出到顯示器。
鼠標、顯示器這只是直觀表面的輸入輸出,回到計算機架構(gòu)來說,涉及計算機核心與其他設(shè)備間數(shù)據(jù)遷移的過程,就是IO。如磁盤IO,就是從磁盤讀取數(shù)據(jù)到內(nèi)存,這算一次輸入,對應(yīng)的,將內(nèi)存中的數(shù)據(jù)寫入磁盤,就算輸出。這就是IO的本質(zhì)。
操作系統(tǒng)的IO
我們要將內(nèi)存中的數(shù)據(jù)寫入到磁盤的話,主體會是什么呢?主體可能是一個應(yīng)用程序,比如一個Java進程(假設(shè)網(wǎng)絡(luò)傳來二進制流,一個Java進程可以把它寫入到磁盤)。
操作系統(tǒng)負責(zé)計算機的資源管理和進程的調(diào)度。我們電腦上跑著的應(yīng)用程序,其實是需要經(jīng)過操作系統(tǒng),才能做一些特殊操作,如磁盤文件讀寫、內(nèi)存的讀寫等等。因為這些都是比較危險的操作,不可以由應(yīng)用程序亂來,只能交給底層操作系統(tǒng)來。也就是說,你的應(yīng)用程序要把數(shù)據(jù)寫入磁盤,只能通過調(diào)用操作系統(tǒng)開放出來的API來操作。
什么是用戶空間?什么是內(nèi)核空間?
以32位操作系統(tǒng)為例,它為每一個進程都分配了4G(2的32次方)的內(nèi)存空間。這4G可訪問的內(nèi)存空間分為二部分,一部分是用戶空間,一部分是內(nèi)核空間。內(nèi)核空間是操作系統(tǒng)內(nèi)核訪問的區(qū)域,是受保護的內(nèi)存空間,而用戶空間是用戶應(yīng)用程序訪問的內(nèi)存區(qū)域。
我們應(yīng)用程序是跑在用戶空間的,它不存在實質(zhì)的IO過程,真正的IO是在操作系統(tǒng)執(zhí)行的。即應(yīng)用程序的IO操作分為兩種動作:IO調(diào)用和IO執(zhí)行。IO調(diào)用是由進程(應(yīng)用程序的運行態(tài))發(fā)起,而IO執(zhí)行是操作系統(tǒng)內(nèi)核的工作。此時所說的IO是應(yīng)用程序?qū)Σ僮飨到y(tǒng)IO功能的一次觸發(fā),即IO調(diào)用。
操作系統(tǒng)的一次IO過程
應(yīng)用程序發(fā)起的一次IO操作包含兩個階段:
- IO調(diào)用:應(yīng)用程序進程向操作系統(tǒng)內(nèi)核發(fā)起調(diào)用。
- IO執(zhí)行:操作系統(tǒng)內(nèi)核完成IO操作。
操作系統(tǒng)內(nèi)核完成IO操作還包括兩個過程:
- 準備數(shù)據(jù)階段:內(nèi)核等待I/O設(shè)備準備好數(shù)據(jù)
- 拷貝數(shù)據(jù)階段:將數(shù)據(jù)從內(nèi)核緩沖區(qū)拷貝到用戶進程緩沖區(qū)
其實IO就是把進程的內(nèi)部數(shù)據(jù)轉(zhuǎn)移到外部設(shè)備,或者把外部設(shè)備的數(shù)據(jù)遷移到進程內(nèi)部。外部設(shè)備一般指硬盤、socket通訊的網(wǎng)卡。一個完整的IO過程包括以下幾個步驟:
應(yīng)用程序進程向操作系統(tǒng)發(fā)起IO調(diào)用請求
操作系統(tǒng)準備數(shù)據(jù),把IO外部設(shè)備的數(shù)據(jù),加載到內(nèi)核緩沖區(qū)
操作系統(tǒng)拷貝數(shù)據(jù),即將內(nèi)核緩沖區(qū)的數(shù)據(jù),拷貝到用戶進程緩沖區(qū)
阻塞IO模型
我們已經(jīng)知道IO是什么啦,那什么是阻塞IO呢?
假設(shè)應(yīng)用程序的進程發(fā)起IO調(diào)用,但是如果內(nèi)核的數(shù)據(jù)還沒準備好的話,那應(yīng)用程序進程就一直在阻塞等待,一直等到內(nèi)核數(shù)據(jù)準備好了,從內(nèi)核拷貝到用戶空間,才返回成功提示,此次IO操作,稱之為阻塞IO。
阻塞IO比較經(jīng)典的應(yīng)用就是阻塞socket、Java BIO。
阻塞IO的缺點就是:如果內(nèi)核數(shù)據(jù)一直沒準備好,那用戶進程將一直阻塞,浪費性能,可以使用非阻塞IO優(yōu)化。
非阻塞IO模型
如果內(nèi)核數(shù)據(jù)還沒準備好,可以先返回錯誤信息給用戶進程,讓它不需要等待,而是通過輪詢的方式再來請求。這就是非阻塞IO,流程圖如下:
非阻塞IO的流程如下:
- 應(yīng)用進程向操作系統(tǒng)內(nèi)核,發(fā)起recvfrom讀取數(shù)據(jù)。
- 操作系統(tǒng)內(nèi)核數(shù)據(jù)沒有準備好,立即返回EWOULDBLOCK錯誤碼。
- 應(yīng)用程序進程輪詢調(diào)用,繼續(xù)向操作系統(tǒng)內(nèi)核發(fā)起recvfrom讀取數(shù)據(jù)。
- 操作系統(tǒng)內(nèi)核數(shù)據(jù)準備好了,從內(nèi)核緩沖區(qū)拷貝到用戶空間。
- 完成調(diào)用,返回成功提示。
非阻塞IO模型,簡稱NIO,Non-Blocking IO。它相對于阻塞IO,雖然大幅提升了性能,但是它依然存在性能問題,即頻繁的輪詢,導(dǎo)致頻繁的系統(tǒng)調(diào)用,同樣會消耗大量的CPU資源。可以考慮IO復(fù)用模型,去解決這個問題。
IO多路復(fù)用模型
既然NIO無效的輪詢會導(dǎo)致CPU資源消耗,我們等到內(nèi)核數(shù)據(jù)準備好了,主動通知應(yīng)用進程再去進行系統(tǒng)調(diào)用,那不就好了嘛?
在這之前,我們先來復(fù)習(xí)下,什么是文件描述符fd(File Descriptor),它是計算機科學(xué)中的一個術(shù)語,形式上是一個非負整數(shù)。當(dāng)程序打開一個現(xiàn)有文件或者創(chuàng)建一個新文件時,內(nèi)核向進程返回一個文件描述符。
IO復(fù)用模型核心思路:系統(tǒng)給我們提供一類函數(shù)(如我們耳濡目染的select、poll、epoll函數(shù)),它們可以同時監(jiān)控多個fd的操作,任何一個返回內(nèi)核數(shù)據(jù)就緒,應(yīng)用進程再發(fā)起recvfrom系統(tǒng)調(diào)用。
IO多路復(fù)用之select
應(yīng)用進程通過調(diào)用select函數(shù),可以同時監(jiān)控多個fd,在select函數(shù)監(jiān)控的fd中,只要有任何一個數(shù)據(jù)狀態(tài)準備就緒了,select函數(shù)就會返回可讀狀態(tài),這時應(yīng)用進程再發(fā)起recvfrom請求去讀取數(shù)據(jù)。
非阻塞IO模型(NIO)中,需要N(N>=1)次輪詢系統(tǒng)調(diào)用,然而借助select的IO多路復(fù)用模型,只需要發(fā)起一次詢問就夠了,大大優(yōu)化了性能。
但是呢,select有幾個缺點:
- 監(jiān)聽的IO最大連接數(shù)有限,在Linux系統(tǒng)上一般為1024。
- select函數(shù)返回后,是通過遍歷fdset,找到就緒的描述符fd。(僅知道有I/O事件發(fā)生,卻不知是哪幾個流,所以遍歷所有流)
因為存在連接數(shù)限制,所以后來又提出了poll。與select相比,poll解決了連接數(shù)限制問題。但是呢,select和poll一樣,還是需要通過遍歷文件描述符來獲取已經(jīng)就緒的socket。如果同時連接的大量客戶端,在一時刻可能只有極少處于就緒狀態(tài),伴隨著監(jiān)視的描述符數(shù)量的增長,效率也會線性下降。
因此經(jīng)典的多路復(fù)用模型epoll誕生。
IO多路復(fù)用之epoll
為了解決select/poll存在的問題,多路復(fù)用模型epoll誕生,它采用事件驅(qū)動來實現(xiàn),流程圖如下:
epoll先通過epoll_ctl()來注冊一個fd(文件描述符),一旦基于某個fd就緒時,內(nèi)核會采用回調(diào)機制,迅速激活這個fd,當(dāng)進程調(diào)用epoll_wait()時便得到通知。這里去掉了遍歷文件描述符的坑爹操作,而是采用監(jiān)聽事件回調(diào)的機制。這就是epoll的亮點。
我們一起來總結(jié)一下select、poll、epoll的區(qū)別
select | poll | epoll | |
---|---|---|---|
底層數(shù)據(jù)結(jié)構(gòu) | 數(shù)組 | 鏈表 | 紅黑樹和雙鏈表 |
獲取就緒的fd | 遍歷 | 遍歷 | 事件回調(diào) |
事件復(fù)雜度 | O(n) | O(n) | O(1) |
最大連接數(shù) | 1024 | 無限制 | 無限制 |
fd數(shù)據(jù)拷貝 | 每次調(diào)用select,需要將fd數(shù)據(jù)從用戶空間拷貝到內(nèi)核空間 | 每次調(diào)用poll,需要將fd數(shù)據(jù)從用戶空間拷貝到內(nèi)核空間 | 使用內(nèi)存映射(mmap),不需要從用戶空間頻繁拷貝fd數(shù)據(jù)到內(nèi)核空間 |
epoll明顯優(yōu)化了IO的執(zhí)行效率,但在進程調(diào)用epoll_wait()時,仍然可能被阻塞。能不能醬紫:不用我老是去問你數(shù)據(jù)是否準備就緒,等我發(fā)出請求后,你數(shù)據(jù)準備好了通知我就行了,這就誕生了信號驅(qū)動IO模型。
IO模型之信號驅(qū)動模型
信號驅(qū)動IO不再用主動詢問的方式去確認數(shù)據(jù)是否就緒,而是向內(nèi)核發(fā)送一個信號(調(diào)用sigaction的時候建立一個SIGIO的信號),然后應(yīng)用用戶進程可以去做別的事,不用阻塞。當(dāng)內(nèi)核數(shù)據(jù)準備好后,再通過SIGIO信號通知應(yīng)用進程,數(shù)據(jù)準備好后的可讀狀態(tài)。應(yīng)用用戶進程收到信號之后,立即調(diào)用recvfrom,去讀取數(shù)據(jù)。
信號驅(qū)動IO模型,在應(yīng)用進程發(fā)出信號后,是立即返回的,不會阻塞進程。它已經(jīng)有異步操作的感覺了。但是你細看上面的流程圖,發(fā)現(xiàn)數(shù)據(jù)復(fù)制到應(yīng)用緩沖的時候,應(yīng)用進程還是阻塞的?;剡^頭來看下,不管是BIO,還是NIO,還是信號驅(qū)動,在數(shù)據(jù)從內(nèi)核復(fù)制到應(yīng)用緩沖的時候,都是阻塞的。還有沒有優(yōu)化方案呢?AIO(真正的異步IO)!
IO 模型之異步IO(AIO)
前面講的BIO,NIO和信號驅(qū)動,在數(shù)據(jù)從內(nèi)核復(fù)制到應(yīng)用緩沖的時候,都是阻塞的,因此都不算是真正的異步。AIO實現(xiàn)了IO全流程的非阻塞,就是應(yīng)用進程發(fā)出系統(tǒng)調(diào)用后,是立即返回的,但是立即返回的不是處理結(jié)果,而是表示提交成功類似的意思。等內(nèi)核數(shù)據(jù)準備好,將數(shù)據(jù)拷貝到用戶進程緩沖區(qū),發(fā)送信號通知用戶進程IO操作執(zhí)行完畢。
異步IO的優(yōu)化思路很簡單,只需要向內(nèi)核發(fā)送一次請求,就可以完成數(shù)據(jù)狀態(tài)詢問和數(shù)據(jù)拷貝的所有操作,并且不用阻塞等待結(jié)果。日常開發(fā)中,有類似思想的業(yè)務(wù)場景:
比如發(fā)起一筆批量轉(zhuǎn)賬,但是批量轉(zhuǎn)賬處理比較耗時,這時候后端可以先告知前端轉(zhuǎn)賬提交成功,等到結(jié)果處理完,再通知前端結(jié)果即可。
阻塞、非阻塞、同步、異步IO劃分
IO模型 | |
---|---|
阻塞I/O模型 | 同步阻塞 |
非阻塞I/O模型 | 同步非阻塞 |
I/O多路復(fù)用模型 | 同步阻塞 |
信號驅(qū)動I/O模型 | 同步非阻塞 |
異步IO(AIO)模型 | 異步非阻塞 |
一個通俗例子讀懂BIO、NIO、AIO
- 同步阻塞(blocking-IO)簡稱BIO
- 同步非阻塞(non-blocking-IO)簡稱NIO
- 異步非阻塞(asynchronous-non-blocking-IO)簡稱AIO
一個經(jīng)典生活的例子:
- 小明去吃同仁四季的椰子雞,就這樣在那里排隊,等了一小時,然后才開始吃火鍋。(BIO)
- 小紅也去同仁四季的椰子雞,她一看要等挺久的,于是去逛會商場,每次逛一下,就跑回來看看,是不是輪到她了。于是最后她既購了物,又吃上椰子雞了。(NIO)
- 小華一樣,去吃椰子雞,由于他是高級會員,所以店長說,你去商場隨便逛會吧,等下有位置,我立馬打電話給你。于是小華不用干巴巴坐著等,也不用每過一會兒就跑回來看有沒有等到,最后也吃上了美味的椰子雞(AIO)
本文轉(zhuǎn)載自微信公眾號「撿田螺的小男孩」,可以通過以下二維碼關(guān)注。轉(zhuǎn)載本文請聯(lián)系撿田螺的小男孩公眾號。