并發(fā)(concurrency)和并行(parallellism)

• 并發(fā)(concurrency)：兩個(gè)或兩個(gè)以上的任務(wù)在一段時(shí)間內(nèi)被執(zhí)行。我們不必care這些任務(wù)在某一個(gè)時(shí)間點(diǎn)是否是同時(shí)執(zhí)行，可能同時(shí)執(zhí)行，也可能不是，我們只關(guān)心在一段時(shí)間內(nèi)，哪怕是很短的時(shí)間（一秒或者兩秒）是否執(zhí)行解決了兩個(gè)或兩個(gè)以上任務(wù)。
• 并行(parallellism)：兩個(gè)或兩個(gè)以上的任務(wù)在同一時(shí)刻被同時(shí)執(zhí)行。

并發(fā)說(shuō)的是邏輯上的概念，而并行，強(qiáng)調(diào)的是物理運(yùn)行狀態(tài)。并發(fā)“包含”并行。

（詳情請(qǐng)見(jiàn)：Rob Pike 的PPT）

Go的CSP并發(fā)模型

Go實(shí)現(xiàn)了兩種并發(fā)形式。第一種是大家普遍認(rèn)知的：多線程共享內(nèi)存。其實(shí)就是Java或者C++等語(yǔ)言中的多線程開(kāi)發(fā)。另外一種是Go語(yǔ)言特有的，也是Go語(yǔ)言推薦的：CSP（communicating sequential processes）并發(fā)模型。

CSP并發(fā)模型是在1970年左右提出的概念，屬于比較新的概念，不同于傳統(tǒng)的多線程通過(guò)共享內(nèi)存來(lái)通信，CSP講究的是“以通信的方式來(lái)共享內(nèi)存”。

請(qǐng)記住下面這句話："Do not communicate by sharing memory; instead, share memory by communicating." “不要以共享內(nèi)存的方式來(lái)通信，相反，要通過(guò)通信來(lái)共享內(nèi)存?！?

普通的線程并發(fā)模型，就是像Java、C++、或者Python，他們線程間通信都是通過(guò)共享內(nèi)存的方式來(lái)進(jìn)行的。非常典型的方式就是，在訪問(wèn)共享數(shù)據(jù)（例如數(shù)組、Map、或者某個(gè)結(jié)構(gòu)體或?qū)ο螅┑臅r(shí)候，通過(guò)鎖來(lái)訪問(wèn)，因此，在很多時(shí)候，衍生出一種方便操作的數(shù)據(jù)結(jié)構(gòu)，叫做“線程安全的數(shù)據(jù)結(jié)構(gòu)”。例如Java提供的包”java.util.concurrent”中的數(shù)據(jù)結(jié)構(gòu)。Go中也實(shí)現(xiàn)了傳統(tǒng)的線程并發(fā)模型。

Go的CSP并發(fā)模型，是通過(guò)goroutine和channel來(lái)實(shí)現(xiàn)的。

• goroutine 是Go語(yǔ)言中并發(fā)的執(zhí)行單位。有點(diǎn)抽象，其實(shí)就是和傳統(tǒng)概念上的”線程“類(lèi)似，可以理解為”線程“。
• channel 是Go語(yǔ)言中各個(gè)并發(fā)結(jié)構(gòu)體(goroutine)之前的通信機(jī)制。通俗的講，就是各個(gè)goroutine之間通信的”管道“，有點(diǎn)類(lèi)似于Linux中的管道。

生成一個(gè)goroutine的方式非常的簡(jiǎn)單：Go一下，就生成了：

go f();

通信機(jī)制channel也很方便，傳數(shù)據(jù)用channel <- data，取數(shù)據(jù)用<-channel。

在通信過(guò)程中，傳數(shù)據(jù)channel <- data和取數(shù)據(jù)<-channel必然會(huì)成對(duì)出現(xiàn)，因?yàn)檫@邊傳，那邊取，兩個(gè)goroutine之間才會(huì)實(shí)現(xiàn)通信。

而且不管傳還是取，必阻塞，直到另外的goroutine傳或者取為止。

有兩個(gè)goroutine，其中一個(gè)發(fā)起了向channel中發(fā)起了傳值操作。（goroutine為矩形，channel為箭頭）

左邊的goroutine開(kāi)始阻塞，等待有人接收。

這時(shí)候，右邊的goroutine發(fā)起了接收操作

右邊的goroutine也開(kāi)始阻塞，等待別人傳送。

這時(shí)候，兩邊goroutine都發(fā)現(xiàn)了對(duì)方，于是兩個(gè)goroutine開(kāi)始一傳，一收。

這便是Golang CSP并發(fā)模型最基本的形式。

Go并發(fā)模型的實(shí)現(xiàn)原理

我們先從線程講起，無(wú)論語(yǔ)言層面何種并發(fā)模型，到了操作系統(tǒng)層面，一定是以線程的形態(tài)存在的。而操作系統(tǒng)根據(jù)資源訪問(wèn)權(quán)限的不同，體系架構(gòu)可分為用戶空間和內(nèi)核空間；內(nèi)核空間主要操作訪問(wèn)CPU資源、I/O資源、內(nèi)存資源等硬件資源，為上層應(yīng)用程序提供最基本的基礎(chǔ)資源，用戶空間呢就是上層應(yīng)用程序的固定活動(dòng)空間，用戶空間不可以直接訪問(wèn)資源，必須通過(guò)“系統(tǒng)調(diào)用”、“庫(kù)函數(shù)”或“Shell腳本”來(lái)調(diào)用內(nèi)核空間提供的資源。

我們現(xiàn)在的計(jì)算機(jī)語(yǔ)言，可以狹義的認(rèn)為是一種“軟件”，它們中所謂的“線程”，往往是用戶態(tài)的線程，和操作系統(tǒng)本身內(nèi)核態(tài)的線程（簡(jiǎn)稱(chēng)KSE），還是有區(qū)別的。

線程模型的實(shí)現(xiàn)，可以分為以下幾種方式：

用戶級(jí)線程模型

如圖所示，多個(gè)用戶態(tài)的線程對(duì)應(yīng)著一個(gè)內(nèi)核線程，程序線程的創(chuàng)建、終止、切換或者同步等線程工作必須自身來(lái)完成。

內(nèi)核級(jí)線程模型

這種模型直接調(diào)用操作系統(tǒng)的內(nèi)核線程，所有線程的創(chuàng)建、終止、切換、同步等操作，都由內(nèi)核來(lái)完成。C++就是這種。

兩級(jí)線程模型

這種模型是介于用戶級(jí)線程模型和內(nèi)核級(jí)線程模型之間的一種線程模型。這種模型的實(shí)現(xiàn)非常復(fù)雜，和內(nèi)核級(jí)線程模型類(lèi)似，一個(gè)進(jìn)程中可以對(duì)應(yīng)多個(gè)內(nèi)核級(jí)線程，但是進(jìn)程中的線程不和內(nèi)核線程一一對(duì)應(yīng)；這種線程模型會(huì)先創(chuàng)建多個(gè)內(nèi)核級(jí)線程，然后用自身的用戶級(jí)線程去對(duì)應(yīng)創(chuàng)建的多個(gè)內(nèi)核級(jí)線程，自身的用戶級(jí)線程需要本身程序去調(diào)度，內(nèi)核級(jí)的線程交給操作系統(tǒng)內(nèi)核去調(diào)度。

Go語(yǔ)言的線程模型就是一種特殊的兩級(jí)線程模型。暫且叫它“MPG”模型吧。

Go線程實(shí)現(xiàn)模型MPG

M指的是Machine，一個(gè)M直接關(guān)聯(lián)了一個(gè)內(nèi)核線程。P指的是”processor”，代表了M所需的上下文環(huán)境，也是處理用戶級(jí)代碼邏輯的處理器。G指的是Goroutine，其實(shí)本質(zhì)上也是一種輕量級(jí)的線程。

三者關(guān)系如下圖所示：

以上這個(gè)圖講的是兩個(gè)線程(內(nèi)核線程)的情況。一個(gè)M會(huì)對(duì)應(yīng)一個(gè)內(nèi)核線程，一個(gè)M也會(huì)連接一個(gè)上下文P，一個(gè)上下文P相當(dāng)于一個(gè)“處理器”，一個(gè)上下文連接一個(gè)或者多個(gè)Goroutine。P(Processor)的數(shù)量是在啟動(dòng)時(shí)被設(shè)置為環(huán)境變量GOMAXPROCS的值，或者通過(guò)運(yùn)行時(shí)調(diào)用函數(shù)runtime.GOMAXPROCS()進(jìn)行設(shè)置。Processor數(shù)量固定意味著任意時(shí)刻只有固定數(shù)量的線程在運(yùn)行g(shù)o代碼。Goroutine中就是我們要執(zhí)行并發(fā)的代碼。圖中P正在執(zhí)行的Goroutine為藍(lán)色的；處于待執(zhí)行狀態(tài)的Goroutine為灰色的，灰色的Goroutine形成了一個(gè)隊(duì)列runqueues。

三者關(guān)系的宏觀的圖為：

拋棄 P(Processor)

你可能會(huì)想，為什么一定需要一個(gè)上下文，我們能不能直接除去上下文，讓Goroutine的runqueues掛到M上呢？答案是不行，需要上下文的目的，是讓我們可以直接放開(kāi)其他線程，當(dāng)遇到內(nèi)核線程阻塞的時(shí)候。

一個(gè)很簡(jiǎn)單的例子就是系統(tǒng)調(diào)用sysall，一個(gè)線程肯定不能同時(shí)執(zhí)行代碼和系統(tǒng)調(diào)用被阻塞，這個(gè)時(shí)候，此線程M需要放棄當(dāng)前的上下文環(huán)境P，以便可以讓其他的Goroutine被調(diào)度執(zhí)行。

如上圖左圖所示，M0中的G0執(zhí)行了syscall，然后就創(chuàng)建了一個(gè)M1(也有可能本身就存在，沒(méi)創(chuàng)建)，（轉(zhuǎn)向右圖）然后M0丟棄了P，等待syscall的返回值，M1接受了P，將·繼續(xù)執(zhí)行Goroutine隊(duì)列中的其他Goroutine。

當(dāng)系統(tǒng)調(diào)用syscall結(jié)束后，M0會(huì)“偷”一個(gè)上下文，如果不成功，M0就把它的Gouroutine G0放到一個(gè)全局的runqueue中，然后自己放到線程池或者轉(zhuǎn)入休眠狀態(tài)。全局runqueue是各個(gè)P在運(yùn)行完自己的本地的Goroutine runqueue后用來(lái)拉取新goroutine的地方。P也會(huì)周期性的檢查這個(gè)全局runqueue上的goroutine，否則，全局runqueue上的goroutines可能得不到執(zhí)行而餓死。

均衡的分配工作

按照以上的說(shuō)法，上下文P會(huì)定期的檢查全局的goroutine 隊(duì)列中的goroutine，以便自己在消費(fèi)掉自身Goroutine隊(duì)列的時(shí)候有事可做。假如全局goroutine隊(duì)列中的goroutine也沒(méi)了呢？就從其他運(yùn)行的中的P的runqueue里偷。

每個(gè)P中的Goroutine不同導(dǎo)致他們運(yùn)行的效率和時(shí)間也不同，在一個(gè)有很多P和M的環(huán)境中，不能讓一個(gè)P跑完自身的Goroutine就沒(méi)事可做了，因?yàn)榛蛟S其他的P有很長(zhǎng)的goroutine隊(duì)列要跑，得需要均衡。該如何解決呢？

Go的做法倒也直接，從其他P中偷一半！