引言

說(shuō)到現(xiàn)代大型軟件架構(gòu)，很容易想到的就是分布式、緩存數(shù)據(jù)庫(kù)、負(fù)載均衡、資源虛擬化、微服務(wù)、組件等等。然而，如果你總是和我夸夸其談分布式、并行等各種花里胡哨的框架，卻不告訴我代碼怎么寫，那么你一定在耍流氓。作為一個(gè)基層的軟件開發(fā)人員，更關(guān)心的是 main 函數(shù)該怎么寫、大量功能函數(shù)怎么分配到不同的線程上，而這才是最底層的軟件架構(gòu)，也是最重要的。今天，我給大家介紹一種靈活的可編程軟件框架，可以說(shuō)，這個(gè)框架能夠滿足絕大數(shù)場(chǎng)景下的軟件功能、性能及靈活性需求。

1 一個(gè)基本的軟件運(yùn)行結(jié)構(gòu)圖

上圖中，

main 函數(shù)在主線程中，子線程 1 和子線程 2 都用來(lái)處理任務(wù)，任務(wù)存放在任務(wù)隊(duì)列中;

每個(gè)任務(wù)需要兩個(gè)階段才能完成，先經(jīng)過(guò)階段 1 處理，再經(jīng)過(guò)階段 2 處理;

階段 1 需要兩個(gè)函數(shù)處理，分別是函數(shù) A 和函數(shù) B;

階段 2 需要一個(gè)函數(shù)處理，即函數(shù) C.

2 函數(shù)和隊(duì)列如何部署到不同的線程上?

說(shuō)到底，每個(gè)線程上運(yùn)行的都是一些基本的功能函數(shù)，我們可以把實(shí)現(xiàn)某個(gè)功能的函數(shù)劃分到一個(gè)函數(shù)集合里。這個(gè)例子中，子線程 1 上運(yùn)行的是函數(shù)集合 1，子線程 2 上運(yùn)行的是函數(shù)集合 3.

線程、函數(shù)集合、任務(wù)隊(duì)列的綁定關(guān)系圖

當(dāng)線程上的函數(shù)從任務(wù)隊(duì)列取任務(wù)進(jìn)行處理的時(shí)候，我們要明確以下幾點(diǎn)：

• 同一個(gè)任務(wù)隊(duì)列可以被多個(gè)線程調(diào)度
• 多個(gè)線程可以調(diào)度同一個(gè)任務(wù)隊(duì)列
• 不同的函數(shù)集合可以部署在同一個(gè)線程上
• 同一個(gè)函數(shù)集合也可以部署在不同線程上

線程、函數(shù)集合、任務(wù)隊(duì)列的具體綁定關(guān)系，我們可以靈活地寫在配置文件中，比如 json、yaml 等。在進(jìn)程起來(lái)之后，通過(guò)加載配置文件的方式實(shí)現(xiàn)資源的部署。為什么一個(gè)線程上可以掛多個(gè)任務(wù)隊(duì)列呢?因?yàn)槿蝿?wù)隊(duì)列可以有不同的類型呀，比如說(shuō)系統(tǒng)任務(wù)，用戶業(yè)務(wù)等。

3 線程上的函數(shù)如何調(diào)度?

在業(yè)務(wù)線程實(shí)際運(yùn)行的過(guò)程中，我們只會(huì)看到一個(gè)個(gè)函數(shù)，那如何控制函數(shù)的執(zhí)行順序呢?最簡(jiǎn)單的一種方案就是狀態(tài)機(jī)。線程每執(zhí)行一個(gè)循環(huán)，從初始狀態(tài)開始，經(jīng)過(guò)中間狀態(tài)，到最終狀態(tài)結(jié)束。任務(wù)到達(dá)每一種狀態(tài)時(shí)，就會(huì)進(jìn)行相應(yīng)的動(dòng)作處理(即對(duì)應(yīng)了一個(gè)有序的函數(shù)集合)，根據(jù)任務(wù)處理的結(jié)果，選擇需要跳轉(zhuǎn)的下一個(gè)狀態(tài)，直到遇到最終狀態(tài)，當(dāng)前任務(wù)處理結(jié)束。接著，從任務(wù)隊(duì)列上取下一個(gè)任務(wù)，循環(huán)調(diào)度。

狀態(tài)機(jī)循環(huán)調(diào)度任務(wù)

4 線程起來(lái)之后，哪些函數(shù)集合會(huì)真正運(yùn)行起來(lái)?

前文講到，在部署框架中指定了每個(gè)線程上需要運(yùn)行哪些函數(shù)集合。但是，當(dāng)線程實(shí)際起來(lái)之后，我們卻是根據(jù)狀態(tài)機(jī)進(jìn)行調(diào)度，狀態(tài)機(jī)也指定了每個(gè)狀態(tài)需要執(zhí)行哪些動(dòng)作(也就是函數(shù)集合)，那我們到底是執(zhí)行部署框架中定義的函數(shù)集合還是執(zhí)行狀態(tài)機(jī)中對(duì)應(yīng)的函數(shù)集合呢?答案當(dāng)然是狀態(tài)機(jī)中對(duì)應(yīng)的函數(shù)集合呀。

總結(jié)

這篇文章中，我嘗試總結(jié)了一種基于多線程并行技術(shù)下的可靈活編排的軟件架構(gòu)。這個(gè)架構(gòu)核心的地方有兩點(diǎn)：一是資源部署(即隊(duì)列、函數(shù)、線程的綁定關(guān)系);二是基于狀態(tài)機(jī)原理進(jìn)行調(diào)度，每個(gè)狀態(tài)處理之后如何選擇下個(gè)狀態(tài)，直接關(guān)系到軟件性能。朋友們，在摩爾定律失效、軟件性能要求越來(lái)越高的需求下，你們有更好的軟件架構(gòu)，能實(shí)現(xiàn) CPU 多核、多線程資源的最大化利用及高效的調(diào)度框架嗎?