自拍偷在线精品自拍偷,亚洲欧美中文日韩v在线观看不卡

揭秘系列:Goroutine調度器

系統(tǒng) 后端
你可能之前聽說過Goroutine調度器,但我們真正了解它是如何工作的嗎?它是如何將Goroutines與線程配對的?現(xiàn)在讓我們一步一步地分解調度器的操作。

現(xiàn)在不要擔心理解上面的圖片,因為我們將從非?;A的知識開始。

Goroutines分布在線程中,由Goroutine調度器在幕后處理。根據我們之前的討論,我們知道一些關于Goroutines的事情:

  • 從原始執(zhí)行速度來看,Goroutines不一定比線程更快,因為它們需要一個實際的線程來運行。
  • Goroutines的真正優(yōu)勢在于上下文切換、內存占用、創(chuàng)建和拆除的成本等方面。

你可能之前聽說過Goroutine調度器,但我們真正了解它是如何工作的嗎?它是如何將Goroutines與線程配對的?

現(xiàn)在讓我們一步一步地分解調度器的操作。

一、Goroutine的M:N調度器

Go團隊為我們真正簡化了并發(fā)處理,想想看:創(chuàng)建一個Goroutine就像在函數(shù)前面加上 go 關鍵字一樣容易。

go doWork()

但在這個簡單的步驟背后,有一個更深層的系統(tǒng)在運作。

從一開始,Go并不是簡單地提供了線程。相反,在中間有一個輔助工具,Goroutine調度器,它是Go運行時的關鍵部分。

1*6UyqGhkbOV7kSlRe1CD-gA.png

那么什么是M:N標簽?

它表示Go調度器在將M個Goroutines映射到N個內核線程時所起的作用,形成了M:N模型。你可以擁有更多的操作系統(tǒng)線程,就像可以擁有更多的Goroutines一樣。

在我們深入研究調度器之前,讓我們澄清一下經?;煜膬蓚€術語:并發(fā)和并行。

  • 并發(fā):這是關于同時處理多個任務,它們都在運動,但不總是在同一時刻。
  • 并行:這意味著許多任務在完全相同的時間運行,通常使用多個CPU核心。

1*30ViMAPkVySvdSDc-hI3sA.png

讓我們看看Go調度器是如何與線程配合運作的。

二、PMG 模型

在我們深入研究內部工作原理之前,讓我們分解一下P、M和G代表什么。

1.G(Goroutine)

Goroutine充當Go的最小執(zhí)行單元,類似于輕量級線程。

在Go的運行時中,它由一個名為g的struct{}表示。一旦創(chuàng)建,它會找到一個邏輯處理器P的本地可運行隊列(或G隊列)中的位置,然后P將其交給一個實際的內核線程M。

Goroutines通常存在三種主要狀態(tài):

  • 等待:在這個階段,Goroutine停滯不前,可能因為通道或鎖之類的操作而暫停,或者可能被系統(tǒng)調用暫停。
  • 可運行:Goroutine已經準備好運行,但尚未開始運行,它正在等待輪到它在一個線程(M)上運行。
  • 運行:現(xiàn)在,Goroutine正在一個線程(M)上積極執(zhí)行。它會一直執(zhí)行,直到任務完成,除非調度器中斷它或其他原因阻止了它的執(zhí)行。

1*U62eyES6_koQtsv_9jWKHw.png

Goroutines并不僅僅被使用一次然后被丟棄。

相反,當啟動新的Goroutine時,Go的運行時會從Goroutine池

中選擇一個,但如果找不到任何可用的Goroutine,它會創(chuàng)建一個新的。然后,這個新的Goroutine加入到一個P的可運行隊列中。

2.P(邏輯處理器)

在Go調度器中,當我們提到“處理器”時,我們指的是邏輯實體,而不是物理實體。

默認情況下,P的數(shù)量設置為可用的核心數(shù),你可以使用runtime.GOMAXPROCS(int)函數(shù)來檢查或更改這些處理器的數(shù)量。

runtime.GOMAXPROCS(0) // 獲取當前允許的邏輯處理器數(shù)量

如果你想更改這個數(shù)量,最好是在應用程序啟動時更改它,如果在運行時更改,它會導致STW(停止一切),直到重新調整處理器。

每個P都擁有自己的可運行Goroutines列表,稱為本地運行隊列,最多可以容納256個Goroutines。

1*0EneA397HA1uYYeg0_HspQ.png

調度器 — P(邏輯處理器)

如果P的隊列達到了最大Coroutines數(shù)(256),那么就有一個共享隊列,稱為全局運行隊列,但我們將稍后討論這個。

"那么 'P' 的這個數(shù)量到底代表什么?" 它表示可以同時運行的Goroutines數(shù)量 — 想象它們并行運行。

3.M(機器線程 — 操作系統(tǒng)線程)

一個典型的Go程序最多可以使用1萬個線程。

是的,我說的是線程,而不是Goroutines。如果超出這個限制,你可能會使你的Go應用程序崩潰。

"什么情況下會創(chuàng)建一個線程?" 想象一種情況:一個Goroutine處于可運行狀態(tài)并需要一個線程。如果所有線程已經被阻塞,可能是因為系統(tǒng)調用或非搶占操作,會怎么樣?在這種情況下,調度器會介入并為該Goroutine創(chuàng)建一個新線程。一個需要注意的事情是,如果一個線程只是忙于昂貴的計算或長時間運行的任務,它不被視為被卡住或被阻塞。如果你想更改默認線程限制,你可以使用 runtime/debug.SetMaxThreads() 函數(shù),它允許你設置你的Go程序可以使用的操作系統(tǒng)線程的最大數(shù)量。此外,值得知道的是,線程是可以重復使用的,因為創(chuàng)建或銷毀線程是消耗資源的。

三、MPG 工作原理

讓我們通過項目符號逐步了解 M、P 和 G 如何一起運作。

我不會在這里深入討論每個細節(jié),但我將在即將發(fā)布的故事中深入探討。如果你感興趣,請訂閱。

1*d4hu416FJtHHaJaKJFYkGg.png

1.Go Scheduler 的工作原理:

  • 初始化 goroutine:通過使用 go func() 命令,Go Runtime 要么創(chuàng)建一個新的 goroutine,要么從池中選擇一個現(xiàn)有的。
  • 排隊位置:goroutine 尋找其在隊列中的位置,如果所有邏輯處理器(P)的本地隊列都滿了,那么這個 goroutine 就被放入全局隊列。
  • 線程配對:這是 M 開始發(fā)揮作用的地方。它獲取一個 P 并開始處理來自 P 本地隊列的 goroutine,當 M 與這個 goroutine 交互時,與之關聯(lián)的 P 就變得占用,不再可用于其他 M。
  • 竊取行為:如果某個 P 的隊列被耗盡,M 會嘗試“借用”另一個 P 隊列中一半可運行的 goroutine。如果不成功,它然后檢查全局隊列,然后再檢查網絡輪詢器(請查看下面的“竊取過程”圖表部分)。
  • 資源分配:M 選擇了一個 goroutine(G)之后,它會獲取運行 G 所需的所有資源。“那么被阻塞的線程呢?” 如果一個 goroutine 啟動了需要時間的系統(tǒng)調用(比如讀取文件),那么 M 會等待。但調度程序不喜歡某個只是坐在那里等待的線程,它會將被暫停的 M 與其 P 解除連接,并將來自隊列的另一個可運行的 goroutine 與新的或現(xiàn)有的 M 連接起來,然后與 P 協(xié)作。

2.被阻塞的線程

竊取過程:

當一個線程(M)完成了它的任務并沒有其他事情可做時,它不會坐在那里。

相反,它積極地尋找更多工作,觀察其他處理器并獲取它們一半的任務,讓我們來詳細了解一下:

ewA.png

  • 每 61 個時鐘滴答,M 檢查全局可運行隊列,以確保執(zhí)行的公平性。如果在全局隊列中找到一個可運行的 goroutine,就停止。
  • 然后,線程 M 檢查其本地運行隊列,與其處理器 P 相關聯(lián),以查看是否有可運行的 goroutine 可以處理。
  • 如果線程發(fā)現(xiàn)它的隊列是空的,那么它會查看全局隊列,看看那里是否有等待處理的任務。
  • 然后,線程會檢查網絡輪詢器,以查看是否有與網絡相關的任務。
  • 如果線程在檢查了網絡輪詢器后仍然沒有找到任務,它將進入主動搜索模式,我們可以將其視為旋轉狀態(tài)。
  • 在這種狀態(tài)下,線程試圖從其他處理器的隊列中“借用”任務。
  • 經過所有這些步驟后,如果線程仍然找不到工作,它將停止主動搜索。
  • 現(xiàn)在,如果有新的任務進來,而且有一個沒有在搜索狀態(tài)的空閑處理器,那么可以提示另一個線程開始工作。

需要注意的細節(jié)是全局隊列實際上被檢查了兩次:每 61 個時鐘滴答一次以確保公平性,如果本地隊列為空,就再次檢查。

“如果 M 與其 P 相關聯(lián),它怎么能從其他處理器那里獲取任務呢?M 會更改其 P 嗎?” 答案是不會。即使 M 從另一個 P 的隊列中獲取任務,它仍然使用其原始處理器來運行該任務。因此,在 M 承擔新任務的同時,它仍然忠實于其處理器。

“為什么是 61?” 在設計算法時,特別是哈希算法,通常會選擇質數(shù),因為它們除了 1 和它們自己之外沒有除數(shù)。這可以降低出現(xiàn)模式或規(guī)律的機會,從而防止“碰撞”或其他不希望出現(xiàn)的行為。如果太短,系統(tǒng)可能會浪費資源頻繁檢查全局運行隊列。如果太長,goroutine 可能會在執(zhí)行之前等待過長的時間。

3.網絡輪詢器

我們還沒有詳細討論網絡輪詢器,但它在竊取過程圖表中提到了。

與 Go Scheduler 一樣,網絡輪詢器是 Go Runtime 的組成部分,負責處理與網絡相關的調用(例如,網絡 I/O)。

讓我們比較兩種系統(tǒng)調用類型:

  • 與網絡相關的系統(tǒng)調用:當一個 goroutine 執(zhí)行網絡 I/O 操作時,它不會阻塞線程,而是會在網絡輪詢器中注冊。輪詢器會異步等待操作完成,一旦完成,goroutine 就會再次可運行,可以在一個線程上繼續(xù)執(zhí)行。
  • 其他系統(tǒng)調用:如果它們可能會阻塞并且不由網絡輪詢器處理,它們可能會導致 goroutine 將其執(zhí)行卸載到操作系統(tǒng)線程上。只有特定的操作系統(tǒng)線程會被阻塞,Go 運行時調度程序可以在不同線程上執(zhí)行其他 goroutine。
責任編輯:趙寧寧 來源: 小技術君
相關推薦

2025-01-15 09:13:53

2010-04-23 09:30:18

國產龍芯服務器

2022-02-15 18:45:35

Linux進程調度器

2024-10-29 08:52:01

Go協(xié)作式調度

2023-11-22 13:18:02

Linux調度

2021-03-12 08:53:09

GC調度Goroutine

2023-03-03 15:37:32

GMP 模型goroutine

2023-12-13 13:03:53

任務調度執(zhí)行XXLJOB

2011-01-21 07:36:00

LinuxBFSCFS

2018-03-14 09:44:56

阿里容器平臺

2011-01-13 13:59:14

2022-02-18 15:07:29

goroutinepanic協(xié)程

2023-04-17 08:13:13

KubernetesPod

2021-01-29 08:22:03

調度器Yarn架構

2013-03-08 10:07:20

GO語言Goroutine

2022-07-12 10:38:25

分布式框架

2019-01-10 11:12:15

Nginx服務器架構

2010-06-04 09:42:23

MySQL 事件調度器

2021-06-29 23:40:19

Golang語言并發(fā)

2021-10-11 08:58:34

Goroutine操作系統(tǒng)
點贊
收藏

51CTO技術棧公眾號