自拍偷在线精品自拍偷,亚洲欧美中文日韩v在线观看不卡

阮一峰:Github 的清點對象算法

移動開發(fā) 算法
目前,Github的生產環(huán)境已經部署了這套算法,用戶再也不用為了清點對象,而苦苦等待了。而且,Github團隊還把它合并進了Git,這意味著,從此所有Git實現(xiàn)都可以使用Bitmap功能了,因此將來肯定還會有更多好玩的用法出現(xiàn)。

使用 Github 的時候,你有沒有見過下面的提示?

  1. $ git clone https://github.com/torvalds/linux 
  2. Cloning into 'linux'... 
  3. remote: Counting objects: 4350078, done. 
  4. remote: Compressing objects: 100% (4677/4677), done. 
  5. Receiving objects:   4% (191786/4350078), 78.19 MiB | 8.70 MiB/s 

這段提示說,遠程代碼庫一共有4350078個對象需要克隆。

這就叫"清點對象"(counting objects),Github需要實時計算出來,需要克隆的對象總數(shù)。

這個過程非常慢,根據Github的披露,像Linux kernel這樣巨大的庫,清點一次需要8分鐘!也就是說,發(fā)出git clone命令后,會干等八分鐘,然后才會開始真正的數(shù)據傳輸。這當然是無法忍受的。Github團隊一直想解決這個問題。

后來,他們終于發(fā)現(xiàn)了一種新的算法,現(xiàn)在清點一次只要3毫秒!

為了理解這個算法,你必須先知道,什么是Git的對象。簡單說,對象就是文件,最重要的對象有三種。

  • 快照對象(Commit)
  • 目錄對象(Directory)
  • 文件對象(File)

每次提交代碼的時候,會生成一個commit對象,里面有對應的當前"目錄對象"的名字。"目錄對象"保存了代碼根目錄所含有的子目錄和文件信息。每一個子目錄就是另一個"目錄對象",每一個文件則是"文件對象",里面是具體的文件內容。

所以,"清點對象"就是清點各種commit、目錄、文件等。git clone和git fetch操作都需要清點對象,因為需要知道,到底下載哪些對象文件。

清點對象的原始算法如下。

  1. 列出本地所有分支***的一個commit
  2. 列出遠程所有分支***的一個commit
  3. 兩者進行比較,只要有不同,就意味著分支發(fā)生變動
  4. 每一個發(fā)生變動的commit,都清點其中具體變動的子目錄和文件
  5. 追溯到當前commit的父節(jié)點,重復第四步,直至本地與遠程的歷史一致為止
  6. 加總所有需要變動的對象

上面的過程說明,"清點對象"是一個文件遍歷算法,變動的對象會被一一清點到,這就意味著大量的文件讀操作。對于大型代碼庫來說,這個過程非常慢。

Github團隊想到的新算法,是建立一個Bitmap索引,即為每一個commit生成一個二進制值。

打開本地Github倉庫的.git/objects/pack/目錄,你會看到一個索引文件和一個數(shù)據文件,它們就是Bitmap。簡單說,這兩個文件索引了當前代碼庫的所有對象,然后使用一個二進制值代表這些對象。有多少個對象,這個二進制值就有多少位。它的第n位,就代表數(shù)據文件里面的第n個對象。

每個commit都會有一個對應的二進制值,表示當前快照包含的所有對象。這些對象對應的二進制位都為1,其他二進制位都為0。

這樣做的好處是,不用讀取commit對象,只要讀取這個二進制值,就會知道當前commit包含了哪些節(jié)點。更妙的是,兩個二進制值只要做一次XOR運算,就會知道哪些位(即哪些對象)發(fā)生了變動。而且,因為新的對象總是添加到現(xiàn)有二進制位的后面,所以只要讀取多出來的那些位,就知道當前commit比上一次commit多出了哪些對象。

這樣一來,"清點對象"就變成了二進制值的比較運算,因此速度極快。進一步的介紹,請參看官方文檔《Bitmap的解釋》,《Bitmap的格式》。

目前,Github的生產環(huán)境已經部署了這套算法,用戶再也不用為了清點對象,而苦苦等待了。而且,Github團隊還把它合并進了Git,這意味著,從此所有Git實現(xiàn)都可以使用Bitmap功能了,因此將來肯定還會有更多好玩的用法出現(xiàn)。

(完)

責任編輯:倪明 來源: 阮一峰的網絡日志
相關推薦

2015-10-26 09:16:37

Github清點對象算法

2012-11-15 09:43:08

開發(fā)算法高斯模糊

2011-12-05 10:44:38

inodeLinux文件系統(tǒng)

2015-11-13 11:33:39

阮一峰ecmascript

2015-11-02 19:11:27

阮一峰javascript循環(huán)加載

2015-09-17 15:23:56

阮一峰網頁性能

2015-09-06 10:34:54

蒙特卡洛阮一峰

2015-09-24 09:43:08

阮一峰持續(xù)集成

2015-09-18 15:21:33

求職就業(yè)創(chuàng)業(yè)阮一峰

2015-09-29 08:51:59

內存地址主引導

2009-12-25 14:18:06

預讀算法

2021-11-03 15:01:50

算法開源技術

2021-12-16 06:52:33

Flex屬性布局

2021-07-21 16:13:54

GitHub 技術開源

2021-09-13 16:40:30

Java C 語言游戲

2020-02-10 14:26:10

GitHub代碼倉庫

2023-08-07 08:20:27

圖解算法工具

2013-09-18 14:01:46

JavaScript

2012-11-27 09:54:57

簡歷創(chuàng)業(yè)項目

2021-06-23 10:32:24

前端ES6代碼
點贊
收藏

51CTO技術棧公眾號