自拍偷在线精品自拍偷,亚洲欧美中文日韩v在线观看不卡

數(shù)據(jù)庫sharding Lookup技術(shù)探討

運維 數(shù)據(jù)庫運維 其他數(shù)據(jù)庫
數(shù)據(jù)庫sharding技術(shù)最近幾年越來越火熱。Sharding是shared-nothing的縮寫,也可稱其為horizontal partitioning/horizontal split,即數(shù)據(jù)庫切片。將一個大的數(shù)據(jù)庫切成幾個功能一樣,邏輯關(guān)系和物理上毫不相干的數(shù)據(jù)庫。

數(shù)據(jù)庫sharding有幾個主要的優(yōu)點:

1. Database sharding提供了近似線性擴展的架構(gòu)??梢噪S著應(yīng)用的增長線性的增加更多的服務(wù)器。

2. 提高了數(shù)據(jù)庫的可用性。如果只有一個數(shù)據(jù)庫,一旦down掉的話,對其所提供的service影響是100%,如果拆成10臺數(shù)據(jù)庫,那么一臺數(shù)據(jù)庫down掉的影響只有10%。

3. 小的數(shù)據(jù)庫壓力比較小,風險更小,性能更好。做過DBA的都知道,管理一臺3000 TPS的數(shù)據(jù)庫和一臺300 TPS的數(shù)據(jù)庫的壓力是完全不一樣的。

其缺點在于:

1. 首先要業(yè)務(wù)邏輯支持,并不是任何類型的數(shù)據(jù)庫都支持拆分。如果業(yè)務(wù)邏輯不支持拆成幾個不相干的數(shù)據(jù)的話,拆開后各個數(shù)據(jù)庫之間數(shù)據(jù)join會帶來額外的開銷,而且隨著數(shù)據(jù)庫的增多,開銷越來越大。

2. 更多的數(shù)據(jù)庫也帶來一些維護上的開銷,例如升級數(shù)據(jù)庫,打patch等。

3. 因為數(shù)據(jù)分散了,所以要提供機制能夠找到所需數(shù)據(jù)所在的數(shù)據(jù)庫。這也是本篇文章討論的重點,即數(shù)據(jù)的lookup技術(shù)。

下面重點討論lookup技術(shù)。數(shù)據(jù)被分散在不同的數(shù)據(jù)庫中,當應(yīng)用需要查詢數(shù)據(jù)時,要能夠定位到相應(yīng)的數(shù)據(jù)庫中查詢。如果沒有Lookup機制,則需要到每一個數(shù)據(jù)庫中查詢,這樣的話就不可能做到線性擴展,數(shù)據(jù)庫Sharding也就失去了其主要的優(yōu)勢。

Lookup技術(shù)主要從以下幾個方面來考慮:

1. 成本

2. 效率

3. 再次拆分的難度

4. 是否支持在線拆分

我接觸到或者想到的Lookup技術(shù)有以下幾種,下面分別討論其優(yōu)缺點。

1. 建立Lookup數(shù)據(jù)庫

這是很自然想到的一種方法。Lookup數(shù)據(jù)庫中記錄 (ID, Server)的對應(yīng)關(guān)系。
其優(yōu)點在于靈活性很高,數(shù)據(jù)可以存放在任何一個數(shù)據(jù)庫中,可以在不同的數(shù)據(jù)庫之間在線遷移數(shù)據(jù)來平衡數(shù)據(jù)庫壓力,遷移數(shù)據(jù)時同時更新Lookup數(shù)據(jù)庫中相應(yīng)的記錄。

缺點也很明顯,就是需要一套Lookup數(shù)據(jù)庫來支持,有不小的額外開銷。Lookup數(shù)據(jù)庫的數(shù)據(jù)必須集中存放,不好再做水平切割。雖然其數(shù)據(jù)結(jié)構(gòu)簡單,存放的數(shù)據(jù)量并不大,但是所有的應(yīng)用都需要到Lookup數(shù)據(jù)庫上查找數(shù)據(jù),其查詢的頻率很高。而且Lookup數(shù)據(jù)庫在這個方案中也成為了一個故障節(jié)點。所以不能用一臺數(shù)據(jù)庫做Lookup DB,否則前面提到的sharding數(shù)據(jù)庫可用性的優(yōu)勢又失去了。我們可以用Master/Slave的方式來實現(xiàn)Lookup數(shù)據(jù)庫的scalability和availability。Master數(shù)據(jù)庫提供寫操作,Slave數(shù)據(jù)庫提供讀的操作。

對于oracle來說,可以采用復(fù)制軟件來實現(xiàn)master和slave之間的同步,例如shareplex,也可以采用oracle logical standby或者oracle active physical standby(11g)來實現(xiàn)。

MySQL數(shù)據(jù)庫的話,memory engine很適合做Slave服務(wù)器,因為Lookup表的數(shù)據(jù)庫不大,可以放在內(nèi)存中,而且hash index很適合等式查找。Memory engine可以支持大并發(fā)量的查詢。Mater數(shù)據(jù)庫可以采用Innodb,文檔中提到在高版本的MySQL中支持不同storage engine之間的復(fù)制。實際應(yīng)用中不知道有沒有公司這么使用。

2. 采用劃分區(qū)間的方式

將數(shù)據(jù)按照range來劃分。比方說以1萬為一個區(qū)間長度,ID在1~10000的在數(shù)據(jù)庫D1中,10001~20000的在數(shù)據(jù)庫D2中,20001~30000在數(shù)據(jù)庫D3中,依此類推。當分配的ID用完或者新增服務(wù)器時,繼續(xù)分配后面的ID供其使用。可以通過sequence來實現(xiàn)。
其優(yōu)點在于不需要額外的開銷,應(yīng)用通過簡單的映射就可以得知數(shù)據(jù)存放于哪個數(shù)據(jù)庫中,缺點在于各個數(shù)據(jù)庫之間很難實現(xiàn)在線的數(shù)據(jù)遷移。如果應(yīng)用的增長不是因為數(shù)據(jù)量增長而增長,而是因為執(zhí)行次數(shù)的增加的話,很難做到在線的壓力平衡。另外當區(qū)間內(nèi)分配的ID數(shù)用完了,需要DBA手工分配新的區(qū)間。

3. 采用hash函數(shù)的方式

比方說最簡單的hash函數(shù)—mod函數(shù)。將數(shù)據(jù)進行mod(ID, 13860) (13860= 2*3*5*6*7*11),如果有十臺數(shù)據(jù)庫,每個數(shù)據(jù)庫中存放1386個mod。將mod和數(shù)據(jù)庫之間的mapping關(guān)系存放于數(shù)據(jù)庫中,應(yīng)用服務(wù)器可以將其load進自己的內(nèi)存中(這個表很?。.斝略龇?wù)器時,從各個數(shù)據(jù)庫中轉(zhuǎn)移一部分mod到新的服務(wù)器上。
其優(yōu)點在于不需要額外的開銷,可以通過查找應(yīng)用端很小的內(nèi)存鏈表就能獲知數(shù)據(jù)存放的位置,缺點在于當新增服務(wù)器后轉(zhuǎn)移數(shù)據(jù)過程中要保持數(shù)據(jù)的同步,需要同步機制。

4. 采用hash函數(shù)和Lookup數(shù)據(jù)庫相結(jié)合的方式

基本劃分的方法和第三種一樣,但是多了一套Lookup數(shù)據(jù)庫來提供miss查詢。這套Lookup數(shù)據(jù)庫解決了方法三中新增服務(wù)器數(shù)據(jù)同步的問題。新增服務(wù)器轉(zhuǎn)移數(shù)據(jù)時就不需要同步了,而是采用move的方式,這樣在舊的服務(wù)器中miss了,但可以通過Lookup數(shù)據(jù)庫來定位到新的服務(wù)器,當單個mod完全轉(zhuǎn)移了,可以更新mapping表,這樣就可以直接定位到新的服務(wù)器上。

不知道大家是如何實現(xiàn)Lookup機制的,有什么好的方法或想法非常歡迎大家來分享。

【編輯推薦】

  1. 如何在DB2中提高IMPORT性能
  2. 使用DB2必須了解的幾個知識點
  3. DB2下數(shù)據(jù)轉(zhuǎn)移任務(wù)操作實例
責任編輯:彭凡 來源: dbafan
相關(guān)推薦

2017-03-14 13:57:15

數(shù)據(jù)庫權(quán)限分配探討

2022-05-30 11:47:49

數(shù)據(jù)技術(shù)監(jiān)測

2023-01-12 17:18:06

數(shù)據(jù)庫多云

2010-05-07 13:09:06

2015-07-10 10:25:09

2024-12-02 12:23:25

2024-07-16 08:22:09

2011-03-15 14:54:08

NoSQL

2011-03-24 14:24:05

2019-01-16 14:20:42

2022-03-02 09:13:00

分布式數(shù)據(jù)庫Sharding

2017-06-12 18:24:25

數(shù)據(jù)庫壓縮技術(shù)

2024-07-17 11:40:58

2011-08-02 13:37:17

2011-05-13 13:54:02

數(shù)據(jù)庫文檔數(shù)據(jù)庫

2010-08-02 16:19:00

ibmdw面向?qū)ο?/a>

2011-07-27 08:56:32

Oracle數(shù)據(jù)庫綁定變量軟解析

2010-07-23 13:39:19

SNS網(wǎng)站

2011-05-17 15:02:15

ORACLE數(shù)據(jù)庫備份

2011-05-18 09:39:19

Oracle數(shù)據(jù)庫性能優(yōu)化
點贊
收藏

51CTO技術(shù)棧公眾號