自拍偷在线精品自拍偷,亚洲欧美中文日韩v在线观看不卡

第4期:索引的本質(zhì)是排序

企業(yè)動態(tài)
索引是經(jīng)常用到的技術(shù),但有些程序員對索引的原理了解不深,發(fā)現(xiàn)數(shù)據(jù)查詢性能有問題立刻就想起建索引,但效果常常也不盡人意。那么到底什么時候該用索引以及該怎么用?我們來分析索引清理背后的技術(shù)原理就知道了。

[[191391]] 

索引是經(jīng)常用到的技術(shù),但有些程序員對索引的原理了解不深,發(fā)現(xiàn)數(shù)據(jù)查詢性能有問題立刻就想起建索引,但效果常常也不盡人意。那么到底什么時候該用索引以及該怎么用?我們來分析索引清理背后的技術(shù)原理就知道了。

基本原理

索引技術(shù)的初衷是為了快速從一個大數(shù)據(jù)集中找出某個字段等于確定值(比如按身份證號找出某個人)的記錄。一個規(guī)模(行數(shù))為N的數(shù)據(jù)集,用遍歷查找則需要比較N次,而如果數(shù)據(jù)是按該字段值(在索引中稱為鍵值)有序的,那么就可以建立二叉樹用二分法查找,只要比較logN(以2為底)次,比如10億行數(shù)據(jù)只要比較30次(10億約是2^30),這顯然能大大提高性能。有時可能還會有鍵值有重復(fù)的情況(按出生日期找人)或按鍵值區(qū)間的查找需求(按出生日期區(qū)間找人),比較次數(shù)就會比logN大一些,但基本仍是這個數(shù)量級的。

索引的本質(zhì)就是排序。

當(dāng)然,我們一般不會把原始數(shù)據(jù)集排序,而是把每條記錄的鍵值和這條記錄在數(shù)據(jù)集中的位置,按鍵值次序做成一個規(guī)模較小的數(shù)據(jù)集,這也就是索引表了。如果還有其它字段也要用于鍵值查找,則可以再建立別的索引。原始數(shù)據(jù)集只有一份,索引可以有多個,如果每個索引都把原始數(shù)據(jù)集排序,則會使數(shù)據(jù)集被復(fù)制很多遍,占用空間過大。

另外,數(shù)據(jù)庫在建立索引時還要考慮數(shù)據(jù)會插入刪除,簡單排序的索引會導(dǎo)致插入刪除的成本非常高,這時一般會使用B樹以方便快速更新。B樹相當(dāng)于把二叉樹擴展成n叉樹,本質(zhì)上仍然是鍵值有序。(索引如何建立的話題內(nèi)容不少,我們將另行撰文討論,這里只研討索引使用)

還有一種引申出來的方法是HASH索引,計算記錄鍵值的某種HASH值,散列到1…k的自然數(shù)范圍。這樣查找時連二分比較也不必做,直接用HASH值定位了。HASH方法只用來做鍵值的精確查找,不能用來實現(xiàn)區(qū)間查找,因為HASH函數(shù)并不單調(diào),已經(jīng)失去原來鍵值的大小信息了,不過這在許多場景下也夠用(按身份證號找人)。HASH索引本質(zhì)上也是排序,只是用了鍵值的HASH值來排序。我們下面的討論還是以普通鍵值排序為例,結(jié)論也適用于HASH索引。

從原理上看,顯然索引不會提高全量數(shù)據(jù)遍歷的運算性能。有些程序員不明就里時為了提高分組匯總性能也建索引,就是濫用了。

單索引

理解了上述原理后,我們就能知道什么時候索引會有效,以及書寫語法時的注意事項。

1. 只針對鍵值本身提條件的,很有效。

如:身份證號等于某值的、出生日期在某個區(qū)間內(nèi)的,這些都很有效。

2. 針對鍵值的函數(shù)提條件的,大部分無效,小部分取決于數(shù)據(jù)庫優(yōu)化

如:出生日期是星期幾的,索引鍵是出生日期。索引就沒法用,因為星期幾對索引無序,這時要把索引直接建在鍵值函數(shù)上,大部分?jǐn)?shù)據(jù)庫都支持這種索引。

再如:年齡在某個區(qū)間的,索引鍵是出生日期。索引不能直接用,但年齡和出生日期之間是個單調(diào)函數(shù),如果數(shù)據(jù)庫優(yōu)化做得好是可能利用的。但大概率是不行的。

書寫查詢條件時要盡量寫成針對原始索引鍵值本身,不要使用函數(shù)或表達式。

3. 一般性條件中包含鍵值條件的,鍵值條件作為一個最外層的AND條件時有效

如:出生日期在某天且姓名中有某字的。數(shù)據(jù)庫會用索引找出出生日期在某天的、然后再在其中遍歷查找出姓名中有某字的?,F(xiàn)代商用數(shù)據(jù)庫都能夠智能地分析條件表達式而找到可以使用索引提速的部分。

再如:出生日期在某天或姓名中有某字的。這時候索引就沒法用了,后半部條件反正也只能遍歷,那就直接遍歷了,索引就忽略了。

書寫多個組合查詢條件時就要注意盡量把索引鍵有關(guān)的條件放在最外層和其它條件AND起來,索引鍵不能用于縮小查詢范圍時不會提高性能。

多索引

如果我們?yōu)閿?shù)據(jù)集查詢條件中涉及的多個字段都建立索引,是否會進一步提高性能?

從上面的原理分析后結(jié)論比較悲催,大部分場景是只能用上一個。

比如在字段A和B上都建有索引,查詢條件是 A=1 AND B=2。先用索引A過濾出來的A=1的記錄,對B并沒有序,這時B=2的條件只能硬遍歷;反過來也一樣,先用B=2過濾的結(jié)果集對A無序,也只能遍歷了。商用數(shù)據(jù)庫一般會預(yù)估成本,選擇A和B中的過濾后結(jié)果集較小的那個索引來用。

不過,如果是A=1 OR B=2反而有可能用上,優(yōu)化能力較好的數(shù)據(jù)庫會分別用索引過濾出A=1和B=2的記錄,再做個并集。

還可以建立多字段索引,如果建立A,B雙字段索引,那么用A=1過濾后的結(jié)果集就對B有序,就可以繼續(xù)用該索引過濾B=2的條件。數(shù)據(jù)庫優(yōu)化較好時會知道A=1 AND B=2和B=2 AND A=1是一回事,條件書寫次序可以不必刻意和索引次序一致,只要注意上一小節(jié)所說的情況3就行:盡量把索引涉及條件放在最外層。

但是,A,B雙字段索引對單獨的B=2這個條件并無效,因為對A,B有序未必對B有序。B=2這種條件普只能再遍歷了,這是許多程序員容易犯的錯誤。完整些說,A,B,C這樣的多字段索引,對于A=?,A=? AND B=?,A=? AND B=? AND C=?這類條件都有效,但對于B=?,C=?,B=? AND C=?這種條件是無效的,還需要重新建立關(guān)于B或C的索引。

出于這個考慮,建立一次A,B,C多字段索引會對A,A/B,A/B/C條件都有效,那我們是否應(yīng)當(dāng)盡量把索引字段搞得盡量多?從索引原理上似乎是這樣,但這樣會導(dǎo)致索引表也大一圈,增加IO成本,所以也不一定,需要適當(dāng)?shù)臋?quán)衡。

用于遍歷

如果我們按上述原則正確地建立和使用了索引,是否就一定能提高性能呢?

還是不一定!

索引的初衷是用鍵值取數(shù), 大多數(shù)情況是從一個巨大的數(shù)據(jù)集中會取出很少的記錄出來。這類場景下,如果按上述原則建立和使用索引,確實是能顯著地提高性能。但有時候條件遍歷取出的記錄非常多,這就很難說是不是能提高性能了,甚至可能反而更差。

原因是這樣的:

我們前述說過,建索引時一般不會直接把原始數(shù)據(jù)集排序,而是另建一個索引表。按索引表的次序取出的數(shù)據(jù),對于原始數(shù)據(jù)集而言并不是連續(xù)存放的,數(shù)據(jù)庫優(yōu)化做得不好時甚至可能是亂序的。硬盤取出大量不連續(xù)存放的數(shù)據(jù)時會同時取出很多無關(guān)數(shù)據(jù),其耗時不能簡單地按取出數(shù)據(jù)量來計算,這時候使用索引取數(shù)的性能提升就不會象希望的那樣明顯。如果亂序時還強行使用索引則還可能導(dǎo)致重復(fù)取,對于機械硬盤再有大量的磁頭跳動時間,結(jié)果集很大時就極有可能還不如硬遍歷的性能好。不過一般商用數(shù)據(jù)庫會預(yù)估成本后選擇合適的執(zhí)行計劃,發(fā)現(xiàn)有可能是這些情況就不再使用索引了,所以看到的表現(xiàn)一般最差也就是和遍歷一樣了,但如果預(yù)估不準(zhǔn),執(zhí)行計劃搞錯了就可能出現(xiàn)還不如遍歷性能好的現(xiàn)象。

數(shù)據(jù)庫中數(shù)據(jù)一般是按插入次序存放的,如果這個次序和索引鍵序基本一致,那么會保證取出數(shù)據(jù)在物理上存放時是相對連續(xù)的,這時候再使用索引過濾,即使取出數(shù)據(jù)量較大也經(jīng)常能觀察到比較明顯的性能提升。

責(zé)任編輯:杜寧 來源: 51CTO專欄
相關(guān)推薦

2014-02-18 17:09:56

網(wǎng)絡(luò)·安全技術(shù)周刊

2017-07-26 10:08:20

SQL程序語言存儲

2011-05-13 11:46:11

網(wǎng)絡(luò)安全技術(shù)周刊

2013-04-08 19:58:57

云計算

2020-10-09 08:26:16

架構(gòu)

2018-02-06 23:30:07

文件存儲數(shù)據(jù)

2017-05-25 08:56:22

硬盤性能特征

2010-09-27 11:24:37

SQL聚簇索引

2013-01-21 13:41:59

IBMdW

2017-10-09 22:33:56

SQL等值分組有序分組

2019-11-07 16:32:26

數(shù)據(jù)智能化

2016-04-07 08:56:06

2017-05-24 16:57:54

云計算云計算半月刊

2017-05-24 17:08:29

OLAP

2016-03-08 10:29:04

51CTOIT技術(shù)周刊PCLinuxOS

2017-06-14 23:08:29

報表數(shù)據(jù)計算層

2017-10-18 22:34:33

SQL等值分組有序分組

2017-09-05 22:34:24

遍歷SQL運算

2011-01-14 10:04:35

Linux運維趨勢電子雜志

2016-08-09 10:27:26

Windows1051CTO IT技術(shù)周刊
點贊
收藏

51CTO技術(shù)棧公眾號