為什么列存儲能夠大幅度提高數(shù)據(jù)的查詢性能?
傳統(tǒng)的存儲數(shù)據(jù)的方式是逐行存儲(Row Store),每一個Page存儲多行數(shù)據(jù),而列存儲(Column Store)把數(shù)據(jù)表中的每一列單獨存儲在Page集合中,這意味著,Page集合中存儲的是某一列的數(shù)據(jù),而不是一行的所有列的數(shù)據(jù)。
為什么列存儲能夠大幅度提高數(shù)據(jù)的查詢性能呢?要回答這個問題,首先必須明白SQL Server引擎是怎樣讀取數(shù)據(jù)的。在讀取數(shù)據(jù)時,SQL Server每次都把所需數(shù)據(jù)所在的整個Page讀取到內(nèi)存中,Page是數(shù)據(jù)讀取的最小單位。如果采用行存儲,每一個Page都存儲所有列的數(shù)據(jù),每行的Size決定了單個Page能夠存儲的數(shù)據(jù)行數(shù)量。
我們可以粗略計算一下,如果一個數(shù)據(jù)行有10列,每列的平均Size是10B,一行的Size是100B,那么單個Page最多存儲80行(8060B/100B);如果采用列存儲模式,那么單個Page可以存儲806行(8060B/10B)。就單個Page存儲的數(shù)據(jù)行數(shù)量而言,列存儲是行存儲的10倍,SQL Server引擎把一個Page讀取到內(nèi)存中,能夠獲取的數(shù)據(jù)行數(shù)量成10倍增加。
因此,采用列存儲模式時,每一個Page能夠存儲更多的數(shù)據(jù)行。在加載列存儲數(shù)據(jù)時,SQL Server只需要消耗少量的IO,就能把某一列的全部數(shù)據(jù)加載到緩存中。當(dāng)從列很多的大表中讀取幾個列時,相比傳統(tǒng)的行存儲(Row Store)模式,列存儲(Column Store)能夠成千上萬倍地提高數(shù)據(jù)的讀取速度和查詢性能。
一,列存儲的物理實現(xiàn)
數(shù)據(jù)表(堆,B-Tree)以行存儲模式存儲數(shù)據(jù),而列存儲索引以列存儲模式存儲數(shù)據(jù),行存儲和列存儲的示例圖:
1,列存儲的優(yōu)點
對于列存儲,列C1…C6 存儲在不同的Page組中,列存儲的有點是:
列存儲是把每一列都單獨存儲在Pages集合中,對于行存儲,哪怕只從數(shù)據(jù)表中選擇(select)一列,SQL Server引擎都把整個數(shù)據(jù)行所在的Page讀取到內(nèi)存中,而使用列存儲索引,僅僅需要把select子句指定的列讀取到內(nèi)存,不需要的列不會被讀??;因此,如果一個查詢請求只需要從少量的幾個列中獲得數(shù)據(jù),列存儲能夠大幅度提高查詢性能;
由于單個數(shù)據(jù)列的數(shù)據(jù)冗余度更高,因此同一列的數(shù)據(jù)更容易被壓縮存儲,單個Page存儲更多的數(shù)據(jù);
緩存***率提高,這是因為同一列的數(shù)據(jù)被高度壓縮,常用的Page被頻繁訪問而變得異?;钴S,Buffer Manager把活躍的數(shù)據(jù)頁緩存到內(nèi)存中,不常用的Page被換出(Page Out)。
更高級的查詢執(zhí)行技術(shù),列存儲模式讀取數(shù)據(jù)使用的是批處理模式(Batch Processing Mode),相對于傳統(tǒng)的行處理技術(shù),查詢性能更高。
2,列存儲模式的物理實現(xiàn)
SQL Server引擎分三步實現(xiàn)列存儲:
step1,列存儲索引先把數(shù)據(jù)表的所有數(shù)據(jù)行分組,每個分組也稱作行組(Row Groups)。
step2,在每個行組中,每列的所有數(shù)據(jù)行構(gòu)成一個列段(Column Segment),簡稱段。
step3,對每個段進行壓縮處理和編碼,每個段都單獨存儲在列存儲索引中。
3,編碼和壓縮
列存儲使用兩種編碼類型:基于字典(dictionary based)和基于值(value based),使用Vertipaq壓縮數(shù)據(jù)。
字典編碼是把唯一值編入字典,每一個唯一值都匹配一個序號,而序號用于索引字典,通過存儲序號來壓縮數(shù)據(jù)。如果數(shù)據(jù)表中存在大量的重復(fù)值,那么使用字典編碼壓縮率高。
值編碼用于整數(shù)類型,或小數(shù)類型,編碼的原理是把Value的范圍按照比例縮小或增大,并使用一個指數(shù)(exponent)來表示比例。如果整數(shù)(integer) 或小數(shù)(decimal)的值分布集中,那么使用基于值(value-based)編碼方法進行壓縮非常高效。
列存儲索引的物理存儲如下圖所示:
二,列存儲索引
SQL Server 2012開始引入列存儲模式,用戶通過創(chuàng)建列存儲索引(Column Store Index)來體驗列存儲模式帶來的性能提升。而列存儲模式非常適用于星型連接(Star- Join)類型的聚合查詢,所謂星型連接(Star-Join)的聚合查詢是指對一個大表(Large Table)和多個小表(Little Table)進行連接,并對Large Table 進行聚合查詢。在數(shù)據(jù)庫倉庫中,是指事實表和維度表的連接。
在大表上創(chuàng)建列存儲索引,SQL Server 引擎將充分使用批處理模式(Batch processing mode)來執(zhí)行星型查詢,獲取更高的查詢性能。
典型的Star- Join的聚合查詢類似于下面的示例腳本:
- select lt.Grouping_Columns,
- AggregationFunction(bt.Columns)
- from dbo.LittleTable lt with(nolock)
- inner join dbo.BitTable bt with(nolock)
- on lt.Int_Col1=bt.Int_col1
- where ....
- group by lt.Grouping_Columns
在SQL Server 2012中,只能創(chuàng)建非聚集的列存儲索引,由于列存儲索引的每一列都有獨立的存儲空間(Page Set),因此,列存儲索引會包含數(shù)據(jù)表的所有列,這樣,每一個數(shù)據(jù)列都會被索引到。但是,并不是每一列都能獲得的相同的性能提升,這是因為,列存儲使用的壓縮算法對于具有大量重復(fù)值的字符或數(shù)值的數(shù)據(jù),壓縮效率更高。對于列存儲索引而言,查詢性能的提升很大程度上依賴列數(shù)據(jù)的高度壓縮,這會大幅減少存儲該列數(shù)據(jù)所占用的數(shù)據(jù)頁(Data Page),進而大幅減少把數(shù)據(jù)加載到內(nèi)存所耗費的內(nèi)存和時間。
- CREATE [ NONCLUSTERED ] COLUMNSTORE INDEX index_name
- ON schema_name . table_name ( column [ ,...n ] )
- [ WITH ( DROP_EXISTING = { ON | OFF } | MAXDOP = max_degree_of_parallelism ) ]
- [ ON partition_scheme_name ( column_name ) | filegroup_name ]
一旦表上創(chuàng)建了非聚集的列存儲索引,基礎(chǔ)表就變成只讀的(read-only),不能對基礎(chǔ)表做任何更新(insert,update,delete 或merge)操作,如果需要修改數(shù)據(jù),那么,首先要禁用列存儲索引,然后更新數(shù)據(jù),***重建列存儲索引:
- ALTER INDEX mycolumnstoreindex ON mytable DISABLE;
- -- update mytable --
- ALTER INDEX mycolumnstoreindex on mytable REBUILD
由于創(chuàng)建或重建列存儲索引是IO密集型資源,十分耗費內(nèi)存資源,因此必須在系統(tǒng)空閑的情況下,更新數(shù)據(jù)。
三,列存儲索引的存儲空間
列存儲索引首先把數(shù)據(jù)分組,然后每個行組中的每個列構(gòu)成一個段(Segment),每段都是單獨存儲的,列存儲索引占用的存儲空間的大小是由所有段占用的硬盤空間的加和。
系統(tǒng)視圖:sys.column_store_segments 提供每個段的數(shù)據(jù)信息,每個段都是每個行組中的一列的數(shù)據(jù)的集合,例如,如果一個列存儲索引分為10個行組,每個行組有15個數(shù)據(jù)列,那么,該視圖將返回150個段。
View Code
可以看出,列存儲索引中每個段占用的硬盤空間是很少的,加載到內(nèi)存所需要耗費的時間,IO次數(shù)和內(nèi)存資源也是很少的,再配上性能更高的批處理模式,所以,列存儲能夠大幅度提高數(shù)據(jù)的查詢性能,特別是對星型聚合的查詢。
- select i.object_id
- ,object_name(i.object_id) as object_name
- ,i.name as index_name
- ,i.type_desc as index_type
- ,col_name(i.object_id,ic.column_id) as index_column_name
- ,sum(s.row_count) as row_count
- ,sum(s.on_disk_size)/1024/1024 as on_disk_size_mb
- from sys.column_store_segments s
- inner join sys.partitions p
- on s.partition_id=p.partition_id
- inner join sys.indexes i
- on p.object_id=i.object_id
- and p.index_id=i.index_id
- inner join sys.index_columns ic
- on i.object_id=ic.object_id
- and i.index_id=ic.index_id
- and s.column_id=ic.index_column_id
- group by i.object_id
- ,i.index_id
- ,i.name
- ,i.type_desc
- ,ic.column_id
- order by i.object_id
- ,i.name
- ,index_column_name