自拍偷在线精品自拍偷,亚洲欧美中文日韩v在线观看不卡

優(yōu)化臨時表使用,SQL語句性能提升100倍

數(shù)據(jù)庫 MySQL
線上mysql數(shù)據(jù)庫爆出一個慢查詢,DBA觀察發(fā)現(xiàn),查詢時服務(wù)器IO飆升,IO占用率達到100%, 執(zhí)行時間長達7s左右。

【問題現(xiàn)象】

線上mysql數(shù)據(jù)庫爆出一個慢查詢,DBA觀察發(fā)現(xiàn),查詢時服務(wù)器IO飆升,IO占用率達到100%, 執(zhí)行時間長達7s左右。

SQL語句如下:

  1. SELECT DISTINCT g.*, cp.name AS cp_name, c.name AS category_name, t.name AS type_name 
  2. FROM gm_game g LEFT JOIN gm_cp cp ON cp.id = g.cp_id AND cp.deleted = 0
  3.  LEFT JOIN gm_category c ON c.id = g.category_id AND c.deleted = 0 LEFT JOIN gm_type t ON t.id = g.type_id AND t.deleted = 0
  4.  WHERE g.deleted = 0 ORDER BY g.modify_time DESC LIMIT 20 ; 

【問題分析】

使用explain查看執(zhí)行計劃,結(jié)果如下:

slow

這條sql語句的問題其實還是比較明顯的:

查詢了大量數(shù)據(jù)(包括數(shù)據(jù)條數(shù)、以及g.* ),然后使用臨時表order by,但最終又只返回了20條數(shù)據(jù)。

DBA觀察到的IO高,是因為sql語句生成了一個巨大的臨時表,內(nèi)存放不下,于是全部拷貝到磁盤,導(dǎo)致IO飆升。

【優(yōu)化方案】

優(yōu)化的總體思路是拆分sql,將排序操作和查詢所有信息的操作分開。

第一條語句:查詢符合條件的數(shù)據(jù),只需要查詢g.id即可

SELECT DISTINCT g.id FROM gm_game g LEFT JOIN gm_cp cp ON cp.id = g.cp_id AND cp.deleted = 0 LEFT JOIN gm_category c ON c.id = g.category_id AND c.deleted = 0 LEFT JOIN gm_type t ON t.id = g.type_id AND t.deleted = 0 WHERE g.deleted = 0 ORDER BY g.modify_time DESC LIMIT 20 ;

第二條語句:查詢符合條件的詳細數(shù)據(jù),將第一條sql的結(jié)果使用in操作拼接到第二條的sql

SELECT DISTINCT g.*, cp.name AS cp_name,c.name AS category_name,t.name AS type_name FROM gm_game g LEFT JOIN gm_cp cp ON cp.id = g.cp_id AND cp.deleted = 0 LEFT JOIN gm_category c ON c.id = g.category_id AND c.deleted = 0 LEFT JOIN gm_type t ON t.id = g.type_id AND t.deleted = 0 WHERE g.deleted = 0 and g.id in(…………………) ORDER BY g.modify_time DESC ;

 

【實測效果】

在SATA機器上測試,優(yōu)化前大約需要50s,優(yōu)化后第一條0.3s,第二條0.1s,優(yōu)化后執(zhí)行速度是原來的100倍以上,IO從100%降到不到1%

在SSD機器上測試,優(yōu)化前大約需要7s,優(yōu)化后第一條0.3s,第二條0.1s,優(yōu)化后執(zhí)行速度是原來的10倍以上,IO從100%降到不到1%

可以看出,優(yōu)化前磁盤io是性能瓶頸,SSD的速度要比SATA明顯要快,優(yōu)化后磁盤不再是瓶頸,SSD和SATA性能沒有差別。

【理論分析】

MySQL在執(zhí)行SQL查詢時可能會用到臨時表,一般情況下,用到臨時表就意味著性能較低。

  • 臨時表存儲

MySQL臨時表分為“內(nèi)存臨時表”和“磁盤臨時表”,其中內(nèi)存臨時表使用MySQL的MEMORY存儲引擎,磁盤臨時表使用MySQL的MyISAM存儲引擎;
一般情況下,MySQL會先創(chuàng)建內(nèi)存臨時表,但內(nèi)存臨時表超過配置指定的值后,MySQL會將內(nèi)存臨時表導(dǎo)出到磁盤臨時表;
Linux平臺上缺省是/tmp目錄,/tmp目錄小的系統(tǒng)要注意啦。

  • 使用臨時表的場景

1)ORDER BY子句和GROUP BY子句不同, 例如:ORDERY BY price GROUP BY name;

2)在JOIN查詢中,ORDER BY或者GROUP BY使用了不是第一個表的列 例如:SELECT * from TableA, TableB ORDER BY TableA.price GROUP by TableB.name

3)ORDER BY中使用了DISTINCT關(guān)鍵字 ORDERY BY DISTINCT(price)

4)SELECT語句中指定了SQL_SMALL_RESULT關(guān)鍵字 SQL_SMALL_RESULT的意思就是告訴MySQL,結(jié)果會很小,請直接使用內(nèi)存臨時表,不需要使用索引排序 SQL_SMALL_RESULT必須和GROUP BY、DISTINCT或DISTINCTROW一起使用 一般情況下,我們沒有必要使用這個選項,讓MySQL服務(wù)器選擇即可。

  • 直接使用磁盤臨時表的場景

1)表包含TEXT或者BLOB列;

2)GROUP BY 或者 DISTINCT 子句中包含長度大于512字節(jié)的列;

3)使用UNION或者UNION ALL時,SELECT子句中包含大于512字節(jié)的列;

  • 臨時表相關(guān)配置

tmp_table_size:指定系統(tǒng)創(chuàng)建的內(nèi)存臨時表最大大??; http://dev.mysql.com/doc/refman/5.1/en/server-system-variables.html#sysvar_tmp_table_size

max_heap_table_size: 指定用戶創(chuàng)建的內(nèi)存表的最大大小; http://dev.mysql.com/doc/refman/5.1/en/server-system-variables.html#sysvar_max_heap_table_size

注意:最終的系統(tǒng)創(chuàng)建的內(nèi)存臨時表大小是取上述兩個配置值的最小值。

  • 表的設(shè)計原則

使用臨時表一般都意味著性能比較低,特別是使用磁盤臨時表,性能更慢,因此我們在實際應(yīng)用中應(yīng)該盡量避免臨時表的使用。 常見的避免臨時表的方法有:

1)創(chuàng)建索引:在ORDER BY或者GROUP BY的列上創(chuàng)建索引;

2)分拆很長的列:一般情況下,TEXT、BLOB,大于512字節(jié)的字符串,基本上都是為了顯示信息,而不會用于查詢條件, 因此表設(shè)計的時候,應(yīng)該將這些列獨立到另外一張表。

  • SQL優(yōu)化

如果表的設(shè)計已經(jīng)確定,修改比較困難,那么也可以通過優(yōu)化SQL語句來減少臨時表的大小,以提升SQL執(zhí)行效率。

常見的優(yōu)化SQL語句方法如下:

1)拆分SQL語句

臨時表主要是用于排序和分組,很多業(yè)務(wù)都是要求排序后再取出詳細的分頁數(shù)據(jù),這種情況下可以將排序和取出詳細數(shù)據(jù)拆分成不同的SQL,以降低排序或分組時臨時表的大小,提升排序和分組的效率,我們的案例就是采用這種方法。

2)優(yōu)化業(yè)務(wù),去掉排序分組等操作

有時候業(yè)務(wù)其實并不需要排序或分組,僅僅是為了好看或者閱讀方便而進行了排序,例如數(shù)據(jù)導(dǎo)出、數(shù)據(jù)查詢等操作,這種情況下去掉排序和分組對業(yè)務(wù)也沒有多大影響。

  • 如何判斷使用了臨時表?

使用explain查看執(zhí)行計劃,Extra列看到Using temporary就意味著使用了臨時表。

詳細信息請參考MySQL官方手冊: http://dev.mysql.com/doc/refman/5.1/en/internal-temporary-tables.html

原文鏈接:http://tech.uc.cn/?p=2218

 

責(zé)任編輯:陳四芳 來源: http://tech.uc.cn
相關(guān)推薦

2020-03-26 12:38:15

代碼節(jié)點數(shù)據(jù)

2022-08-12 22:53:32

HadoopHDFS分布式

2012-07-03 10:26:30

SQL語句優(yōu)化

2023-09-25 13:15:50

SQL數(shù)據(jù)庫

2024-11-25 09:11:43

2021-04-21 18:57:16

二進制存儲空間

2022-04-21 07:51:51

場景JavaSQL

2021-04-29 08:11:11

SQL優(yōu)化作用

2025-04-07 02:22:00

C#性能優(yōu)化

2022-11-27 17:39:06

大數(shù)據(jù)集群性能

2024-07-17 08:25:44

2012-03-12 13:54:56

ASP.NET

2024-04-12 08:28:38

優(yōu)化查詢語句PostgreSQL索引

2012-11-21 17:35:21

Oracle技術(shù)嘉年華

2022-04-11 15:56:51

Golang代碼框架

2018-03-30 14:30:10

數(shù)據(jù)庫SQL語句性能優(yōu)化

2018-03-30 13:59:22

數(shù)據(jù)庫SQL語句性能優(yōu)化

2010-11-12 13:27:13

動態(tài)sql

2010-07-22 15:56:04

SQL Server臨

2010-09-01 11:46:01

DB2臨時表SQL
點贊
收藏

51CTO技術(shù)棧公眾號