MySQL運維實戰(zhàn)之PHP訪問MySQL,你使用對了嗎
大家都知道,slow query系統(tǒng)做的好不好,直接決定了解決slow query的效率問題。
一個數(shù)據(jù)庫管理平臺,擁有一個好的slow query系統(tǒng),基本上就擁有了解鎖性能問題的鑰匙。
但是今天主要分享的并不是平臺,而是在平臺中看到的奇葩指數(shù)五顆星的slow issue。
好了,關子賣完了,直接進入正題:
一、癥狀
- 一堆如下慢查詢
- # User@Host: cra[cra] @ [xx] Id: 3352884621
- # Query_time: 0.183673 Lock_time: 0.000000 Rows_sent: 0 Rows_examined: 0
- use xx_db;
- SET timestamp=1549900927;
- # administrator command: Prepare;
- # Time: 2019-02-12T00:02:07.516803+08:00
- # User@Host: cra[cra] @ [xx] Id: 3351119968
- # Query_time: 0.294081 Lock_time: 0.000000 Rows_sent: 0 Rows_examined: 0
- SET timestamp=1549900927;
- # administrator command: Prepare;
從我們的監(jiān)控圖上可以看到,每天不定時間段的slow query 總數(shù)在攀升,但是卻看不到任何query 語句。
這是我接觸到的slow query優(yōu)化案例中從來沒有過的情況,比較好奇,也比較興奮,至此決心要好好看看這個問題。
二、排查
要解決這個問題,首先想到的是,如何復現(xiàn)這個問題,如何模擬復現(xiàn)這個癥狀。
- MySQL客戶端 模擬prepare
- * 模擬
- root:xx> prepare stmt1 from 'select * from xx_operation_log where id = ?';
- Query OK, 0 rows affected (0.00 sec)
- Statement prepared
- * 結(jié)果
- # Time: 2019-02-14T14:14:50.937462+08:00
- # User@Host: root[root] @ localhost [] Id: 369
- # Query_time: 0.000105 Lock_time: 0.000000 Rows_sent: 0 Rows_examined: 0
- SET timestamp=1550124890;
- prepare stmt1 from 'select * from xx_operation_log where id = ?';
結(jié)論是: MySQL client 模擬出來的prepare 并不是我們期待的,并沒有得到我們想要的 administrator command: Prepare。
- perl 模擬prepare
- #!/usr/bin/perl
- use DBI;
- my $dsn = "dbi:mysql:database=${db_name};hostname=${db_host};port=${db_port}";#數(shù)據(jù)源
- #獲取數(shù)據(jù)庫句柄
- my $dbh = DBI->connect("DBI:mysql:database=xx;host=xx", "xx", "xx", {'RaiseError' => 1});
- my $sql = qq{select * from xx_operation_log where id in (?)};
- my $sth = $dbh->prepare($sql);
- $sth->bind_param (1, '100');
- sleep 3;
- $sth->execute();
結(jié)論是:跟MySQL客戶端一樣,同樣是看不到administrator command: Prepare。
- php 模擬prepare
php模擬得到的slow 結(jié)果:
- [root@xx 20190211]# cat xx-slow.log | grep 'administrator command: Prepare' -B4 | grep 'User@Host' | grep 'xx_rx' | wc -l
- 7891
- [root@xx 20190211]# cat xx-slow.log | grep 'administrator command: Prepare' -B4 | grep 'User@Host' | wc -l
- 7908
結(jié)論: 通過php代碼,我們成功模擬出了想要的結(jié)果。
那順藤摸瓜,抓取下這段時間有相同session id的整個sql執(zhí)行過程。
MySQL開啟slow=0的抓包模式
- 可以定位到同一個session id(3415357118) 的 prepare + execute + close stmt
- # User@Host: xx_rx[xx_rx] @ [xx.xxx.xxx.132] Id: 3415357118
- # Query_time: 0.401453 Lock_time: 0.000000 Rows_sent: 0 Rows_examined: 0
- use xx_db;
- SET timestamp=1550017125;
- # administrator command: Prepare;
- # Time: 2019-02-13T08:18:45.624671+08:00
- --
- # User@Host: xx_rx[xx_rx] @ [xx.xxx.xxx.132] Id: 3415357118
- # Query_time: 0.001650 Lock_time: 0.000102 Rows_sent: 0 Rows_examined: 1
- use xx_db;
- SET timestamp=1550017125;
- update `xx` set `updated_at` = '2019-02-13 08:18:45', `has_sales_office_phone` = 1, `has_presale_permit` = 1 where `id` = 28886;
- # Time: 2019-02-13T08:18:45.626138+08:00
- --
- # User@Host: xx_rx[xx_rx] @ [xx.xxx.xxx.132] Id: 3415357118
- # Query_time: 0.000029 Lock_time: 0.000000 Rows_sent: 0 Rows_examined: 1
- use xx_db;
- SET timestamp=1550017125;
- # administrator command: Close stmt;
- # Time: 2019-02-13T08:18:45.626430+08:00
結(jié)論:我們發(fā)現(xiàn),prepare時間的確很長,但是sql語句卻執(zhí)行的很快,這就很尷尬了。
本來是想通過抓包,看看是否能夠驗證我們的猜想: prepare的語句非常大,或者條件非常復雜,從而導致prepare在服務器端很慢。
結(jié)果發(fā)現(xiàn)query語句也都非常簡單。
那么既然如此,我們就找了業(yè)務方,將對應業(yè)務的prepare方法一起看看。
結(jié)果發(fā)現(xiàn),業(yè)務使用的是php-pdo的方式,所以我們就又有了如下發(fā)現(xiàn):
php-pdo 兩種prepare模式
- http://php.net/manual/zh/pdo.prepare.php
1. 本地prepare $dbh->setAttribute(PDO::ATTR_EMULATE_PREPARES,true);
不會發(fā)送給MySQL Server
2. 服務器端prepare $dbh->setAttribute(PDO::ATTR_EMULATE_PREPARES,false);
發(fā)送給MySQL Server
驗證兩種prepare模式
- 服務端prepare模式( ATTR_EMULATE_PREPARES = false)
- <?php
- $dbms='mysql'; //數(shù)據(jù)庫類型
- $host='xxx'; //數(shù)據(jù)庫主機名
- $dbName='test'; //使用的數(shù)據(jù)庫
- $user='xx'; //數(shù)據(jù)庫連接用戶名
- $pass='123456'; //對應的密碼
- $dsn="$dbms:host=$host;dbname=$dbName";
- try {
- $pdo = new PDO($dsn, $user, $pass); //初始化一個PDO對象
- $pdo->setAttribute(PDO::ATTR_EMULATE_PREPARES,false);
- echo "----- prepare begin -----
- ";
- $stmt = $pdo->prepare("select * from test.chanpin where id = ?");
- echo "----- prepare after -----
- ";
- $stmt->execute([333333]);
- echo "----- execute after -----
- ";
- $rs = $stmt->fetchAll();
- } catch (PDOException $e) {
- die ("Error!: " . $e->getMessage() . "<br/>");
- }
strace -s200 -f php mysql1.php 跟蹤
大家可以看到這個模式下,prepare的時候,是將query+占位符 發(fā)送給服務端的:
- 本地prepare模式 (ATTR_EMULATE_PREPARES = true )
- <?php
- $dbms='mysql'; //數(shù)據(jù)庫類型
- $host='xx'; //數(shù)據(jù)庫主機名
- $dbName='test'; //使用的數(shù)據(jù)庫
- $user='xx'; //數(shù)據(jù)庫連接用戶名
- $pass='123456'; //對應的密碼
- $dsn="$dbms:host=$host;dbname=$dbName";
- try {
- $pdo = new PDO($dsn, $user, $pass); //初始化一個PDO對象
- $pdo->setAttribute(PDO::ATTR_EMULATE_PREPARES,true);
- echo "----- prepare begin -----
- ";
- $stmt = $pdo->prepare("select * from test.chanpin where id = ?");
- echo "----- prepare after -----
- ";
- $stmt->execute([333333]);
- echo "----- execute after -----
- ";
- $rs = $stmt->fetchAll();
- } catch (PDOException $e) {
- die ("Error!: " . $e->getMessage() . "<br/>");
- }
strace -s200 -f php mysql1.php 跟蹤
大家可以看到這個模式下,prepare的時候,是不會將query發(fā)送給服務端的,只有execute的時候才會發(fā)送。
跟業(yè)務方確認后,他們使用的是后者,也就是修改了默認值,他們原本是想提升數(shù)據(jù)庫的性能,因為預處理后只需要傳參數(shù)就好了。
但是對于我們的業(yè)務場景并不適合,我們的場景是頻繁打開關閉連接,也就是預處理基本就用不到。
另外文檔上面也明確指出prepared statements 性能會不好。
調(diào)整和驗證
如何驗證業(yè)務方是否將prepare修改為local了呢?
- dba:(none)> show global status like 'Com_stmt_prepare';
- +------------------+-----------+
- | Variable_name | Value |
- +------------------+-----------+
- | Com_stmt_prepare | 716836596 |
- +------------------+-----------+
- 1 row in set (0.00 sec)
通過觀察,發(fā)現(xiàn)這個值沒有變化,說明調(diào)整已經(jīng)生效。
總結(jié)
- prepare的優(yōu)點
- 1. 防止SQL注入
- 2. 特定場景下提升性能
- 什么是特定場景: 就是先去服務端用占位符占位,后面可以直接發(fā)送請求來填空(參數(shù)值)
- 這樣理論上來說, 你填空的次數(shù)非常多,性能才能發(fā)揮出來
- prepare的缺點
- 1. 在服務器端的prepare畢竟有消耗,當并發(fā)量大,頻繁prepare的時候,就會有性能問題
- 2. 服務端的prepare模式還會帶來的另外一個問題就是,排錯和slow 優(yōu)化有困難,因為大部分情況下是看不到真實query的
- 3. 盡量設置php-pdo為 $pdo->setAttribute(PDO::ATTR_EMULATE_PREPARES,true) ,在本地prepare,不要給服務器造成額外壓力
- 建議
- 1. 默認情況下,應該使用php-pdo的默認配置,采用本地prepare的方式,這樣可以做到防SQL注入的效果,性能差不到哪里去
- 2. 除非真的是有上述說的特定場景,可以考慮配置成服務器prepare模式,前提是要做好測試